Tutorial: Menyebarkan aplikasi web obrolan perusahaan

Dalam artikel ini, Anda menyebarkan aplikasi web obrolan perusahaan yang menggunakan data Anda dengan model bahasa besar di portal Microsoft Foundry.

Sumber data Anda membumikan model dengan data tertentu. Grounding berarti model menggunakan data Anda untuk memahami konteks pertanyaan Anda. Anda tidak mengubah model yang disebarkan itu sendiri. Data Anda tetap terpisah dan aman di sumber data asli Anda.

Langkah-langkah dalam tutorial ini adalah:

• Mengonfigurasi sumber daya.
• Tambahkan data Anda.
• Uji model dengan data Anda.
• Sebarkan aplikasi web Anda.

Prasyarat

Nota

Dokumen ini hanya mengacu pada portal Microsoft Foundry (klasik ).

Anda harus menggunakan proyek berbasis hub untuk fitur ini. Proyek Foundry tidak didukung. Lihat Bagaimana cara mengetahui jenis proyek mana yang saya miliki? dan Membuat proyek berbasis hub.

• Sebuah akun Azure dengan langganan aktif. Jika Anda tidak memilikinya, buat akun Azure gratis, yang menyertakan langganan uji coba gratis.
• Jika Anda tidak memilikinya, buat proyek berbasis hub.

• Model obrolan Azure OpenAI yang disebarkan. Seleseikan panduan memulai cepat Foundry playground untuk menciptakan resource ini jika Anda belum memiliki satu.

• Koneksi layanan Pencarian untuk mengindeks data produk sampel. Jika Anda tidak memilikinya, ikuti langkah-langkah untuk membuat dan menyambungkan layanan pencarian.

• Salinan lokal data produk. Repositori Azure-Samples/rag-data-openai-python-promptflow di GitHub memiliki sampel informasi produk ritel untuk skenario tutorial ini. File product_info_11.md ini memiliki informasi produk tentang sepatu pendakian TrailWalker untuk contoh tutorial ini. Unduh contoh data produk ritel Contoso Trek dalam file ZIP ke komputer lokal Anda.

• Penyedia sumber daya Microsoft.Web yang terdaftar dalam langganan yang dipilih sehingga Anda dapat menyebarkan ke aplikasi web. Untuk informasi selengkapnya tentang mendaftarkan penyedia sumber daya, lihat Mendaftarkan penyedia sumber daya.

• Izin yang diperlukan untuk menambahkan penetapan peran di langganan Azure Anda. Hanya Pemilik sumber daya Azure tertentu yang dapat memberikan izin berdasarkan penetapan peran.

Portal Foundry dan portal Microsoft Azure

Dalam tutorial ini, Anda melakukan beberapa tugas di portal Foundry dan beberapa tugas di portal Microsoft Azure.

Portal Foundry adalah lingkungan berbasis web untuk membangun, melatih, dan menyebarkan model AI. Sebagai pengembang, di sinilah Anda membangun dan menyebarkan aplikasi web obrolan Anda.

Portal Microsoft Azure memungkinkan admin mengelola dan memantau sumber daya Azure. Sebagai admin, Anda menggunakan portal untuk menyiapkan pengaturan untuk berbagai layanan Azure yang diperlukan untuk akses dari aplikasi web.

Mengonfigurasi sumber daya

Penting

Anda harus memiliki izin yang diperlukan untuk menambahkan penetapan peran di langganan Azure Anda. Memberikan izin berdasarkan penetapan peran hanya diizinkan oleh Pemilik sumber daya Azure tertentu. Anda mungkin perlu meminta pemilik langganan Azure Anda (yang mungkin admin TI Anda) untuk menyelesaikan bagian ini untuk Anda.

Untuk membuat sumber daya berfungsi dengan benar di aplikasi web, siapkan izin yang benar di portal Microsoft Azure.

Pertama, identifikasi sumber daya yang perlu Anda siapkan di portal Foundry.

1. Buka portal Foundry, lalu pilih proyek berbasis hub yang Anda gunakan untuk menyebarkan model obrolan Azure OpenAI.

2. Pilih Pusat Manajemen dari panel kiri.

3. Pilih Sumber daya tersambung di bawah proyek Anda.

4. Identifikasi tiga sumber daya yang perlu Anda konfigurasi: Azure OpenAI, Azure AI Search, dan penyimpanan Azure Blob yang sesuai dengan workspaceblobstore Anda.

   

   Petunjuk / Saran

   Jika Anda tidak melihat Jenis dalam tabel, pilih Kolom di sudut kanan atas dan tambahkan atau susun ulang kolom yang dipilih. Jika Anda memiliki beberapa sumber daya Azure OpenAI , gunakan sumber daya yang berisi model obrolan yang Anda sebarkan.

5. Cari masing-masing nama ini di portal Microsoft Azure. Buka masing-masing di tab browser baru sehingga Anda dapat beralih di antara mereka.

6. Setelah selesai, Anda memiliki tiga tab browser baru yang terbuka: Layanan pencarian, Foundry, dan Kontainer blobstore. Biarkan ketiga tab terbuka karena Anda beralih di antara tab tersebut untuk menyiapkan sumber daya.

Aktifkan identitas terkelola

Di tab browser untuk sumber daya layanan Pencarian di portal Microsoft Azure, aktifkan identitas terkelola:

1. Di panel kiri, di bawah Pengaturan, pilih Identitas.
2. Alihkan Status ke Aktif.
3. Pilih Simpan.

Di tab browser untuk sumber daya Foundry di portal Microsoft Azure, aktifkan identitas terkelola:

1. Di panel kiri, di bawah Manajemen Sumber Daya, pilih Identitas.
2. Alihkan Status ke Aktif.
3. Pilih Simpan.

Mengatur kontrol akses untuk pencarian

Di tab browser untuk sumber daya layanan Pencarian di portal Microsoft Azure, atur kebijakan akses API:

1. Di panel kiri, di bawah Pengaturan, pilih Kunci.
2. Di bawah Kontrol akses API, pilih Keduanya.
3. Saat diminta, pilih Ya untuk mengonfirmasi.

Menetapkan peran

Ulangi pola ini untuk setiap sumber daya dalam langkah-langkah di bawah ini.

Pola umum untuk menetapkan kontrol akses berbasis peran (RBAC) untuk sumber daya apa pun adalah:

1. Navigasikan ke portal Azure untuk sumber daya yang diberikan.
2. Dari halaman kiri di portal Azure, pilih Kontrol akses (IAM).
3. Pilih + Tambahkan>Tambahkan penetapan peran.
4. Cari peran yang perlu Anda tetapkan dan pilih. Kemudian pilih Berikutnya.
5. Saat menetapkan peran untuk diri Anda sendiri:
   1. Pilih Pengguna, grup, atau perwakilan layanan.
   2. Pilih Pilih anggota.
   3. Cari nama Anda dan pilih nama tersebut.
6. Saat menetapkan peran ke sumber daya lain:
   1. Pilih Identitas yang Dikelola.
   2. Pilih Pilih anggota.
   3. Gunakan menu dropdown untuk menemukan jenis sumber daya yang ingin Anda tetapkan. Misalnya, Foundry Tools atau layanan Pencarian.
   4. Pilih sumber daya dari daftar yang muncul. Mungkin hanya ada satu, tetapi Anda masih perlu memilihnya.
7. Lanjutkan melalui wizard dan pilih Tinjau + tetapkan untuk menambahkan penetapan peran.

Gunakan langkah-langkah ini untuk menetapkan peran untuk sumber daya yang Anda siapkan dalam tutorial ini:

• Tetapkan peran ini di tab browser untuk layanan Pencarian di portal Microsoft Azure:

  • Pembaca Data Indeks Pencarian ke identitas terkelola Foundry
  • Kontributor Layanan Pencarian untuk identitas terkelola Foundry
  • Kontributor untuk diri Anda sendiri (untuk menemukan Kontributor, beralihlah ke tab Peran administrator istimewa di bagian atas. Semua peran lain ada di tab Peran fungsi pekerjaan.)

• Tetapkan peran ini di tab browser untuk Foundry di portal Microsoft Azure:

  • Kontributor OpenAI Cognitive Services ke identitas terkelola layanan Pencarian
  • Kontributor untuk diri sendiri.

• Tetapkan peran ini di tab browser untuk penyimpanan Azure Blob di portal Microsoft Azure:

  • Kontributor Data Blob Penyimpanan ke identitas terkelola Foundry
  • Pembaca Data Blob Penyimpanan ke identitas terkelola layanan Pencarian
  • Kontributor untuk diri Anda sendiri

Anda sudah selesai menyiapkan sumber daya. Anda dapat menutup tab browser portal Microsoft Azure sekarang jika Anda mau.

Tambahkan data Anda dan coba model obrolan lagi

Dalam Panduan Awal Foundry Playground (yang merupakan prasyarat untuk tutorial ini), Anda melihat bagaimana model Anda merespons tanpa data Anda. Tambahkan data Anda ke model sehingga dapat menjawab pertanyaan tentang produk Anda.

Untuk menyelesaikan bagian ini, Anda memerlukan salinan lokal data produk. Repositori Azure-Samples/rag-data-openai-python-promptflow di GitHub berisi contoh informasi produk ritel yang relevan untuk skenario tutorial ini. Secara khusus, file berisi product_info_11.md informasi produk tentang sepatu hiking TrailWalker yang relevan untuk contoh tutorial ini. Unduh contoh data produk ritel Contoso Trek dalam file ZIP ke komputer lokal Anda.

Ikuti langkah-langkah ini untuk menambahkan data Anda di taman bermain obrolan untuk membantu asisten menjawab pertanyaan tentang produk Anda. Anda tidak mengubah model yang disebarkan itu sendiri. Data Anda disimpan secara terpisah dan aman di langganan Azure Anda.

1. Buka proyek Anda di Microsoft Foundry.

2. Pilih Playgrounds dari panel kiri.

3. Pilih Coba taman bermain obrolan.

4. Pilih model obrolan yang Anda sebarkan dari menu dropdown Penyebaran .

   

5. Di sisi kiri playground obrolan, pilih Tambahkan data> Anda+ Tambahkan sumber data baru.

   

6. Di menu dropdown Sumber data , pilih Unggah file.

   

7. Pilih Unggah>Unggah file untuk menelusuri file lokal Anda.

8. Pilih file yang ingin Anda unggah. Pilih file informasi produk yang Anda unduh atau buat sebelumnya. Tambahkan semua file sekarang. Anda tidak akan dapat menambahkan lebih banyak file nanti di sesi playground yang sama.

9. Pilih Unggah untuk mengunggah file ke akun penyimpanan Azure Blob Anda. Kemudian pilih Berikutnya.

   

10. Pilih layanan Pencarian Azure AI Anda.

11. Untuk nama indeks Vektor, masukkan info produk dan pilih Berikutnya.

12. Pada halaman Pengaturan pencarian di bawah Pengaturan vektor, batal pilih kotak centang Tambahkan pencarian vektor ke sumber daya pencarian ini. Pengaturan ini membantu menentukan bagaimana model merespons permintaan. Kemudian pilih Berikutnya.

    Nota

    Jika Anda menambahkan pencarian vektor, lebih banyak opsi akan tersedia di sini dengan biaya tambahan.

13. Tinjau pengaturan Anda dan pilih Buat indeks vektor.

14. Di taman bermain, Anda dapat melihat bahwa penyerapan data Anda sedang berlangsung. Proses ini mungkin memakan waktu beberapa menit. Sebelum melanjutkan, tunggu hingga Anda melihat sumber data dan nama indeks sebagai pengganti status.

    

15. Anda sekarang dapat mengobrol dengan model yang mengajukan pertanyaan yang sama seperti sebelumnya ("Berapa banyak sepatu pendakian TrailWalker"), dan kali ini menggunakan informasi dari data Anda untuk membangun respons. Anda dapat memperluas tombol referensi untuk melihat data yang digunakan.

Menyebarkan aplikasi web Anda

Ketika Anda puas dengan pengalaman di portal Foundry, sebarkan model sebagai aplikasi web mandiri.

Temukan grup sumber daya Anda di portal Azure

Dalam tutorial ini, sebarkan aplikasi web Anda ke grup sumber daya yang sama dengan hub Foundry Anda. Anda akan menyiapkan autentikasi untuk aplikasi web di portal Microsoft Azure.

Ikuti langkah-langkah ini untuk masuk ke grup sumber daya Anda di portal Microsoft Azure:

1. Buka proyek Anda di Foundry. Pilih Pusat Manajemen dari panel kiri.

2. Di bawah judul Proyek , pilih Gambaran Umum.

3. Pilih nama grup sumber daya untuk membuka grup sumber daya di portal Azure. Dalam contoh ini, grup sumber daya diberi nama rg-sdg-ai.

   

4. Anda sekarang berada di portal Microsoft Azure, melihat konten grup sumber daya tempat Anda menyebarkan hub. Perhatikan nama dan lokasi grup sumber daya. Anda akan menggunakan informasi ini di bagian berikutnya.

5. Biarkan halaman ini tetap terbuka di tab browser. Anda akan kembali ke itu nanti.

Menggunakan aplikasi web

Penerbitan membuat Azure App Service di langganan Anda. Anda mungkin dikenakan biaya tergantung pada paket harga yang Anda pilih. Setelah selesai dengan aplikasi, hapus dari portal Microsoft Azure.

Untuk menyebarkan aplikasi web:

Penting

Daftarkan Microsoft.Web sebagai penyedia sumber daya sebelum Anda menyebarkan ke aplikasi web.

1. Selesaikan langkah-langkah di bagian sebelumnya untuk menambahkan data Anda ke taman bermain. Anda dapat menyebarkan aplikasi web dengan atau tanpa data Anda sendiri, tetapi Anda memerlukan model yang telah disebarkan seperti yang dijelaskan dalam Foundry playground quickstart.

2. Pilih Sebarkan > ... sebagai aplikasi web.

   

3. Pada halaman Sebarkan ke aplikasi web, masukkan detail berikut ini:

   • Nama: Nama unik untuk aplikasi web Anda.
   • Langganan: Langganan Azure Anda. Jika Anda tidak melihat langganan yang tersedia, pertama-tama daftarkan Microsoft.Web sebagai penyedia sumber daya.
   • Grup sumber daya: Pilih grup sumber daya untuk menyebarkan aplikasi web. Gunakan grup sumber daya yang sama dengan hub.
   • Lokasi: Pilih lokasi untuk menyebarkan aplikasi web. Gunakan lokasi yang sama dengan hub.
   • Paket harga: Pilih paket harga untuk aplikasi web.
   • Aktifkan riwayat obrolan di aplikasi web: Untuk tutorial, kotak riwayat obrolan tidak dipilih. Jika Anda mengaktifkan fitur ini, pengguna Anda memiliki akses ke masing-masing kueri dan respons sebelumnya. Untuk informasi selengkapnya, lihat keterangan riwayat obrolan.

4. Pilih Sebarkan.

5. Tunggu hingga aplikasi disebarkan. Proses ini mungkin memakan waktu beberapa menit.

6. Setelah siap, tombol Luncurkan diaktifkan pada toolbar. Jangan luncurkan aplikasi, dan jangan tutup halaman taman bermain obrolan—Anda akan kembali ke aplikasi tersebut nanti.

Mengonfigurasi autentikasi aplikasi web

Secara default, hanya Anda yang dapat mengakses aplikasi web. Dalam tutorial ini, tambahkan autentikasi untuk membatasi akses ke anggota penyewa Azure Anda. Pengguna masuk dengan akun Microsoft Entra mereka untuk mengakses aplikasi Anda. Anda dapat mengikuti proses serupa untuk menambahkan IdP lain jika mau. Aplikasi ini hanya menggunakan informasi masuk pengguna untuk memverifikasi bahwa mereka adalah anggota penyewa Anda.

1. Kembali ke tab browser dengan portal Microsoft Azure, atau buka portal Microsoft Azure di tab browser baru. Lihat konten grup sumber daya tempat Anda menyebarkan aplikasi web. Anda mungkin perlu me-refresh tampilan untuk melihat aplikasi web.

2. Pilih sumber daya App Service dari daftar sumber daya di grup sumber daya.

3. Dari menu kiri yang dapat diciutkan di bawah Pengaturan, pilih Autentikasi.

   

4. Jika Anda melihat Microsoft mencantumkan Penyedia Identitas di halaman ini, tidak ada yang diperlukan lebih lanjut. Anda dapat melewati langkah berikutnya.

5. Tambahkan IdP dengan pengaturan berikut:

   • Penyedia identitas: Pilih Microsoft sebagai penyedia identitas. Pengaturan default di halaman ini membatasi aplikasi hanya untuk penyewa Anda, sehingga Anda tidak perlu mengubah hal lain di sini.
   • Jenis penyewa: Tenaga kerja
   • Pendaftaran aplikasi: Membuat pendaftaran aplikasi baru
   • Nama: Nama layanan aplikasi web Anda
   • Jenis akun yang didukung: Penyewa saat ini - Penyewa tunggal
   • Membatasi akses: Memerlukan autentikasi
   • Permintaan yang tidak diautentikasi: Pengalihan HTTP 302 Ditemukan - direkomendasikan untuk situs web

Menggunakan aplikasi web

Anda hampir selesai. Sekarang Anda dapat menguji aplikasi web.

1. Jika Anda mengubah pengaturan, tunggu sekitar 10 menit agar pengaturan autentikasi diterapkan.

2. Kembali ke tab browser yang berisi halaman uji coba obrolan di portal Foundry.

3. Pilih Luncurkan untuk membuka aplikasi web yang disebarkan. Jika diminta, terima permintaan izin.

4. Jika Anda tidak melihat Luncurkan di taman bermain, pilih Aplikasi web dari panel kiri, lalu pilih aplikasi Anda dari daftar untuk membukanya.

   Jika pengaturan autentikasi belum aktif, tutup tab browser untuk aplikasi web Anda dan kembali ke taman bermain obrolan di portal Foundry. Tunggu sedikit lebih lama, lalu coba lagi.

5. Di aplikasi web Anda, ajukan pertanyaan yang sama seperti sebelumnya ("Berapa banyak sepatu pendakian TrailWalker"). Kali ini, aplikasi menggunakan informasi dari data Anda untuk membangun respons. Perluas tombol referensi untuk melihat data yang digunakan.

   

Memahami riwayat obrolan

Dengan fitur riwayat obrolan, pengguna Anda dapat melihat kueri dan respons mereka sebelumnya.

Aktifkan riwayat obrolan saat Anda menyebarkan aplikasi web. Pilih kotak centang Aktifkan riwayat obrolan di aplikasi web.

Penting

Mengaktifkan riwayat obrolan membuat instans Cosmos DB di grup sumber daya Anda, dan dikenakan biaya tambahan untuk penyimpanan yang digunakan. Menghapus aplikasi web Anda tidak menghapus instans Cosmos DB Anda secara otomatis. Untuk menghapus instans Cosmos DB dan semua obrolan yang disimpan, buka sumber daya terkait di portal Microsoft Azure dan hapus.

Setelah mengaktifkan riwayat obrolan, pengguna Anda dapat menampilkan atau menyembunyikannya di sudut kanan atas aplikasi. Saat riwayat ditampilkan, mereka dapat mengganti nama atau menghapus percakapan. Saat mereka masuk ke aplikasi, percakapan diurutkan dari yang terbaru ke terlama dan dinamai berdasarkan kueri pertama dalam percakapan.

Jika Anda menghapus sumber daya Cosmos DB tetapi tetap mengaktifkan opsi riwayat obrolan di studio, pengguna Anda akan melihat kesalahan koneksi tetapi dapat terus menggunakan aplikasi web tanpa riwayat obrolan.

Memperbarui aplikasi web

Gunakan taman bermain untuk menambahkan lebih banyak data atau menguji model dengan skenario yang berbeda. Saat Anda siap untuk memperbarui aplikasi web dengan model baru, pilih Sebarkan > ... sebagai aplikasi web lagi. Pilih Perbarui aplikasi web yang sudah ada, dan pilih aplikasi web yang ada dari daftar. Model baru disebarkan ke aplikasi web yang ada.

Membersihkan sumber daya

Untuk menghindari biaya Azure yang tidak perlu, hapus sumber daya yang Anda buat dalam mulai cepat ini jika Anda tidak membutuhkannya. Mengelola sumber daya di portal Microsoft Azure.

Konten terkait

• Mulai membuat aplikasi obrolan menggunakan SDK alur perintah
• Membangun aplikasi obrolan kustom dengan Azure AI SDK