Tutorial: Menyebarkan aplikasi web obrolan perusahaan (klasik)

Hanya berlaku untuk:Portal Foundry (klasik). Artikel ini tidak tersedia untuk portal Foundry baru. Pelajari selengkapnya tentang portal baru.

Nota

Tautan dalam artikel ini mungkin membuka konten dalam dokumentasi Microsoft Foundry baru alih-alih dokumentasi Foundry (klasik) yang Anda lihat sekarang.

Dalam artikel ini, Anda menyebarkan aplikasi web obrolan perusahaan yang menggunakan data Anda dengan model bahasa besar di portal Microsoft Foundry.

Sumber data Anda membumikan model dengan data tertentu. Grounding berarti model menggunakan data Anda untuk memahami konteks pertanyaan Anda. Anda tidak mengubah model yang disebarkan itu sendiri. Data Anda tetap terpisah dan aman di sumber data asli Anda.

Langkah-langkah dalam tutorial ini adalah:

• Mengonfigurasi sumber daya.
• Tambahkan data Anda.
• Uji model dengan data Anda.
• Sebarkan aplikasi web Anda.

Prasyarat

Penting

Artikel ini menyediakan dukungan warisan untuk proyek berbasis hub. Ini tidak akan berfungsi untuk proyek Foundry. Lihat Bagaimana saya tahu jenis proyek apa yang saya miliki?

catatan kompatibilitas SDK: Contoh kode memerlukan versi SDK Foundry Microsoft tertentu. Jika Anda mengalami masalah kompatibilitas, pertimbangkan migrasi dari berbasis hub ke Foundry project.

• Akun Azure dengan langganan aktif. Jika Anda tidak memilikinya, buat akun Azure free, yang menyertakan langganan uji coba gratis.
• Jika Anda tidak memilikinya, buat proyek berbasis hub.

• Model obrolan Azure OpenAI yang diterapkan. Seleseikan panduan memulai cepat Foundry playground untuk menciptakan resource ini jika Anda belum memiliki satu.

• Koneksi Search service untuk mengindeks data produk sampel. Jika Anda tidak memilikinya, ikuti langkah-langkah untuk membuat dan menghubungkan layanan pencarian.

• Salinan lokal dari data produk. Repositori Azure-Samples/rag-data-openai-python-promptflow pada GitHub memiliki sampel informasi produk ritel untuk skenario tutorial ini. File product_info_11.md ini memiliki informasi produk tentang sepatu pendakian TrailWalker untuk contoh tutorial ini. Unduh contoh data produk ritel Contoso Trek dalam file ZIP ke komputer lokal Anda.

• Sebuah Microsoft. Web penyedia sumber daya yang terdaftar dalam langganan yang dipilih sehingga Anda dapat menyebarkan ke aplikasi web. Untuk informasi selengkapnya tentang mendaftarkan penyedia sumber daya, lihat Daftarkan Penyedia Sumber Daya.

• Izin yang diperlukan untuk menambahkan penetapan peran di langganan Azure Anda. Hanya Pemilik sumber daya Azure tertentu yang dapat memberikan izin berdasarkan penetapan peran.

Portal Foundry dan portal Azure

Dalam tutorial ini, Anda melakukan beberapa tugas di portal Foundry dan beberapa tugas di portal Azure.

Portal Foundry adalah lingkungan berbasis web untuk membangun, melatih, dan menyebarkan model AI. Sebagai pengembang, di sinilah Anda membangun dan menyebarkan aplikasi web obrolan Anda.

Portal Azure memungkinkan admin mengelola dan memantau sumber daya Azure. Sebagai admin, Anda menggunakan portal untuk menyiapkan pengaturan untuk berbagai layanan Azure yang diperlukan untuk akses dari aplikasi web.

Mengonfigurasi sumber daya

Penting

Anda harus memiliki izin yang diperlukan untuk menambahkan penetapan peran di langganan Azure Anda. Memberikan izin berdasarkan penetapan peran hanya diizinkan oleh Pemilik sumber daya Azure tertentu. Anda mungkin perlu meminta pemilik langganan Azure Anda (yang mungkin admin TI Anda) untuk menyelesaikan bagian ini untuk Anda.

Untuk membuat sumber daya berfungsi dengan benar di aplikasi web, siapkan izin yang benar di portal Azure.

Pertama, identifikasi sumber daya yang perlu Anda siapkan di portal Foundry.

1. Buka portal Foundry, lalu pilih proyek berbasis hub yang Anda gunakan untuk menyebarkan model obrolan OpenAI Azure.

2. Pilih Pusat Manajemen dari panel kiri.

3. Pilih Sumber daya yang terhubung di bawah proyek Anda.

4. Identifikasi tiga sumber daya yang perlu Anda konfigurasi: Azure OpenAI, Pencarian Azure AI, dan penyimpanan Blob Azure yang sesuai dengan workspaceblobstore anda.

   

   Petunjuk / Saran

   Jika Anda tidak melihat Jenis dalam tabel, pilih Kolom di sudut kanan atas dan tambahkan atau susun ulang kolom yang dipilih. Jika Anda memiliki beberapa sumber daya Azure OpenAI, gunakan sumber daya yang berisi model obrolan yang Anda sebarkan.

5. Cari masing-masing nama ini di portal Azure. Buka masing-masing di tab browser baru sehingga Anda dapat beralih di antara mereka.

6. Setelah selesai, Anda memiliki tiga tab browser baru yang terbuka: Search service, Foundry, dan blobstore Container. Biarkan ketiga tab tetap terbuka karena Anda berpindah-pindah di antara tab tersebut untuk menyiapkan sumber daya.

Aktifkan identitas terkelola

Di tab browser untuk layanan Search di portal Azure, aktifkan identitas terkelola:

1. Di panel kiri, di bawah Pengaturan, pilih Identitas.
2. Alihkan Status ke Aktif.
3. Pilih Simpan.

Di tab browser untuk sumber daya Foundry di portal Azure, aktifkan identitas terkelola:

1. Di panel kiri, di bawah Manajemen Sumber Daya, pilih Identitas.
2. Alihkan Status ke Aktif.
3. Pilih Simpan.

Mengatur kontrol akses untuk pencarian

Di tab browser untuk sumber daya Search di portal Azure, atur kebijakan akses API:

1. Di panel kiri, di bawah Pengaturan, pilih Kunci.
2. Di bawah API Access control, pilih Both.
3. Saat diminta, pilih Ya untuk mengonfirmasi.

Menetapkan peran

Ulangi pola ini untuk setiap sumber daya dalam langkah-langkah di bawah ini.

Pola umum untuk menetapkan access control berbasis peran (RBAC) untuk sumber daya apa pun adalah:

1. Navigasikan ke portal Azure untuk sumber daya yang diberikan.
2. Dari halaman kiri di portal Azure, pilih Kontrol akses (IAM).
3. Pilih + Tambahkan>Tambahkan penetapan peran.
4. Cari peran yang perlu Anda tetapkan dan pilih. Kemudian pilih Berikutnya.
5. Saat menetapkan peran untuk diri Anda sendiri:
   1. Pilih Pengguna, grup, atau perwakilan layanan.
   2. Pilih Pilih anggota.
   3. Cari nama Anda dan pilih nama tersebut.
6. Saat menetapkan peran ke sumber daya lain:
   1. Pilih Identitas yang Dikelola.
   2. Pilih Pilih anggota.
   3. Gunakan menu dropdown untuk menemukan jenis sumber daya yang ingin Anda tetapkan. Misalnya, alat "Foundry Tools" atau layanan pencarian.
   4. Pilih sumber daya dari daftar yang muncul. Mungkin hanya ada satu, tetapi Anda masih perlu memilihnya.
7. Lanjutkan melalui wizard dan pilih Tinjau + tetapkan untuk menambahkan penugasan peran.

Gunakan langkah-langkah ini untuk menetapkan peran untuk sumber daya yang Anda siapkan dalam tutorial ini:

• Tetapkan peran ini di tab browser untuk layanan Search di portal Azure:

  • Pembaca Data Indeks Pencarian ke identitas terkelola Foundry
  • Search Service Contributor untuk identitas terkelola Foundry
  • Kontributor untuk diri Anda sendiri (untuk menemukan Kontributor, beralihlah ke tab Peran administrator istimewa di bagian atas. Semua peran lain ada di tab Peran fungsi pekerjaan.)

• Tetapkan peran ini di tab browser untuk Foundry di portal Azure:

  • Cognitive Services OpenAI Contributor ke Search service identitas terkelola
  • Kontributor untuk diri sendiri.

• Tetapkan peran ini di tab browser untuk penyimpanan Blob Azure di portal Azure:

  • Storage Kontributor Data Blob ke identitas terkelola Foundry
  • Storage Blob Data Reader untuk identitas terkelola dari layanan pencarian
  • Kontributor untuk diri Anda sendiri

Anda sudah selesai menyiapkan sumber daya. Anda dapat menutup tab browser portal Azure sekarang jika Anda mau.

Tambahkan data Anda dan coba model obrolan lagi

Dalam Panduan Awal Foundry Playground (yang merupakan prasyarat untuk tutorial ini), Anda melihat bagaimana model Anda merespons tanpa data Anda. Tambahkan data Anda ke model sehingga dapat menjawab pertanyaan tentang produk Anda.

Untuk menyelesaikan bagian ini, Anda memerlukan salinan lokal data produk. Repositori Azure-Samples/rag-data-openai-python-promptflow pada GitHub berisi contoh informasi produk ritel yang relevan untuk skenario tutorial ini. Secara khusus, file product_info_11.md berisi informasi produk tentang sepatu hiking TrailWalker yang relevan dengan tutorial ini. Unduh contoh data produk ritel Contoso Trek dalam file ZIP ke komputer lokal Anda.

Ikuti langkah-langkah ini untuk menambahkan data Anda di taman bermain obrolan untuk membantu asisten menjawab pertanyaan tentang produk Anda. Anda tidak mengubah model yang sudah dialokasikan itu sendiri. Data Anda disimpan secara terpisah dan aman di langganan Azure Anda.

1. Buka proyek Anda di Microsoft Foundry.

2. Pilih Playgrounds dari panel kiri.

3. Pilih Coba halaman percobaan chat.

4. Pilih model obrolan yang sudah Anda sebarkan dari menu tarik-turun Penyebaran.

   

5. Di sisi kiri playground obrolan, pilih Tambahkan data Anda>+ Tambahkan sumber data baru.

   

6. Di menu dropdown Sumber data , pilih Unggah file.

   

7. Pilih Unggah>Unggah file untuk menelusuri file lokal Anda.

8. Pilih file yang ingin Anda unggah. Pilih file informasi produk yang Anda unduh atau dibuat sebelumnya. Tambahkan semua file sekarang. Anda tidak akan dapat menambahkan lebih banyak file nanti di sesi playground yang sama.

9. Pilih Upload untuk mengunggah file ke akun penyimpanan Blob Azure Anda. Kemudian pilih Berikutnya.

   

10. Pilih layanan Pencarian Azure AI Anda.

11. Untuk nama indeks Vektor, masukkan info produk dan pilih Berikutnya.

12. Pada halaman Pengaturan pencarian di bawah Pengaturan vektor, batal pilih kotak centang Tambahkan pencarian vektor ke sumber daya pencarian ini. Pengaturan ini membantu menentukan bagaimana model merespons permintaan. Kemudian pilih Berikutnya.

    Nota

    Jika Anda menambahkan pencarian vektor, lebih banyak opsi akan tersedia di sini dengan biaya tambahan.

13. Tinjau pengaturan Anda dan pilih Buat indeks vektor.

14. Di taman bermain, Anda dapat melihat bahwa penyerapan data Anda sedang berlangsung. Proses ini mungkin memakan waktu beberapa menit. Sebelum melanjutkan, tunggu hingga Anda melihat sumber data dan nama indeks sebagai pengganti status.

    

15. Anda sekarang dapat mengobrol dengan model dengan pertanyaan yang sama seperti sebelumnya ("Berapa harga sepatu pendakian TrailWalker"), dan kali ini menggunakan informasi dari data Anda untuk membangun jawaban. Anda dapat memperluas tombol referensi untuk melihat data yang digunakan.

Menyebarkan aplikasi web Anda

Ketika Anda puas dengan pengalaman di portal Foundry, sebarkan model sebagai aplikasi web mandiri.

Menemukan grup sumber daya Anda di portal Azure

Dalam tutorial ini, sebarkan aplikasi web Anda ke grup sumber daya yang sama dengan hub Foundry Anda. Anda akan menyiapkan autentikasi untuk aplikasi web di portal Azure.

Ikuti langkah-langkah ini untuk masuk ke grup sumber daya Anda di portal Azure:

1. Buka project Anda di Foundry. Pilih Pusat Manajemen dari panel kiri.

2. Di bawah judul Project, pilih Gambaran Umum.

3. Pilih nama grup sumber daya untuk membuka grup sumber daya di portal Azure. Dalam contoh ini, grup sumber daya diberi nama rg-sdg-ai.

   

4. Anda sekarang berada di portal Azure, melihat isi dari grup sumber daya tempat Anda menyebarkan hub. Perhatikan nama dan lokasi grup sumber daya. Anda akan menggunakan informasi ini di bagian berikutnya.

5. Biarkan halaman ini tetap terbuka di tab browser. Anda akan kembali ke itu nanti.

Menggunakan aplikasi web

Penerbitan membuat Azure App Service di dalam langganan Anda. Anda mungkin dikenakan biaya tergantung pada paket pricing yang Anda pilih. Setelah selesai dengan aplikasi, hapus dari portal Azure.

Untuk menyebarkan aplikasi web:

Penting

Daftar Microsoft. Web sebagai penyedia sumber daya sebelum Anda menyebarkan ke aplikasi web.

1. Selesaikan langkah-langkah di bagian sebelumnya untuk menambahkan data Anda ke taman bermain. Anda dapat menyebarkan aplikasi web dengan atau tanpa data Anda sendiri, tetapi Anda memerlukan model yang telah disebarkan seperti yang dijelaskan dalam Foundry playground quickstart.

2. Pilih Sebarkan > ... sebagai aplikasi web.

   

3. Pada halaman Sebarkan ke aplikasi web, masukkan detail berikut ini:

   • Nama: Nama unik untuk aplikasi web Anda.
   • Subscription: Langganan Azure Anda. Jika Anda tidak melihat langganan yang tersedia, pertama-tama register Microsoft. Web sebagai penyedia sumber daya.
   • Grup sumber daya: Pilih grup sumber daya untuk menyebarkan aplikasi web. Gunakan grup sumber daya yang sama dengan hub.
   • Lokasi: Pilih lokasi untuk menyebarkan aplikasi web. Gunakan lokasi yang sama dengan hub.
   • Paket harga: Pilih paket harga untuk aplikasi web.
   • Aktifkan riwayat obrolan di aplikasi web: Untuk tutorial, kotak riwayat obrolan tidak dipilih. Jika Anda mengaktifkan fitur ini, pengguna Anda memiliki akses ke pertanyaan dan jawaban masing-masing sebelumnya. Untuk informasi selengkapnya, lihat keterangan riwayat obrolan.

4. Pilih Sebarkan.

5. Tunggu sampai aplikasi diluncurkan. Proses ini dapat berlangsung beberapa menit.

6. Setelah siap, tombol Luncurkan diaktifkan pada toolbar. Jangan luncurkan aplikasi, dan jangan tutup halaman taman bermain obrolan—Anda akan kembali ke aplikasi tersebut nanti.

Mengonfigurasi autentikasi aplikasi web

Secara default, hanya Anda yang dapat access aplikasi web. Dalam tutorial ini, tambahkan autentikasi untuk membatasi akses ke anggota penyewa Azure Anda. Pengguna masuk dengan akun Microsoft Entra mereka untuk mengakses aplikasi Anda. Anda dapat mengikuti proses serupa untuk menambahkan penyedia identitas lain jika Anda mau. Aplikasi ini hanya menggunakan informasi masuk pengguna untuk memverifikasi bahwa mereka adalah anggota penyewa Anda.

1. Kembali ke tab browser dengan portal Azure, atau buka portal Azure di tab browser baru. Lihat konten grup sumber daya tempat Anda menyebarkan aplikasi web. Anda mungkin perlu me-refresh tampilan untuk melihat aplikasi web.

2. Pilih sumber daya App Service dari daftar sumber daya dalam grup sumber daya.

3. Dari menu kiri yang dapat diciutkan di bawah Pengaturan, pilih Autentikasi.

   

4. Jika Anda melihat Microsoft sebagai Penyedia Identitas di halaman ini, tidak diperlukan tindakan lebih lanjut. Anda dapat melewati langkah berikutnya.

5. Tambahkan penyedia identitas (IdP) dengan pengaturan-pengaturan berikut:

   • penyedia identitas: Pilih Microsoft sebagai penyedia identitas. Pengaturan default di halaman ini membatasi aplikasi hanya untuk penyewa Anda, sehingga Anda tidak perlu mengubah hal lain di sini.
   • Jenis penyewa: Tenaga kerja
   • Pendaftaran aplikasi: Membuat pendaftaran aplikasi baru
   • Name: Nama layanan aplikasi web Anda
   • Jenis akun yang didukung: Penyewa saat ini - Penyewa tunggal
   • Restrict access: Memerlukan autentikasi
   • Permintaan yang tidak diautentikasi: pengalihan HTTP 302 Found - direkomendasikan untuk situs web

Menggunakan aplikasi web

Anda hampir selesai. Sekarang Anda dapat menguji aplikasi web.

1. Jika Anda mengubah pengaturan, tunggu sekitar 10 menit agar pengaturan autentikasi diterapkan.

2. Kembali ke tab browser yang berisi halaman uji coba obrolan di portal Foundry.

3. Pilih Luncurkan untuk membuka aplikasi web yang disebarkan. Jika diminta, terima permintaan izin.

4. Jika Anda tidak melihat Launch di taman bermain, pilih Web apps dari panel kiri, lalu pilih aplikasi Anda dari daftar untuk membukanya.

   Jika pengaturan autentikasi belum aktif, tutup tab browser untuk aplikasi web Anda dan kembali ke taman bermain obrolan di portal Foundry. Tunggu sedikit lebih lama, lalu coba lagi.

5. Di aplikasi web Anda, ajukan pertanyaan yang sama seperti sebelumnya ("Berapa banyak sepatu pendakian TrailWalker"). Kali ini, aplikasi menggunakan informasi dari data Anda untuk membangun respons. Perluas tombol referensi untuk melihat data yang digunakan.

   

Memahami riwayat obrolan

Dengan fitur riwayat obrolan, pengguna Anda dapat melihat kueri dan respons mereka sebelumnya.

Aktifkan riwayat obrolan saat Anda menyebarkan aplikasi web. Pilih kotak centang Aktifkan riwayat obrolan di aplikasi web.

Penting

Mengaktifkan riwayat obrolan membuat instans Cosmos DB di grup sumber daya Anda, dan dikenakan biaya tambahan untuk storage yang digunakan. Menghapus aplikasi web Anda tidak menghapus instans Cosmos DB Anda secara otomatis. Untuk menghapus instans Cosmos DB dan semua obrolan yang disimpan, buka sumber daya terkait di portal Azure dan hapus.

Setelah mengaktifkan riwayat obrolan, pengguna Anda dapat menampilkan atau menyembunyikannya di sudut kanan atas aplikasi. Saat riwayat ditampilkan, mereka dapat mengganti nama atau menghapus percakapan. Saat mereka masuk ke aplikasi, percakapan diurutkan dari yang terbaru ke terlama dan dinamai berdasarkan kueri pertama dalam percakapan.

Jika Anda menghapus sumber daya Cosmos DB tetapi tetap mengaktifkan opsi riwayat obrolan di studio, pengguna Anda akan melihat kesalahan koneksi tetapi dapat terus menggunakan aplikasi web tanpa riwayat obrolan.

Memperbarui aplikasi web

Gunakan taman bermain untuk menambahkan lebih banyak data atau menguji model dengan skenario yang berbeda. Saat Anda siap untuk memperbarui aplikasi web dengan model baru, pilih Sebarkan > ... sebagai aplikasi web lagi. Pilih Perbarui aplikasi web yang sudah ada, dan pilih aplikasi web yang ada dari daftar. Model baru diterapkan ke aplikasi web yang eksisting.

Membersihkan sumber daya

Untuk menghindari biaya Azure yang tidak perlu, hapus sumber daya yang Anda buat dalam mulai cepat ini jika Anda tidak membutuhkannya. Kelola sumber daya di portal Azure.

Konten terkait

• Mulai membangun aplikasi chat
• Bangun aplikasi chat kustom dengan Azure AI SDK