Membangun dan berbagi UI obrolan dengan Aplikasi Databricks

Gunakan Aplikasi Databricks untuk membangun dan menyebarkan UI obrolan untuk agen Anda. Templat aplikasi agen menyertakan UI obrolan ini tanpa penyiapan tambahan. Gunakan halaman ini untuk mengkustomisasi antarmuka pengguna templat atau untuk menambahkan UI obrolan ke agen yang disebarkan tanpa templat.

Contoh UI obrolan untuk berbincang dengan agen yang dikerahkan.

Persyaratan

UI obrolan ini dapat berfungsi dengan semua agen Azure Databricks, kecuali skema lama, termasuk:

Anda harus memiliki alat pengembangan berikut:

  • NPM CLI: Diperlukan untuk pengembangan lokal. Lihat GitHub - NPM CLI

  • Databricks CLI: Diperlukan untuk autentikasi, lihat panduan penginstalan.

    1. Instal Databricks CLI.
    2. Atur nama profil Anda: 
      export DATABRICKS_CONFIG_PROFILE='your_profile_name'
    3. Mengonfigurasi autentikasi: 
      databricks auth login --profile "$DATABRICKS_CONFIG_PROFILE"

Contoh aplikasi obrolan

Contoh aplikasi, e2e-chatbot-app-next menggunakan NextJS, React, dan AI SDK untuk membangun antarmuka obrolan siap produksi.

Lihat README.md proyek untuk instruksi terperinci tentang cara menggunakan templat.

Contoh aplikasi menunjukkan hal berikut:

  • Streaming output: Menampilkan respons agen saat mereka dihasilkan dengan pengalihan otomatis ke mode non-streaming
  • Panggilan alat: Memproses panggilan alat untuk agen yang ditulis menggunakan praktik terbaik Agent Framework
  • Autentikasi Databricks: Menggunakan autentikasi Databricks untuk mengidentifikasi pengguna akhir aplikasi obrolan dan mengelola percakapan mereka dengan aman.
  • Riwayat obrolan persisten: Menyimpan percakapan di Databricks Lakebase (Postgres) dengan tata kelola penuh

Buka bagian berikut untuk mengaktifkan fitur opsional:

Mengaktifkan riwayat obrolan

Mengaktifkan riwayat obrolan

Secara default, percakapan disimpan dalam memori saja dan hilang saat sesi berakhir. Untuk mempertahankan riwayat di PostgreSQL, jalankan skrip mulai cepat yang dijelaskan dalam templat README.md.

Mengaktifkan umpan balik pengguna

Mengaktifkan umpan balik pengguna

Pengguna dapat memberikan umpan balik jempol ke atas/bawah terhadap respons, yang dicatat dalam eksperimen MLflow.

Jika Anda menggunakan templat agen seperti agent-openai-agents-sdk atau agent-langgraph, bundel secara otomatis mengonfigurasi autentikasi untuk aplikasi guna menulis umpan balik pengguna ke eksperimen MLflow. Umpan balik berfungsi setelah databricks bundle deploy tanpa langkah tambahan.

Jika Anda menggunakan aplikasi mandiri e2e-chatbot-app-next yang mengarah ke endpoint dari agen yang sudah ada, jalankan skrip cepat mulai yang dijelaskan dalam templat README.md untuk mengonfigurasi autentikasi untuk eksperimen MLflow.

Nota

Ikat juga database Lakebase untuk menyimpan status jempol naik/turun setelah halaman dimuat ulang. Lihat Mengaktifkan riwayat obrolan.

Menghosting beberapa aplikasi pada instans database yang sama

Menghosting beberapa aplikasi pada instans database yang sama

Contoh ini hanya membuat satu database per aplikasi, karena kode aplikasi menargetkan ai_chatbot skema tetap dalam instans database. Untuk menghosting beberapa aplikasi dari instans yang sama, Anda harus melakukan hal berikut:

  1. Perbarui nama instans database di databricks.yml.
  2. Perbarui referensi ke ai_chatbot di basis kode ke nama skema baru yang Anda inginkan dalam instans database yang ada.
  3. Jalankan npm run db:generate untuk meregenerasi migrasi database.
  4. Sebarkan aplikasi.
Mengaktifkan otorisasi pengguna (Pratinjau Umum)

Mengaktifkan otorisasi pengguna

Penting

Otorisasi pengguna ada di Pratinjau Umum. Admin ruang kerja Anda harus mengaktifkannya sebelum dapat mengonfigurasi otorisasi pengguna untuk aplikasi Anda.

Beberapa titik akhir layanan mengharuskan aplikasi untuk meneruskan token akses pengguna daripada token perwakilan layanan aplikasi. Ini disebut otorisasi pengguna, kadang-kadang disebut sebagai otorisasi atas nama pengguna.

Titik akhir Agen Supervisor selalu memerlukan otorisasi pengguna. Model kustom yang melayani titik akhir juga memerlukan otorisasi pengguna ketika titik akhir memiliki cakupan API yang dikonfigurasi dalam kebijakan autentikasinya.

Untuk mengonfigurasi otorisasi pengguna, tambahkan cakupan yang diperlukan saat Anda membuat atau mengedit aplikasi di antarmuka pengguna Azure Databricks:

  1. Di langkah Konfigurasi sumber daya , di bawah Otorisasi pengguna, klik +Tambahkan cakupan.
  2. Tambahkan cakupan serving.serving-endpoints. Cakupan ini diperlukan untuk semua titik akhir yang menggunakan otorisasi pengguna.
  3. Tambahkan cakupan tambahan yang tercantum dalam kebijakan autentikasi titik akhir.

Untuk petunjuk mendetail, lihat Menambahkan cakupan ke aplikasi.

Templat e2e-chatbot-app-next secara otomatis mendeteksi apakah titik akhir penyajian yang dikonfigurasi memerlukan otorisasi pengguna. Jika aplikasi kehilangan cakupan yang diperlukan, aplikasi akan menampilkan banner peringatan yang mencantumkan cakupan yang hilang.

Membagikan aplikasi

Berikan izin kepada pengguna untuk melihat aplikasi (lihat Mengonfigurasi izin untuk aplikasi Databricks), lalu bagikan URL aplikasi.

Batasan yang diketahui

  • Tidak ada dukungan untuk gambar atau input multi-modal lainnya
  • Aplikasi ini hanya mendukung autentikasi Databricks CLI (pengembangan lokal) dan autentikasi perwakilan layanan (aplikasi yang disebarkan) saja. PAT, identitas terkelola Azure, dan mekanisme lainnya tidak didukung.
  • Cakupan fungsi Katalog Unity tidak didukung untuk otorisasi pengguna.

Aplikasi obrolan agen Streamlit

Templat Streamlit sebelumnya, e2e-chatbot-app, masih tersedia tetapi tidak memiliki fitur produksi e2e-chatbot-app-next.

  • Last updated on