Menggunakan Agent Bricks: Asisten Pengetahuan untuk membuat chatbot berkualitas tinggi di atas dokumen Anda

Penting

Fitur ini ada di Beta.

Halaman ini menjelaskan cara menggunakan Agent Bricks: Knowledge Assistant untuk membuat chatbot tanya jawab atas dokumen Anda dan meningkatkan kualitasnya berdasarkan umpan balik bahasa alami dari pakar materi pelajaran Anda.

Agent Bricks menyediakan pendekatan sederhana tanpa kode untuk membangun dan mengoptimalkan sistem agen AI khusus domain dan berkualitas tinggi untuk kasus penggunaan AI umum.

Apa itu Agent Bricks: Knowledge Assistant?

Gunakan Agent Bricks: Asisten Pengetahuan untuk membuat chatbot yang dapat Anda ajukan pertanyaan tentang dokumen Anda dan menerima respons berkualitas tinggi dengan kutipan. Asisten Pengetahuan menggunakan AI tingkat lanjut dan mengikuti pendekatan retrieval-augmented generation (RAG) untuk memberikan jawaban yang akurat dan andal berdasarkan pengetahuan khusus domain yang Anda berikan.

Agent Bricks: Asisten Pengetahuan sangat ideal untuk mendukung kasus penggunaan berikut:

• Jawab pertanyaan pengguna berdasarkan dokumentasi produk.
• Menjawab pertanyaan karyawan yang terkait dengan kebijakan SDM.
• Jawab pertanyaan pelanggan berdasarkan pangkalan pengetahuan dukungan.

Asisten Pengetahuan memungkinkan Anda meningkatkan kualitas agen obrolan dan menyesuaikan perilakunya berdasarkan umpan balik bahasa alami dari pakar materi pelajaran Anda. Berikan pertanyaan untuk sesi pelabelan dan kirimkan ke pakar untuk ditinjau di Aplikasi Ulasan. Respons mereka memberikan data berlabel yang membantu mengoptimalkan performa agen.

Agent Bricks: Knowledge Assistant membuat titik akhir agen RAG end-to-end yang dapat Anda gunakan di hilir untuk aplikasi Anda. Misalnya, gambar di bawah ini menunjukkan bagaimana Anda dapat berinteraksi dengan titik akhir dengan mengobrol dengannya di AI Playground. Ajukan pertanyaan kepada agen yang terkait dengan dokumen Anda, dan agen akan menjawab dengan menyertakan kutipan.

Persyaratan

• Ruang kerja yang menyertakan yang berikut ini:
  • Pratinjau Bata Agen AI Mosaik (Beta) diaktifkan. Lihat Mengelola Pratinjau Azure Databricks di sini.
  • Komputasi tanpa server diaktifkan. Lihat Mengaktifkan komputasi tanpa server.
  • Katalog Unity diaktifkan. Lihat Mengaktifkan ruang kerja untuk Unity Catalog.
  • Fitur bantuan AI yang didukung mitra diaktifkan di ruang kerja Anda.
  • Ruang kerja di salah satu wilayah yang didukung: eastus, , eastus2, westus, centralusatau northcentralus.
  • Akses ke Mosaic AI Model Serving.
  • Akses ke model fondasi di Unity Catalog melalui system.ai skema.
  • Akses ke kebijakan anggaran tanpa server dengan anggaran nonzero.
• Anda harus memiliki data input yang siap digunakan. Anda dapat memilih untuk menyediakan:
  • Berkas dalam volume atau direktori volume Katalog Unity. Jenis file yang didukung adalah txt, pdf, md, ppt/pptx, dan doc/docx.
  • Indeks pencarian vektor.

Membuat asisten agen informasi

Buka Agen di panel navigasi kiri ruang kerja Anda dan klik Asisten Pengetahuan.

Langkah 1: Mengonfigurasi agen Anda

Pada tab Konfigurasikan , konfigurasikan agen Anda dan berikan sumber pengetahuan untuk digunakan untuk menjawab pertanyaan.

1. Di bidang Nama , masukkan nama untuk agen Anda.

2. Di bidang Deskripsi , jelaskan apa yang dapat dilakukan agen Anda.

3. Di bidang Skema , pilih katalog dan skema Katalog Unity untuk menyimpan himpunan data evaluasi Anda.

4. Di panel Sumber pengetahuan , tambahkan sumber pengetahuan Anda. Anda dapat memilih untuk menyediakan file Katalog Unity atau indeks pencarian vektor.

   Berkas UC

   Untuk file UC, jenis file berikut didukung: txt, pdf, md, ppt/pptx, dan doc/docx. Databricks merekomendasikan penggunaan file yang lebih kecil dari 32 MB.

   

   1. Di bawah Jenis, pilih File UC.
   2. Di bidang Sumber , pilih volume Katalog Unity atau direktori volume yang berisi file Anda.
   3. Di bidang Nama , masukkan nama untuk sumber pengetahuan Anda.
   4. Di bawah Jelaskan konten, jelaskan konten apa yang dikandung sumber pengetahuan untuk membantu agen memahami kapan menggunakan sumber data ini.

   Indeks Pencarian Vektor

   

   1. Di bawah Jenis, pilih Indeks Pencarian Vektor.
   2. Di bidang Sumber , pilih indeks pencarian vektor yang ingin Anda berikan kepada agen.
   3. Di Kolom URI Dokumen, pilih kolom dengan tautan atau referensi ke tempat informasi berasal. Agen akan menggunakan ini dalam kutipannya.
   4. Di bidang Kolom Teks , tentukan kolom yang berisi teks mentah yang Anda inginkan untuk diambil oleh agen.
   5. Di bidang Nama , masukkan nama untuk sumber pengetahuan Anda.
   6. Di bawah Jelaskan konten, jelaskan konten apa yang dikandung sumber pengetahuan untuk membantu agen memahami kapan menggunakan sumber data ini.

5. (Opsional) Jika Anda ingin menambahkan lebih banyak sumber pengetahuan, klik Tambahkan sumber pengetahuan. Anda dapat menyediakan hingga 10 sumber pengetahuan.

6. (Opsional) Di bidang Instruksi , tentukan panduan tentang bagaimana agen harus merespons.

   

7. Klik Buat Agen.

Dibutuhkan waktu hingga beberapa jam untuk membuat agen Anda dan menyinkronkan sumber pengetahuan yang Anda berikan. Panel sisi kanan akan diperbarui dengan tautan ke agen yang disebarkan, eksperimen, dan sumber pengetahuan yang disinkronkan.

Langkah 2: Uji agen Anda

Setelah agen selesai membangun, Anda dapat mengujinya dengan mencobanya di AI Playground. Agen harus merespons dengan kutipan untuk pertanyaan yang terkait dengan sumber pengetahuannya.

1. Di panel sisi kanan di bawah Agen yang Disebarkan, klik Coba di Playground. Ini membuka AI Playground dengan titik akhir agen Anda tersambung. Di sini, Anda dapat mengobrol dengan agen Anda dan meninjau responsnya.

   

2. Jika Anda mengaktifkan fitur bantuan AI, Anda dapat mengaktifkan AI Judge dan Pembuatan pertanyaan Sintetis untuk membantu Anda mengevaluasi agen Anda.

3. Masukkan pertanyaan untuk agen Anda.

4. Evaluasi responsnya:

   

   1. Klik Tampilkan pemikiran untuk melihat bagaimana agen Anda menanggapi pertanyaan tersebut.
   2. Klik kotak di bawah Sumber untuk melihat file apa yang dikutip agen. Ini membuka file di panel samping untuk Anda tinjau.
   3. Hakim AI dapat membantu dengan cepat mengevaluasi respons terhadap kenyataan, keamanan, dan relevansi.
   4. Tinjau Pertanyaan yang disarankan untuk pertanyaan tambahan untuk diajukan kepada agen Anda.

Jika Anda puas dengan performa agen Anda, lanjutkan menggunakan agen as-is.

Langkah 3: Meningkatkan kualitas

Agent Bricks: Knowledge Assistant dapat menyesuaikan perilaku agen berdasarkan umpan balik bahasa alami. Kumpulkan umpan balik manusia melalui sesi pelabelan untuk meningkatkan kualitas agen Anda. Mengumpulkan data berlabel untuk agen Anda dapat meningkatkan kualitasnya. Agent Bricks akan mengoptimalkan dan melatih kembali agen dari data baru.

Di tab Tingkatkan kualitas , tambahkan pertanyaan dan mulai sesi pelabelan.

1. Tambahkan pertanyaan untuk disertakan dalam sesi pelabelan Anda:

   1. Klik + Tambahkan untuk menambahkan pertanyaan.
   2. Di modal Tambahkan pertanyaan , masukkan pertanyaan Anda.
   3. Klik Tambahkan. Pertanyaan akan muncul di UI.
   4. Ulangi hingga Anda menambahkan semua pertanyaan yang ingin Anda evaluasi.
   5. Untuk menghapus pertanyaan, klik menu kebab, lalu Hapus.

   Databricks merekomendasikan untuk menambahkan setidaknya 20 pertanyaan untuk sesi pelabelan untuk memastikan data berlabel yang cukup dikumpulkan.

   

2. Setelah selesai menambahkan pertanyaan, kirim pertanyaan ke pakar untuk ditinjau guna membantu Anda membangun himpunan data berlabel berkualitas tinggi. Di sebelah kanan, klik Mulai sesi pelabelan.

   Saat sesi pelabelan Anda siap, UI akan diperbarui seperti yang ditunjukkan di bawah ini.

   

3. Bagikan aplikasi ulasan dengan para ahli untuk mengumpulkan umpan balik.

   Untuk mempelajari lebih lanjut mengenai sesi pelabelan dan aplikasi review, lihat Gunakan aplikasi review untuk tinjauan manusia dari aplikasi AI generatif (MLflow 2).

   Nota

   Agar para ahli dapat mengakses sesi pelabelan, Anda perlu memberi mereka izin berikut:

   • Izin bisa membuka kueri pada titik akhir
   • Izin untuk mengedit eksperimen
   • USE CATALOG, USE SCHEMA, dan SELECT izin ke skema

4. Untuk memberi label data sendiri, klik Buka sesi pelabelan.

   Ini akan membuka aplikasi peninjauan di tab baru. Sebagai peninjau:

   1. Klik Mulai tinjauan. Untuk setiap pertanyaan, peninjau akan melihat pertanyaan dan respons agen.

   2. Di sisi kiri, tinjau pertanyaan dan jawabannya. Anda dapat mengklik Lihat pemikiran untuk melihat bagaimana agen memikirkan pertanyaan tersebut.

   3. Di sisi kanan, di bawah Ekspektasi, tinjau panduan yang ada dan tambahkan lebih banyak sesuai keinginan Anda.

      1. Untuk menambahkan pedoman, klik + Tambahkan input.
      2. Masukkan pedoman dalam kotak teks yang muncul.
      3. Kliklah Simpan.

   4. Di bawah Umpan Balik, masukkan umpan balik Anda, lalu klik Simpan.

   5. Setelah selesai meninjau pertanyaan, klik Berikutnya yang belum ditinjau > di kanan atas untuk melanjutkan ke pertanyaan berikutnya.

   6. Setelah selesai meninjau semua pertanyaan, cukup keluar dari aplikasi ulasan.

      

5. Saat peninjau Anda selesai dengan sesi pelabelan, kembali ke tab Tingkatkan kualitas agen Anda.

6. Klik Gabungkan untuk menggabungkan umpan balik dari pakar ke himpunan data berlabel Anda. Tabel pertanyaan di sisi kanan akan diperbarui dengan umpan balik gabungan.

   

7. Tinjau catatan umpan balik.

8. Uji agen lagi di AI Playground untuk melihat peningkatan performanya. Jika diperlukan, mulai sesi pelabelan lain untuk mengumpulkan lebih banyak data berlabel.

Keterbatasan

• Databricks merekomendasikan penggunaan file yang lebih kecil dari 32 MB untuk dokumen sumber Anda.
• Ruang kerja yang menggunakan Azure Private Link, termasuk penyimpanan di belakang PrivateLink, tidak didukung.
• Tabel Katalog Unity tidak didukung.