Bagikan melalui

Prototipe agen pemanggilan alat di AI Playground

Artikel ini menunjukkan cara memprototipe agen AI yang dapat memanggil alat dengan AI Playground.

Gunakan AI Playground untuk dengan cepat membuat agen yang memanggil alat dan mengobrol secara langsung dengannya untuk melihat bagaimana ia berperilaku. Kemudian, ekspor agen untuk penyebaran atau pengembangan lebih lanjut dalam kode Python.

Untuk membuat agen menggunakan pendekatan berbasis kode, lihat Membuat agen AI dalam kode.

Persyaratan

Ruang kerja Anda harus mengaktifkan fitur berikut untuk membuat prototipe agen menggunakan AI Playground:

Prototipe agen pemanggil alat di AI Playground

Untuk membuat prototipe agen pemanggil alat:

  1. Dari Playground, pilih model yang berlabel 'Tools yang diaktifkan'.

    Pilih LLM pemanggil alat

  2. Klik Alat > + Tambahkan alat dan pilih alat untuk memberi agen. Anda dapat memilih hingga 20 alat. Opsi alat meliputi:

    • Fungsi yang Dihosting: Pilih fungsi Katalog Unity untuk digunakan agen Anda.
    • Definisi Fungsi: Tentukan fungsi kustom yang dapat digunakan oleh agen Anda.
    • Pencarian Vektor: Tentukan indeks pencarian vektor untuk digunakan agen Anda sebagai alat untuk membantu merespons kueri. Jika agen Anda menggunakan indeks pencarian vektor, responsnya akan mengutip sumber yang digunakan.

    Untuk panduan ini, pilih fungsi Katalog Unity bawaan, system.ai.python_exec. Fungsi ini memberi agen Anda kemampuan untuk menjalankan kode Python arbitrer. Untuk mempelajari cara membuat alat untuk agen, lihat alat agen AI.

    Pilih alat fungsi terkelola

    Anda juga dapat memilih indeks pencarian vektor, yang memungkinkan agen Anda mengkueri indeks untuk membantu merespons kueri.

    Pilih alat pencarian vektor

  3. Cobalah mengobrol untuk menguji kombinasi LLM, alat, dan prompt sistem yang ada saat ini, serta bereksperimen dengan berbagai variasi. LLM memilih alat yang sesuai untuk digunakan untuk menghasilkan respons.

    Membuat prototipe LLM dengan alat fungsi yang dihosting

    Saat mengajukan pertanyaan yang terkait dengan informasi dalam indeks pencarian vektor, LLM meminta informasi yang dibutuhkan dan mengutip dokumen sumber apa pun yang digunakan dalam responsnya.

    Membuat prototipe LLM dengan alat pencarian vektor

Mengekspor dan meluncurkan agen dari AI Playground

Setelah membuat prototipe agen AI di AI Playground, ekspor agen tersebut ke notebook Python untuk menerapkannya ke endpoint layanan model.

  1. Klik Ekspor untuk menghasilkan buku catatan yang mengkonfigurasi dan meluncurkan agen AI.

    Setelah mengekspor kode agen, sebuah folder yang berisi notebook driver disimpan ke ruang kerja Anda. Driver ini mendefinisikan pemanggilan alat LangGraph ChatAgent, melakukan pengujian agen secara lokal, menggunakan pelogging berbasis kode , mendaftarkan, dan menyebarkan agen AI menggunakan Mosaic AI Agent Framework.

  2. Atasi semua TODOdi buku catatan.

Nota

Kode yang diekspor mungkin berperilaku berbeda dari sesi AI Playground Anda. Databricks merekomendasikan untuk menjalankan notebook yang diekspor untuk melakukan iterasi dan debug lebih lanjut, mengevaluasi kualitas agen, lalu menyebarkan agen untuk berbagi dengan orang lain.

Mengembangkan agen dalam kode

Gunakan notebook yang diekspor untuk menguji dan melakukan iterasi secara terprogram. Gunakan notebook untuk melakukan hal-hal seperti menambahkan alat atau menyesuaikan parameter agen.

Saat mengembangkan secara terprogram, agen harus memenuhi persyaratan khusus agar kompatibel dengan fitur agen Databricks lainnya. Untuk mempelajari cara menulis agen AI menggunakan pendekatan code-first, lihat Menulis agen AI dalam kode

Langkah berikutnya