Menggunakan agen pada Azure Databricks

Halaman ini menyediakan gambaran umum alat untuk membangun, menyebarkan, dan menggunakan agen AI di Azure Databricks. Untuk mempelajari selengkapnya tentang agen, lihat Pola desain sistem agen.

Feature	Description
Memulai: GenAI tanpa kode	Coba AI Playground untuk pengujian dan prototipe berbasis UI.
Memulai: MLflow 3 untuk GenAI	Coba MLflow untuk pelacakan GenAI, evaluasi, dan umpan balik dari manusia.

Melayani dan mengkueri model bahasa besar (LLM) gen AI

Menyajikan serangkaian model AI gen yang dikumpulkan dari penyedia LLM seperti OpenAI dan Anthropic dan membuatnya tersedia melalui API yang aman dan dapat diskalakan.

Feature	Description
Model Dasar	Menyajikan model AI gen, termasuk model sumber terbuka dan pihak ketiga seperti Meta Llama, Anthropic Claude, OpenAI GPT, dan banyak lagi.

Membangun dan menyebarkan agen AI tingkat perusahaan

Bangun dan terapkan agen Anda sendiri, termasuk agen pemanggil alat, aplikasi generasi yang ditingkatkan dengan pengambilan, dan sistem multi-agen. Untuk titik awal tanpa kode, gunakan AI Playground untuk memilih LLM, menambahkan alat, dan mengobrol dengan agen untuk menguji responsnya sebelum mengekspor ke kode.

Feature	Description
AI Playground (tanpa kode)	Prototipe dan menguji agen AI di lingkungan tanpa kode. Bereksperimen dengan cepat dengan perilaku agen dan integrasi alat sebelum menghasilkan kode untuk penyebaran.
Asisten Informasi	Buat dan optimalkan chatbot AI khusus domain menggunakan antarmuka intuitif.
Supervisor Agen	Bangun agen supervisor yang mengatur Agen Genie, titik akhir agen, fungsi Unity Catalog, server MCP, dan agen kustom.
Membangun agen kustom	Menulis, menyebarkan, dan mengevaluasi agen menggunakan Python. Mendukung agen yang dibuat menggunakan library authoring apa pun, termasuk LangGraph, LangChain, OpenAI, dan LlamaIndex. Terintegrasi dengan Pelacakan MLflow. Iterasi dengan cepat menggunakan Aplikasi Databricks. Untuk memulai dengan cepat, lihat Mulai menggunakan agen AI.
Hubungkan agen ke alat	Buat alat agen untuk mengkueri data terstruktur dan tidak terstruktur, menjalankan kode, atau menyambungkan ke API layanan eksternal.
MCP (Protokol Konteks Model)	Standarisasi bagaimana agen terhubung ke data dan alat dengan antarmuka yang aman dan konsisten.

Menggunakan agen eksternal

Jika agen Anda berjalan di luar Databricks, daftarkan sebagai Layanan Agen di Unity Catalog untuk membuatnya dapat ditemukan oleh tim Anda dan mengatur siapa yang dapat menggunakannya.

Feature	Description
Layanan Agen (Beta)	Daftarkan agen eksternal di Unity Catalog. Telusuri dan temukan agen di seluruh tim dalam satu tampilan, serta kendalikan akses dengan izin akses yang sama yang melindungi tabel, model, dan fungsi Anda.

Mengevaluasi, men-debug, dan mengoptimalkan agen

Lacak performa agen, kumpulkan umpan balik, dan dorong peningkatan kualitas dengan alat evaluasi dan pelacakan.

Feature	Description
Pelacakan MLflow	Gunakan Pelacakan MLflow untuk pengamatan end-to-end. Catat setiap langkah yang dilakukan agen Anda untuk men-debug, memantau, dan mengaudit perilaku agen dalam pengembangan dan produksi.
Evaluasi Agen	Gunakan Evaluasi Agen dan MLflow untuk mengukur kualitas, biaya, dan latensi. Kumpulkan umpan balik dari pemangku kepentingan dan pakar subjek melalui aplikasi ulasan bawaan dan gunakan hakim LLM untuk mengidentifikasi dan menyelesaikan masalah kualitas.
Memantau agen	Gunakan konfigurasi evaluasi yang sama (hakim LLM dan metrik kustom) dalam evaluasi offline dan pemantauan online.