Sebarkan agen di Azure Databricks

Untuk menjalankan agen dalam produksi, Anda menyebarkan kodenya ke layanan komputasi terkelola yang melayani permintaan dari pengguna dan aplikasi Anda. Agen yang dideploy memiliki tiga lapisan: framework atau harness Anda, server agen, dan runtime agen. Agent Bricks menyediakan opsi di setiap lapisan, mulai dari DurableAgentServer hingga Agent Runtime pada Databricks Apps.

Stack komputasi agen

Agen yang dideploy memiliki tiga lapisan. Setiap lapisan membungkus lapisan di bawahnya.

Stack komputasi agen: framework atau harness Anda, dibungkus oleh server agen yang mengeksposkan API invokasi, berjalan di Agent Runtime.

Lapisan Apa fungsinya Pilihan di Azure Databricks
Kerangka atau harness Menjalankan loop agen: memanggil model dan alat serta memutuskan apa yang harus dilakukan selanjutnya. Framework atau harness apa pun, seperti LangGraph atau OpenAI Agents SDK, atau meta-harness seperti Omnigent.
Agen server Membungkus loop agen di server HTTP. Server agen mengekspos API pemanggilan, mengelola koneksi klien, dan menangani durabilitas. DurableAgentServer (direkomendasikan), server agen lama, atau server Anda sendiri.
runtime agen Menjalankan server agen pada komputasi terkelola dan menangani hosting, identitas, serta penskalaan. Runtime Agen di Databricks Apps.

Istilah berikut menjelaskan bagaimana lapisan-lapisan tersebut bekerja bersama:

Istilah Apa artinya
Invocation API API HTTP yang dipanggil klien untuk menjalankan agen. Lihat agen kueri yang disebarkan di Azure Databricks.
Serve Runtime agen menjalankan server agen, yang melayani agen Anda melalui API pemanggilan.
Terapkan / Kerahkan Masukkan kode agen Anda ke dalam runtime agen.

Note

Databricks Sandbox bukanlah lapisan dari stack komputasi. Ini adalah alat yang dipanggil agen Anda untuk menjalankan kode di lingkungan terisolasi, terpisah dari waktu eksekusi agen, dengan akses dengan cakupan terbatas ke data yang Anda kelola. Gunakan sandbox saat agen Anda menulis dan menjalankan kode, seperti skrip analisis data. Untuk memberikan alat sandbox ke proyek CLI, jalankan agentbricks tools add sandbox.

Kerangka atau harness

Kerangka kerja atau harness adalah kode agen Anda. Ini menjalankan loop yang bernalar dengan model, memanggil alat, dan memutuskan kapan harus merespons. Agent Bricks tidak memerlukan framework khusus.

Kerangka atau harness Kapan digunakan
Templates Memulai agen baru. Agent Bricks CLI membuat kerangka proyek untuk LangGraph dan OpenAI Agents SDK. Template menjaga kode framework Anda tetap terpisah dari kode yang menghubungkannya ke server agen.
Agen yang sudah ada Membawa agen yang sudah Anda buat dengan LangGraph atau OpenAI Agents SDK. Jalankan agentbricks init --existing di direktorinya. Lihat Tambahkan agen yang sudah ada.
Meta-harness Menggabungkan beberapa harness, seperti agen pengkoding, menjadi satu agen dengan Omnigent.

Server Agent

Server agen adalah pustaka yang membungkus loop agen Anda dan mengubahnya menjadi layanan. Ini mendefinisikan API yang dipanggil klien, melacak setiap run, dan menentukan apa yang terjadi saat sebuah run terhenti.

Server Agent Kapan digunakan
DurableAgentServer (disarankan) Agen baru yang dibuat dengan Agent Bricks CLI.
Server agen lama Memelihara agen yang dibangun dari template aplikasi. Untuk membandingkan DurableAgentServer dengan server agen lama, lihat Bandingkan server agen di Azure Databricks.
Server Anda sendiri Agen yang membutuhkan endpoint kustom, format permintaan, atau protokol. Jalankan agentbricks init --server custom, atau pertahankan server yang sudah ada.

Runtime agen

Runtime agen adalah komputasi terkelola yang menjalankan server agen Anda. Anda men-deploy kode ke sana, bukan menyediakan server sendiri.

Runtime agen Kapan digunakan
Runtime Agen Agen baru. Menjalankan agen Anda di Databricks Apps. agentbricks deploy menyiapkan sumber daya yang dibutuhkan agen Anda, memberikan akses kepada agen, dan menerapkannya ke endpoint yang stabil dan terautentikasi.
Model Serving (versi lama) Agen yang sebelumnya diterapkan ke endpoint Model Serving. Lihat Menyebarkan agen untuk aplikasi AI (Model Serving). Untuk memindahkan item tersebut ke Databricks Apps, lihat Migrasi agen dari Model Serving ke Databricks Apps.

Sebarkan dengan CLI Agent Bricks

CLI Agent Bricks menghubungkan ketiga lapisan tersebut. Ia membuat kerangka kode framework Anda, menjalankannya di DurableAgentServer secara lokal, dan men-deploy-nya ke Agent Runtime:

agentbricks init my-agent --framework langgraph
cd my-agent
agentbricks dev
agentbricks deploy my-agent

Untuk membangun dan menerapkan agen pertama Anda, lihat Agent Bricks quickstart.

Izin untuk menerapkan agen

Pengguna atau prinsipal layanan yang menjalankan agentbricks deploy memerlukan izin untuk melakukan hal berikut:

  • Buat Aplikasi Databricks, atau kelola aplikasi yang sudah ada untuk penerapan ulang. Lihat Mengonfigurasi izin untuk aplikasi Databricks.
  • Buat penyimpanan memori dan sesi yang dideklarasikan di agent.toml, atau kelola penyimpanan yang sudah ada, sehingga Agent Bricks dapat memberikan service principal aplikasi akses ke penyimpanan tersebut.
  • Buat eksperimen MLflow yang digunakan proyek untuk tracing, atau edit jika sudah ada.
  • Berikan service principal aplikasi akses ke sumber daya yang dideklarasikan alat dengan --auth app, seperti EXECUTE pada fungsi Unity Catalog, CAN RUN pada Genie Agent, atau SELECT pada tabel dalam lingkup sandbox.

Agent Bricks hanya memberikan akses ke sumber daya yang dideklarasikan langsung oleh agent.toml. Jika sebuah alat menggunakan sumber daya lain, seperti tabel di belakang Agen Genie atau objek yang dipanggil oleh fungsi Unity Catalog, berikan akses langsung kepada service principal aplikasi ke sumber daya tersebut. Jika deploy tidak dapat menerapkan grant yang diperlukan, maka deploy berhenti sebelum mengunggah kode Anda dan membiarkan deployment saat ini berjalan.

Sumber daya tambahan