Agen Runtime

Agent Runtime menjalankan agen Anda pada komputasi serverless yang dihosting Azure Databricks. Ini menjalankan server agen Anda, seperti DurableAgentServer, di Databricks Apps, sehingga Anda menyebarkan kode alih-alih melakukan provision server. Untuk mempelajari bagaimana Agent Runtime cocok dengan framework dan server agen Anda, lihat Deploy agents on Azure Databricks.

Apa yang disediakan oleh Agent Runtime

  • Endpoint yang stabil dan terautentikasi: Setiap deployment adalah app bernama agent-bricks-<name> dengan URL sendiri. Klien melakukan otentikasi dengan token OAuth Azure Databricks. Lihat agen kueri yang disebarkan di Azure Databricks.
  • Identitas agen: Agen berjalan sebagai service principal aplikasi. Lihat Identitas Agen.
  • Eksekusi tahan lama: Untuk agen yang menggunakan DurableAgentServer, penyebaran menyediakan Runtime Store sehingga status run bertahan setelah restart pekerja dan run yang terputus dapat pulih.
  • Tracing: Deployment mengonfigurasi pelacakan MLflow ke eksperimen yang dikaitkan oleh proyek. Lihat Ikhtisar pelacakan.
  • Scaling: Jalankan agen pada 1 hingga 5 instance. Lihat Horizontal scaling untuk aplikasi Databricks.

Identitas agen

Identitas agen adalah prinsipal layanan dari aplikasi tempat agen tersebut di-deploy. Agen menggunakan identitas ini untuk memanggil API Azure Databricks dan menjalankan alat yang Anda tambahkan dengan --auth app.

  • Saat Anda melakukan deployment, agentbricks deploy memberikan akses kepada service principal ke memori, sesi, dan penyimpanan status eksekusi yang digunakan oleh agen.
  • Untuk memberikan agen akses ke data dan sumber daya lain, berikan izin yang dibutuhkan oleh service principal aplikasi, seperti yang Anda lakukan untuk aplikasi apa pun. Lihat Mengonfigurasi otorisasi di aplikasi Databricks.
  • Alat yang menggunakan auth = "user" berjalan dengan izin pengguna yang mengirim permintaan, bukan prinsipal layanan. Lihat Otorisasi pengguna permintaan.

Terapkan agen

Deploy proyek agen dengan CLI Agent Bricks:

agentbricks --profile <profile> deploy my-agent

agentbricks deploy melakukan hal berikut:

  1. Membuat atau menggunakan kembali penyimpanan memori dan sesi yang dideklarasikan di agent.toml, dan memberikan akses kepada service principal aplikasi ke keduanya.
  2. Untuk agen yang menggunakan DurableAgentServer, akan membuat atau menggunakan ulang Runtime Store dari deployment.
  3. Mengonfigurasi pelacakan.
  4. Menyebarkan aplikasi.

Untuk menjalankan agen pada lebih dari satu instance, berikan --instances:

agentbricks --profile <profile> deploy my-agent --instances 2

Ketika agen dijalankan pada lebih dari satu instance, klien dapat mengirim ID sesi dalam header X-Routing-Key untuk mengarahkan semua permintaan dalam satu sesi ke instance yang sama.

Kelola deployment

Command Deskripsi
agentbricks deployments list Tampilkan penempatan agen Anda.
agentbricks deployments get <app-name> Tampilkan URL, status, dan deskripsi deployment.
agentbricks deployments logs <app-name> Tampilkan log deployment.
agentbricks deployments start <app-name> dan agentbricks deployments stop <app-name> Mulai atau hentikan deployment.
agentbricks deployments delete <app-name> Hapus deployment.

Karena setiap deployment adalah aplikasi, Anda juga dapat melihat dan memantau aplikasi tersebut di Databricks Apps. Lihat Pengelogan dan Pemantauan untuk Aplikasi Databricks.

Keterbatasan

Anda tidak dapat mengubah server agen dari deployment yang sudah ada. Untuk berpindah server, buat proyek baru dengan opsi agentbricks init --server yang Anda inginkan, lalu sebarkan dengan nama baru.

Sumber daya tambahan

  • Terakhir diperbarui pada