Agent runtime

Agent Runtime spouští vašeho agenta na serverless compute hostovaném v Azure Databricks. Na Databricks Apps se spouští váš agentní server, například DurableAgentServer, takže nasazujete kód místo zřizování serverů. Chcete-li zjistit, jak Agent Runtime zapadá do vašeho frameworku a agentového serveru, podívejte se na Deploy agents on Azure Databricks.

Co poskytuje Agent Runtime

  • Stabilní, autentizovaný endpoint: Každé nasazení je aplikace pojmenovaná agent-bricks-<name> s vlastní URL. Klienti se ověřují pomocí tokenu OAuth služby Azure Databricks. Viz agenti Query nasazení v Azure Databricks.
  • Identita agenta: Agent funguje jako instanční objekt služby aplikace. Viz identita agenta.
  • Trvalé provádění: Pro agenty, kteří používají DurableAgentServer, deployment poskytuje Runtime Store tak, aby stav běhu přežil restarty pracovníka a přerušené běhy se mohly obnovit.
  • Trasování: Nasazení konfiguruje trasování MLflow pro experiment, ke kterému je projekt přidružen. Viz přehled trasování.
  • Škálování: Spusťte agenta na 1 až 5 instancích. Viz Horizontální škálování pro aplikace Databricks.

Identita agenta

Identita agenta je instanční objekt služby aplikace, do které je nasazen. Agent používá tuto identitu k volání Azure Databricks API a k spouštění nástrojů, které přidáte pomocí --auth app.

  • Při nasazení agentbricks deploy poskytuje instančnímu objektu služby přístup k úložištím paměti, relací a stavu běhu, která agent používá.
  • Aby agent měl přístup k dalším datům a zdrojům, udělte instančnímu objektu služby aplikace oprávnění, která potřebuje, stejně jako byste to udělali u jakékoli aplikace. Viz Konfigurace autorizace v aplikaci Databricks.
  • Nástroje spuštěné pomocí auth = "user" běží s oprávněními uživatele, který požadavek odeslal, místo instančního objektu služby. Viz také Autorizace uživatele pro požadavek.

Nasadit agenta

Nasaďte projekt agenta pomocí Agent Bricks CLI:

agentbricks --profile <profile> deploy my-agent

agentbricks deploy provede následující:

  1. Vytváří nebo znovu používá paměťová úložiště a úložiště relací deklarovaná v agent.toml a uděluje k nim přístup instančnímu objektu služby aplikace.
  2. Pro agenty, kteří používají DurableAgentServer, se vytváří nebo znovu používá úložiště Runtime Store nasazení.
  3. Nastavuje trasování.
  4. Nasadit aplikaci.

Chcete-li spustit agenta na více než jedné instanci, předejte --instances:

agentbricks --profile <profile> deploy my-agent --instances 2

Když agent běží na více než jedné instanci, klienti mohou poslat ID relace v záhlaví X-Routing-Key, aby směrovali všechny požadavky v relaci na stejnou instanci.

Spravovat nasazení

Command Description
agentbricks deployments list Uveďte nasazení agentů.
agentbricks deployments get <app-name> Zobrazit URL, stav a popis nasazení.
agentbricks deployments logs <app-name> Ukažte záznamy daného nasazení.
agentbricks deployments start <app-name> a agentbricks deployments stop <app-name> Začněte nebo zastavte nasazení.
agentbricks deployments delete <app-name> Odstraňte nasazení

Protože každé nasazení je aplikace, můžete ji také zobrazit a sledovat v Databricks Apps. Viz Protokolování a monitorování pro aplikace Databricks.

Limitations

Nemůžete změnit server agenta existujícího nasazení. Pro změnu serveru vytvořte nový projekt s požadovanou agentbricks init --server volbou a nasaďte ho pod novým názvem.

Dodatečné zdroje

  • Poslední aktualizace v