Agent-Runtime

Agent Runtime betreibt Ihren Agenten auf serverloser Rechenkapazität, die auf Azure Databricks gehostet wird. Ihr Agent-Server, z. B. DurableAgentServer, wird in Databricks-Apps ausgeführt, sodass Sie Code bereitstellen, anstatt Server bereitzustellen. Um zu erfahren, wie Agent Runtime zu Ihrem Framework und Agentenserver passt, siehe Deploy agents on Azure Databricks.

Was bietet Agent Runtime

  • Ein stabiler, authentifizierter Endpunkt: Jede Bereitstellung ist eine App namens agent-bricks-<name> mit eigener URL. Clients authentifizieren sich mit einem Azure Databricks OAuth-Token. Siehe Abfrageagenten, die auf Azure Databricks bereitgestellt werden.
  • Agentenidentität: Der Agent fungiert als Service Principal der App. Siehe Agentenidentität.
  • Dauerhafte Ausführung: Für Agenten, die DurableAgentServer verwenden, stellt die Bereitstellung einen Runtime Store bereit, sodass der Ausführungsstatus Neustarts von Workern überdauert und unterbrochene Ausführungen wiederaufgenommen werden können.
  • Tracing: Deployment konfiguriert MLflow-Tracing für das Experiment, an das das Projekt gebunden ist. Siehe Übersicht zur Nachverfolgung.
  • Skalierung: Führen Sie einen Agenten in großem Maßstab über mehrere Instanzen hinweg aus. Siehe Horizontale Skalierung für Databricks-Apps.

Agentenidentität

Die Identität eines Agenten ist der Serviceprinzipal der App, für die er bereitgestellt wird. Der Agent verwendet diese Identität, um Azure Databricks APIs aufzurufen und Tools auszuführen, die Sie mit --auth apphinzufügen.

  • Wenn Sie deployen, agentbricks deploy erhält der Service Principal Zugriff auf die Speicher-, Session- und Run-State-Stores, die der Agent verwendet.
  • Um dem Agenten Zugang zu anderen Daten und Ressourcen zu geben, erteile dem Service-Principal der App die benötigten Berechtigungen, wie es bei jeder App der Fall ist. Siehe Konfigurieren der Autorisierung in einer Databricks-App.
  • Tools, die auth = "user" verwenden, werden mit den Berechtigungen des Benutzers ausgeführt, der die Anforderung gesendet hat, und nicht mit denen des Dienstprinzipals. Weitere Informationen finden Sie unter Anforderungsbenutzerautorisierung.

Voraussetzungen

  • Installieren Sie die Databricks CLI, Python 3.11 oder höher sowie uv.

  • Installiere die Agent Bricks CLI:

    uv tool install databricks-agentbricks
    
  • Melden Sie sich in Ihrem Arbeitsbereich an. agentbricks login speichert das Profil standardmäßig, sodass spätere Befehle --profile weglassen können:

    databricks auth login --host <workspace-url> --profile <profile>
    agentbricks login --profile <profile>
    
  • Erstellen Sie ein Agentenprojekt und wechseln Sie in dessen Verzeichnis:

    agentbricks init my-agent
    cd my-agent
    

Setzen Sie einen Agenten ein

Stellen Sie ein Agentenprojekt mit der Agent Bricks CLI bereit.

Bereitstellen aus dem Projektverzeichnis

Um den Agenten bereitzustellen, führen Sie den folgenden Befehl aus dem Projektverzeichnis aus:

agentbricks deploy my-agent

Um in einen anderen Arbeitsbereich als den Standardarbeitsbereich bereitzustellen, geben Sie --profile <profile> an.

Das Projektverzeichnis enthält agent.toml und app.yaml. Wenn Sie von einem anderen Verzeichnis aus starten agentbricks deploy , wird dieses Verzeichnis stattdessen hochgeladen. Um ein Projekt aus einem anderen Verzeichnis bereitzustellen, geben Sie --source <dir> an.

Das Argument zu agentbricks deploy ist der Bereitstellungsname, bis zu 17 Zeichen. Die App heißt agent-bricks-<name>, daher erstellt dieses Beispiel agent-bricks-my-agent. Die erste Bereitstellung speichert den Namen in agent.toml, sodass spätere Bereitstellungen aus dem Projekt ihn weglassen können.

Eine erste Bereitstellung dauert ein paar Minuten. Der Befehl endet, wenn der Agent Anfragen beantwortet.

agentbricks deploy Folgendes geschieht:

  1. Erstellt oder verwendet die in agent.toml deklarierten Speicher- und Sitzungsspeicher und gewährt dem Service Principal der App Zugriff darauf.
  2. Für Agenten, die DurableAgentServer verwenden, wird der Runtime Store der Bereitstellung erstellt oder wiederverwendet.
  3. Konfiguriert die Ablaufverfolgung.
  4. Stellt die App bereit.

Um den Agenten in mehr als einer Instanz auszuführen, übergeben Sie --instances:

agentbricks deploy my-agent --instances 2

Wenn ein Agent auf mehr als einer Instanz läuft, können Clients die Session-ID in einem X-Routing-Key Header senden, um alle Anfragen einer Sitzung an dieselbe Instanz zu routen.

Bereitstellen ohne Warten

Wenn ein Skript oder ein Codingagent ein kurzes Befehls-Timeout hat, stellen Sie ohne zu warten bereit, und warten Sie dann auf die Bereitstellung in einem separaten Befehl:

agentbricks deploy my-agent --no-wait
agentbricks deployments wait agent-bricks-my-agent

--no-wait führt die Schnellkontrollen aus und schließt dann die Bereitstellung im Hintergrund ab. agentbricks deployments wait Wartet standardmäßig bis zu 100 Sekunden. Um das Limit zu ändern, übergeben Sie --timeout. Der Befehl wird mit einem der folgenden Codes beendet:

  • 0: Der Agent wird eingesetzt und beantwortet Anfragen.
  • 1: Die Bereitstellung ist fehlgeschlagen.
  • 75: Der Agent wird noch bereitgestellt. Führen Sie den Befehl erneut aus.

Führen Sie agentbricks deployments wait im Projektverzeichnis aus oder übergeben Sie --source <dir>.

Bereitstellungen verwalten

Befehl Description
agentbricks deployments list Listen Sie Ihre Agent-Bereitstellungen auf.
agentbricks deployments get <app-name> Zeigen Sie die URL, den Status und die Beschreibung einer Bereitstellung an.
agentbricks deployments wait [<app-name>] Warte, bis ein Deployment abgeschlossen ist. Standardmäßig wird die in agent.toml erfasste Bereitstellung verwendet.
agentbricks deployments logs <app-name> Zeigen Sie die Protokolle einer Bereitstellung an.
agentbricks deployments start <app-name> Starten Sie eine Bereitstellung.
agentbricks deployments stop <app-name> Eine Bereitstellung stoppen. Fragt nach einer Bestätigung, es sei denn, du übergibst --yes.
agentbricks deployments delete <app-name> Löscht eine Bereitstellung. Bittet um Bestätigung, es sei denn, du übergibst --yes.

Da jede Bereitstellung eine App ist, können Sie sie auch in Databricks Apps ansehen und überwachen. Siehe Protokollierung und Überwachung für Databricks-Apps.

Limitations

Du kannst den Agentenserver einer bestehenden Bereitstellung nicht ändern. Um den Server zu wechseln, erstellen Sie ein neues Projekt mit der gewünschten Option agentbricks init --server, und stellen Sie es unter einem neuen Namen bereit.

Weitere Ressourcen