Nutze die Databricks-CLI mit KI-Laufzeit

Important

Die Databricks-CLI-Befehle für AI Runtime sind in der öffentlichen Vorschau verfügbar. Ein Workspace-Administrator muss die AI-Runtime-Vorschau aktivieren, bevor Sie Workloads einreichen können. Siehe Anforderungen.

Die databricks air CLI führt Einzel- und Mehrknoten-GPU-Workloads auf AI Runtime, der serverlosen GPU-Compute-Plattform auf Abruf, aus. Definiere die Rechenressourcen, die Umgebung und den Befehl einer Arbeitslast in YAML und reiche sie dann mit databricks air run ein.

AI Runtime übernimmt die GPU-Bereitstellung und die Umgebungseinrichtung und liefert Laufzeitstatus, Protokolle, Systemmetriken und MLflow-Tracking. Der YAML- und CLI-Workflow funktioniert natürlich mit Coding-Agenten, die Workloads definieren, einreichen und überwachen können.

Nutzen Sie die CLI, um:

  • Entwickle und iteriere Python-Anwendungen in deiner lokalen Umgebung.
  • Definiere wiederholbare Einzel- oder Mehrknoten-Workloads in YAML-Dateien, die du versionskontrollieren kannst.
  • Senden und verwalten Sie Arbeitslasten von einem Terminal oder automatisierten Entwicklungsworkflow aus.

Typische Arbeitslasten umfassen LLM-Feinabstimmung und Post-Training, verteiltes Training, Batch-Inferenz, Ray-Anwendungen und Hyperparametersuche.

Um einen Workload einzureichen, folgen Sie dem Quickstart.

Die Databricks-CLI-Befehle für KI-Laufzeit erfüllen dieselben Compliance-Standards wie KI-Laufzeit-Workloads. Die unterstützten Standards und Ausnahmen finden Sie im Compliancesicherheitsprofil.

Note

Die databricks air Befehle und die Workload-Konfiguration unterscheiden sich von der alten, auf Python basierenden air CLI im databricks-air Paket. Siehe Python CLI-Migration.

So wird ein Workload ausgeführt

Du stellst eine Workload-YAML-Datei, den Anwendungscode bei Bedarf und den Befehl, der deine Anwendung startet, bereit. Wenn Sie einen Workload einreichen:

  1. Die Workload-Definition wird anhand der unterstützten Schema- und Konfigurationsbedingungen validiert.
  2. Wenn code_source konfiguriert ist, wird der ausgewählte Code als Snapshot verpackt und hochgeladen.
  3. Die angeforderten GPU-Rechenressourcen und die Umgebung werden auf jedem Knoten vorbereitet.
  4. Der im Workload YAML bereitgestellte Befehl läuft auf jedem Knoten.

Die Übermittlung liefert eine Job-Run-ID, die den Workload identifiziert. Nutze es, um den Status zu überprüfen, Logs und Konfigurationen zu überprüfen oder den Workload abzubrechen. Sie können auch die Jobs-Run-Seite und das MLflow-Experiment für Ausführungsdetails, Systemmetriken, Protokolle und Artefakte ansehen.

Dieser Workflow bietet eine verwaltete GPU-Bereitstellung, eine reproduzierbare Einrichtung der Umgebung und integrierte Observabilität, ohne dass Sie die GPU-Infrastruktur konfigurieren oder warten müssen.

Workloadkonfiguration

Eine Workload-YAML-Datei beschreibt die folgenden Komponenten:

  • Experiment: Das MLflow-Experiment und der Run, die die Workload nachverfolgen.
  • Umgebung: Die verwaltete Umgebung, Abhängigkeiten oder das zu verwendende benutzerdefinierte Docker-Image.
  • Compute: Der Beschleunigertyp und die Anzahl der zu bereitstellenden Beschleuniger.
  • Codequelle: Ein optionaler Snapshot des Anwendungscodes, die der Arbeitslast zur Verfügung gestellt werden kann.
  • Befehl: Der Shell-Befehl, der deine Anwendung startet.
  • Laufzeiteinstellungen: Optionen wie Wiederholungen, Zeitüberschreitungen, Umgebungsvariablen, Secrets und Berechtigungen.

Für Konfigurationsfelder und Beispiele siehe Workload YAML Referenz.

Anwendungscode hochladen

Nutze code_source, um Anwendungsdateien zusammen mit einer Workload hochzuladen. AI Runtime stellt das hochgeladene Verzeichnis auf jedem Knoten zur Verfügung und setzt $CODE_SOURCE_PATH auf seinen Speicherort. Zum Beispiel führt der folgende Befehl train.py aus dem hochgeladenen Verzeichnis aus:

command: python "$CODE_SOURCE_PATH/train.py"

Du kannst den aktuellen Arbeitsbaum hochladen oder einen Git-Branch oder Commit auswählen. Ein vollständiges Beispiel finden Sie im Quickstart.

Workloads entwickeln und verwalten

Die Entwicklung folgt typischerweise diesem Prozess:

  1. Entwickeln Sie lokal den Anwendungscode und das Workload-YAML.
  2. Validiere das YAML lokal mit databricks air run --file <file> --dry-run.
  3. Reichen Sie den Workload mit databricks air run --file <file> ein. Fügen Sie --watch zu den Stream-Protokollen hinzu, bis der Durchlauf abgeschlossen ist.
  4. Verwenden Sie databricks air get, databricks air list und databricks air logs, um Arbeitslasten und Protokolle zu überprüfen.
  5. Optional kann man eine laufende Arbeitslast mit databricks air cancelstoppen.

Für alle Befehle und Optionen, siehe air Befehlsgruppe.

Für geplante Läufe, Multitasking-Workflows oder Promotions über verschiedene Umgebungen hinweg kannst du databricks air convert-to-dabs als Ausgangspunkt für ein Bundle nutzen. Siehe GPU-Workloads planen und Aufgaben zusammenstellen.

Workloads mit MLflow verfolgen

Jede eingereichte Arbeitslast wird durch einen Databricks-Joblauf dargestellt und über ein MLflow-Experiment verfolgt:

  • Databricks-Jobausführung: Zeigt den Workload-Status, die Ausführungsversuche und die Ausgabe auf der Jobs-Ausführungsseite.
  • MLflow-Experiment: Enthält die MLflow-Ausführungen mit automatisch erfassten Systemmetriken, Arbeitslastkonfiguration und Protokollen. Ihre Anwendung kann auch die MLflow-APIs nutzen, um benutzerdefinierte Parameter, Metriken und Artefakte zu protokollieren.

Verwenden Sie die Job Run ID mit Befehlen wie databricks air get, databricks air logs, und databricks air cancel. Weitere Details zu Tracking und Observability finden Sie unter Ausführungen mit MLflow nachverfolgen und die Seite „Jobausführungen“.

Einzelknoten- und verteilte Workloads ausführen

AI Runtime führt den konfigurierten Befehl einmal auf jedem bereitgestellten Knoten aus. Für eine verteilte Arbeitslast stellt sie Koordinationsvariablen wie NUM_NODES, NODE_RANK, LOCAL_WORLD_SIZE, MASTER_ADDR und MASTER_PORT bereit.

Dieses Ausführungsmodell ist framework-unabhängig. Ihr Befehl muss das verteilte Framework starten und konfigurieren, zum Beispiel indem Sie torchrun, ein Ray-Bootstrap-Skript oder einen anderen Framework-Launcher aufrufen. Beispiele finden Sie unter Databricks CLI-Beispiele für AI Runtime.

Verwenden Sie einen KI-Agenten

Die databricks-ai-runtime Agenten-Skill bietet Anweisungen, die KI-Agenten wie Claude Code, Cursor und Codex helfen, mit der KI-Laufzeit über die Databricks-CLI zu arbeiten. Nutze es, um Workload-YAML zu erstellen, GPU-Trainingsjobs einzureichen, den Laufstatus zu überprüfen, Logs zu streamen und Runs abzubrechen. Es enthält außerdem Anleitungen für benutzerdefinierte Docker-Images.

Nachdem Sie die Databricks-CLI installiert und die Authentifizierung konfiguriert haben, führen Sie folgenden Befehl aus:

databricks aitools install --skills-only --skills databricks-ai-runtime --experimental

Folgen Sie den Anweisungen, um Ihren KI-Agenten und Ihren Installationsbereich auszuwählen. Für Installationsoptionen siehe aitoolsKommandogruppe.

Weitere Ressourcen

  • Zuletzt aktualisiert um