Nutze die Databricks-CLI mit KI-Laufzeit

Die databricks air CLI führt Einzel- und Mehrknoten-GPU-Workloads auf AI Runtime, der serverlosen GPU-Compute-Plattform auf Abruf, aus. Definiere Compute, die Umgebung und den Befehl einer Arbeitslast in YAML und reiche sie dann mit databricks air run ein.

AI Runtime übernimmt die GPU-Bereitstellung und die Umgebungseinrichtung und liefert Laufzeitstatus, Protokolle, Systemmetriken und MLflow-Tracking. Der YAML- und CLI-Workflow funktioniert natürlich mit Coding-Agenten, die Workloads definieren, einreichen und überwachen können.

Nutzen Sie die CLI, um:

  • Entwickle und iteriere Python-Anwendungen in deiner lokalen Umgebung.
  • Definiere wiederholbare Einzel- oder Mehrknoten-Workloads in YAML-Dateien, die du versionskontrollieren kannst.
  • Senden und verwalten Sie Arbeitslasten von einem Terminal oder automatisierten Entwicklungsworkflow aus.

Typische Arbeitslasten umfassen LLM-Feinabstimmung und Post-Training, verteiltes Training, Batch-Inferenz, Ray-Anwendungen und Hyperparametersuche.

Zu den Anforderungen an den Arbeitsbereich siehe Anforderungen. Um einen Workload einzureichen, folgen Sie dem Quickstart.

Die Databricks-CLI-Befehle für KI-Laufzeit erfüllen dieselben Compliance-Standards wie KI-Laufzeit-Workloads. Die unterstützten Standards und Ausnahmen finden Sie im Compliancesicherheitsprofil.

Note

Die databricks air Befehle und die Workload-Konfiguration unterscheiden sich von der alten, auf Python basierenden air CLI im databricks-air Paket. Siehe Python CLI-Migration.

Entdecken Sie ausführbare Beispiele

Das AI Runtime Cookbook enthält ausführbare Databricks CLI-Workloads für Modelltraining, Feinabstimmung, Batch-Inferenz, Ray und Hyperparametersuche. Jedes Rezept enthält eine Workload-YAML-Datei, Quellcode und Anweisungen zum Ausführen des Rezepts.

So wird ein Workload ausgeführt

Du stellst eine Workload-YAML-Datei, den Anwendungscode bei Bedarf und den Befehl, der deine Anwendung startet, bereit. Wenn Sie einen Workload einreichen:

  1. Die Workload-Definition wird anhand der unterstützten Schema- und Konfigurationsbedingungen validiert.
  2. Wenn code_source konfiguriert ist, wird der ausgewählte Code als Snapshot verpackt und hochgeladen.
  3. Die angeforderten GPU-Rechenressourcen und die Umgebung werden auf jedem Knoten vorbereitet.
  4. Der im Workload YAML bereitgestellte Befehl läuft auf jedem Knoten.

Die Übermittlung liefert eine Job-Run-ID, die den Workload identifiziert. Nutze es, um den Status zu überprüfen, Logs und Konfigurationen zu überprüfen oder den Workload abzubrechen. Sie können auch die Jobs-Run-Seite und das MLflow-Experiment für Ausführungsdetails, Systemmetriken, Protokolle und Artefakte ansehen.

Dieser Workflow bietet eine verwaltete GPU-Bereitstellung, eine reproduzierbare Einrichtung der Umgebung und integrierte Observabilität, ohne dass Sie die GPU-Infrastruktur konfigurieren oder warten müssen.

Workloadkonfiguration

Eine Workload-YAML-Datei beschreibt die folgenden Komponenten:

  • Experiment: Das MLflow-Experiment und der Run, die die Workload nachverfolgen.
  • Umgebung: Die verwaltete Umgebung, Abhängigkeiten oder das zu verwendende benutzerdefinierte Docker-Image.
  • Compute: Der Beschleunigertyp und die Anzahl der zu bereitstellenden Beschleuniger.
  • Codequelle: Ein optionaler Snapshot des Anwendungscodes, die der Workload zur Verfügung gestellt werden kann.
  • Befehl: Der Shell-Befehl, der deine Anwendung startet.
  • Laufzeiteinstellungen: Optionen wie Wiederholungen, Zeitüberschreitungen, Umgebungsvariablen, Secrets und Berechtigungen.

Für Konfigurationsfelder und Beispiele siehe Workload YAML Referenz.

Anwendungscode hochladen

Verwenden Sie code_source, um Anwendungsdateien mit einer Workload hochzuladen. KI-Laufzeit stellt das hochgeladene Verzeichnis auf jedem Knoten zur Verfügung und legt $CODE_SOURCE_PATH auf seinen Speicherort fest. Zum Beispiel führt der folgende Befehl train.py über das hochgeladene Verzeichnis aus:

command: python "$CODE_SOURCE_PATH/train.py"

Du kannst den aktuellen Arbeitsbaum hochladen oder einen Git-Branch oder Commit auswählen. Ein vollständiges Beispiel finden Sie im Quickstart.

Workloads entwickeln und verwalten

Die Entwicklung folgt typischerweise diesem Prozess:

  1. Entwickeln Sie lokal den Anwendungscode und das Workload-YAML.
  2. Validiere das YAML lokal mit databricks air run --file <file> --dry-run.
  3. Reichen Sie den Workload mit databricks air run --file <file> ein. Fügen Sie --watch zu den Stream-Protokollen hinzu, bis der Durchlauf abgeschlossen ist.
  4. Verwenden Sie databricks air get, databricks air list und databricks air logs, um Arbeitslasten und Protokolle zu überprüfen.
  5. Optional kann man eine laufende Arbeitslast mit databricks air cancelstoppen.

Weitere Informationen zu allen Befehlen und Kennzeichnungen finden Sie unter air-Befehlsgruppe.

Für geplante Läufe, Multitasking-Workflows oder Promotions über verschiedene Umgebungen hinweg kannst du databricks air convert-to-dabs als Ausgangspunkt für ein Bundle nutzen. Siehe GPU-Workloads planen und Aufgaben zusammenstellen.

Workloads mit MLflow verfolgen

Jede eingereichte Arbeitslast wird durch einen Databricks-Joblauf dargestellt und über ein MLflow-Experiment verfolgt:

  • Databricks-Auftragsausführung: Zeigt den Workload-Status, die Ausführungsversuche und die Ausgabe auf der Seite „Einzelvorgänge ausführen“ an.
  • MLflow-Experiment: Enthält die MLflow-Ausführungen mit automatisch erfassten Systemmetriken, Arbeitslastkonfiguration und Protokollen. Ihre Anwendung kann auch die MLflow-APIs nutzen, um benutzerdefinierte Parameter, Metriken und Artefakte zu protokollieren.

Verwenden Sie die Job Run ID mit Befehlen wie databricks air get, databricks air logs, und databricks air cancel. Siehe Experiment-Tracking und Beobachtbarkeit.

Einzelknoten- und verteilte Workloads ausführen

AI Runtime führt den konfigurierten Befehl einmal auf jedem bereitgestellten Knoten aus. Für eine verteilte Arbeitslast stellt sie Koordinationsvariablen wie NUM_NODES, NODE_RANK, LOCAL_WORLD_SIZE, MASTER_ADDR und MASTER_PORT bereit.

Dieses Ausführungsmodell ist framework-unabhängig. Ihr Befehl muss das verteilte Framework starten und konfigurieren, zum Beispiel indem Sie torchrun, ein Ray-Bootstrap-Skript oder einen anderen Framework-Launcher aufrufen. Für vollständige Workloads siehe das AI Runtime Cookbook.

Verwenden Sie einen KI-Agenten

Die databricks-ai-runtime-Agent-Fähigkeit bietet Anweisungen, die KI-Agents wie Claude Code, Cursor und Codex dabei unterstützen, mit der KI-Laufzeit über die Databricks-CLI zu arbeiten. Nutze es, um Workload-YAML zu erstellen, GPU-Trainingsjobs einzureichen, den Laufstatus zu überprüfen, Logs zu streamen und Runs abzubrechen. Es enthält außerdem Anleitungen für benutzerdefinierte Docker-Images.

Nachdem Sie die Databricks-CLI installiert und die Authentifizierung konfiguriert haben, führen Sie folgenden Befehl aus:

databricks aitools install --skills-only --skills databricks-ai-runtime

Folgen Sie den Anweisungen, um Ihren KI-Agenten und Ihren Installationsbereich auszuwählen. Weitere Informationen zu Installationsoptionen finden Sie unter aitools-Befehlsgruppe. Informationen dazu, was die Fertigkeit umfasst, finden Sie unter Agenten-Fertigkeiten mit AI Runtime verwenden.

Weitere Ressourcen

  • Zuletzt aktualisiert um