Databricks CLI snabbstart för AI Runtime

Important

Den här funktionen finns som allmänt tillgänglig förhandsversion.

Databricks CLI för AI Runtime låter dig skicka in, övervaka och hantera serverlösa GPU-arbetsbelastningar från din terminal. Denna snabbstart visar hur man konfigurerar och kör en AI-körningsarbetsbelastning, strömmar loggar och inspekterar körningen.

Requirements

Bekräfta att kommandona air finns tillgängliga i Databricks CLI:

databricks air --help

Tip

För att få hjälp med att skriva din arbetsbelastningskonfiguration och hantera körningar, installera databricks-ai-runtime skill för din AI-agent. Se använd en AI-agent.

Kör en minsta arbetsbelastning

Skapa en workload.yaml fil som begär ett A10-grafikkort och kör nvidia-smi för att skriva ut GPU-namnet:

experiment_name: air-quickstart
compute:
  num_accelerators: 1
  accelerator_type: GPU_1xA10
command: nvidia-smi --query-gpu=name --format=csv,noheader

Skicka in arbetsbelastningen och streama dess loggar med databricks air run:

databricks air run --file workload.yaml --watch

CLI:n returnerar Job Run-ID:t och en länk till körningen i din workspace. Med --watch hålls terminalen ansluten och loggar strömmas tills arbetsbelastningen är klar.

Submitting experiment: air-quickstart
Submitted workload with Job Run ID: 783940125630184
View job run at: https://example.cloud.databricks.com/jobs/runs/783940125630184?o=1234567890123456

Monitoring run and streaming logs...
...
Environment setup completed at Thu Oct 1 14:23:45 UTC 2026
NVIDIA A10

Kör din egen Python-kod

För att ladda upp och köra lokal Python-kod, skapa en air-quickstart katalog med följande filer:

air-quickstart/
├── workload.yaml
└── main.py

Tip

För att starta från ett körbart projekt istället för att skapa dessa filer manuellt, klona AI Runtime cookbook-repositoriet och byt till CLI-katalogen getting-started:

git clone https://github.com/databricks-solutions/ai-runtime-cookbook.git
cd ai-runtime-cookbook/getting-started/air-cli

Använd följande minimala Python-kod för att verifiera att AI Runtime kör den uppladdade koden på GPU:n:

import torch

print("Hello from Python on AI Runtime")
print(f"GPU: {torch.cuda.get_device_name(0)}")

För att utöka detta exempel kan du ersätta main.py med din egen träning, batchinferens eller annan AI-applikation.

Använd följande konfiguration för workload.yaml:

experiment_name: python-quickstart
environment:
  version: 6
  dependencies:
    - torch==2.11.0
compute:
  num_accelerators: 1
  accelerator_type: GPU_1xH100
code_source:
  root_path: .
command: python "$CODE_SOURCE_PATH/main.py"

Denna konfiguration använder följande inställningar och kör main.py på ett H100-grafikkort:

  • environment.version markerar Standardmiljö version 6.
  • environment.dependencies installerar PyTorch 2.11.0 i den valda miljön.
  • root_path: . laddar upp katalogen som innehåller workload.yaml. Vid körning $CODE_SOURCE_PATH pekar den på den uppladdade katalogen.

Skicka workloaden från katalogen som innehåller workload.yaml:

databricks air run --file workload.yaml --watch

De strömmade loggarna inkluderar:

...
Hello from Python on AI Runtime
GPU: NVIDIA H100 80GB HBM3

För att köra kompletta tränings-, finjusterings-, batchinferens- och Ray-arbetsbelastningar, klona AI Runtime Cookbook och kör ett recept.

För att konfigurera miljöer, kodkällor, beräkning och andra arbetsbelastningsinställningar, se Workload YAML-referens.

Inspektera en körning

CLI:n skriver ut Job Run-ID:t när du skickar in arbetsbelastningen. Använd den för att inspektera körningen:

databricks air get <job-run-id>

databricks air get visar körstatus, konfiguration och tider. Den länkar också till jobbkörningen och, när det finns tillgängligt, MLflow-körningen.

För att visa loggar i realtid efter inlämning eller återuppta en avbruten loggström, kör:

databricks air logs <job-run-id>

CLI:n tillhandahåller också kommandon för att lista och inspektera körningar, strömma loggar och avbryta aktiva körningar. Se air kommandoreferensen.

Reference

Ytterligare resurser

  • Uppdaterades senast