Szybki start z Databricks CLI dla AI Runtime

Important

Ta funkcja jest dostępna w publicznej wersji testowej.

Databricks CLI dla AI Runtime pozwala przesyłać, monitorować i zarządzać bezserwerowymi obciążeniami GPU z terminala. Ten przewodnik Szybki start pokazuje, jak skonfigurować i uruchomić obciążenie AI Runtime, przesyłać strumieniowo logi oraz sprawdzić przebieg wykonania.

Requirements

Potwierdź, że airpolecenia są dostępne w Databricks CLI:

databricks air --help

Tip

Aby uzyskać pomoc w pisaniu konfiguracji obciążenia i zarządzaniu uruchomieniami, zainstaluj ten databricks-ai-runtime skill dla swojego agenta AI. Zobacz Jak używać agenta AI.

Uruchom minimalne obciążenie

Stwórz plik workload.yaml, który żąda jednego GPU A10 i uruchamia nvidia-smi, aby wypisać nazwę GPU:

experiment_name: air-quickstart
compute:
  num_accelerators: 1
  accelerator_type: GPU_1xA10
command: nvidia-smi --query-gpu=name --format=csv,noheader

Prześlij obciążenie i strumieniuj jego logi za pomocą databricks air run:

databricks air run --file workload.yaml --watch

CLI zwraca identyfikator uruchomienia zadania oraz link do tego uruchomienia w twoim workspace. --watch Utrzymuje terminal podłączony i przesyła logi do zakończenia zadania.

Submitting experiment: air-quickstart
Submitted workload with Job Run ID: 783940125630184
View job run at: https://example.cloud.databricks.com/jobs/runs/783940125630184?o=1234567890123456

Monitoring run and streaming logs...
...
Environment setup completed at Thu Oct 1 14:23:45 UTC 2026
NVIDIA A10

Uruchom własny kod Python

Aby przesłać i uruchomić lokalny kod Python, utwórz katalog air-quickstart z następującymi plikami:

air-quickstart/
├── workload.yaml
└── main.py

Tip

Aby zacząć od gotowego do uruchomienia projektu zamiast ręcznie tworzyć te pliki, sklonuj AI Runtime cookbook repository i przejdź do katalogu getting-started CLI:

git clone https://github.com/databricks-solutions/ai-runtime-cookbook.git
cd ai-runtime-cookbook/getting-started/air-cli

Użyj poniższego minimalnego kodu Python, aby zweryfikować, czy AI Runtime uruchamia przesłany kod na GPU:

import torch

print("Hello from Python on AI Runtime")
print(f"GPU: {torch.cuda.get_device_name(0)}")

Aby rozwinąć ten przykład, możesz zastąpić main.py własnym treningiem, wnioskowaniem wsadowym lub inną aplikacją AI.

Użyj następującej konfiguracji dla workload.yaml:

experiment_name: python-quickstart
environment:
  version: 6
  dependencies:
    - torch==2.11.0
compute:
  num_accelerators: 1
  accelerator_type: GPU_1xH100
code_source:
  root_path: .
command: python "$CODE_SOURCE_PATH/main.py"

Ta konfiguracja korzysta z następujących ustawień i uruchamia main.py na jednej karcie H100:

  • environment.version wybierz Środowisko standardowe w wersji 6.
  • environment.dependencies instaluje PyTorch 2.11.0 do wybranego środowiska.
  • root_path: . przesyła katalog zawierający workload.yaml. W czasie działania $CODE_SOURCE_PATH wskazuje na przekazany katalog.

Prześlij obciążenie robocze z katalogu, który zawiera workload.yaml:

databricks air run --file workload.yaml --watch

Przesyłane logi obejmują:

...
Hello from Python on AI Runtime
GPU: NVIDIA H100 80GB HBM3

Aby uruchomić pełne trenowanie, dostrajanie, wnioskowanie wsadowe i obciążenia Ray, sklonuj AI Runtime Cookbook i uruchom recepturę.

Aby skonfigurować środowiska, źródła kodu, obliczenia i inne ustawienia obciążenia, zobacz dokumentację referencyjną YAML obciążenia.

Sprawdź uruchomienie

CLI drukuje identyfikator uruchomienia zadania podczas przesyłania zadania roboczego. Użyj go do inspekcji uruchomienia:

databricks air get <job-run-id>

databricks air get pokazuje status uruchomienia, konfigurację i czas. Łączy się także z uruchomieniem zadań, a jeśli jest dostępny, z uruchomieniem MLflow.

Aby przesyłać strumieniowo logi po przesłaniu lub wznowić przerwany strumień, wykonaj:

databricks air logs <job-run-id>

CLI zapewnia również polecenia do listowania i inspekcji przebiegów, strumieniowania logów oraz anulowania aktywnych przebiegów. Zobacz airdokumentację poleceń.

Reference

Dodatkowe zasoby

  • Ostatnia aktualizacja o