Użyj Databricks CLI z AI Runtime

CLI databricks air uruchamia obciążenia GPU jedno- i wielowęzłowe na platformie AI Runtime, bezserwerowej platformie obliczeniowej GPU na żądanie. Zdefiniuj zasoby obliczeniowe, środowisko i polecenie obciążenia w YAML, a następnie prześlij je za pomocą databricks air run.

AI Runtime obsługuje konfigurację GPU i środowiska, dostarczając status uruchomienia, logi, metryki systemowe i śledzenie w MLflow. Workflow YAML i CLI działa naturalnie z agentami kodującymi, którzy mogą definiować, przesyłać i monitorować obciążenia robocze.

Użyj CLI do:

  • Rozwijaj i iteruj aplikacje Python w swoim lokalnym środowisku.
  • Zdefiniuj powtarzalne obciążenia jednowęzłowe lub wielowęzłowe w plikach YAML, które możesz przechowywać w systemie kontroli wersji.
  • Przesyłaj i zarządzaj zadaniami roboczymi z terminala lub zautomatyzowanego workflow programistycznego.

Typowe obciążenia obejmują precyzyjne dostrajanie i post-trening LLM, rozproszone szkolenie, inferencję wsadową, aplikacje Ray oraz wyszukiwanie hiperparametrów.

Informacje o wymaganiach dotyczących przestrzeni roboczej znajdują się w sekcji Wymagania. Aby przesłać obciążenie robocze, skorzystaj z quickstart.

Polecenia Databricks CLI dla AI Runtime spełniają te same standardy zgodności co obciążenia AI Runtime. Aby uzyskać informacje o obsługiwanych standardach i wyjątkach, zobacz Profil zabezpieczeń zgodności.

Note

Polecenia databricks air i konfiguracja obciążeń roboczych różnią się od starszego CLI opartego na Pythonie air w pakiecie databricks-air. Zobacz migrację do Python CLI.

Poznaj uruchamialne przykłady

AI Runtime Cookbook zawiera uruchamiane obciążenia Databricks CLI do trenowania modeli, precyzyjnego dostrajania, wnioskowania wsadowego, Ray i wyszukiwania hiperparametrów. Każdy szablon zawiera plik obciążenia YAML, kod źródłowy oraz instrukcje jego uruchomienia.

Jak działa obciążenie

Dostarczasz plik YAML obciążenia, kod aplikacji, gdy jest potrzebny, oraz polecenie uruchamiające aplikację. Kiedy przesyłasz obciążenie:

  1. Definicja obciążenia jest weryfikowana względem obsługiwanego schematu i ograniczeń konfiguracyjnych.
  2. Jeśli skonfigurowano code_source, wybrany kod jest pakowany jako migawka i przesyłany.
  3. Żądane obliczenia GPU i środowisko są przygotowywane na każdym węźle.
  4. Polecenie podane w pliku YAML obciążenia uruchamia się na każdym węźle.

Zgłoszenie zwraca identyfikator Job Run, który identyfikuje obciążenie. Używaj go do sprawdzania statusu, przeglądania logów i konfiguracji lub anulowania obciążenia roboczego. Możesz także zobaczyć stronę Jobs run oraz eksperyment MLflow, aby poznać szczegóły wykonania, metryki systemowe, logi i artefakty.

Ten workflow zapewnia zarządzane udostępnianie GPU, konfigurację powtarzalnego środowiska oraz wbudowaną obserwację bez konieczności konfigurowania lub utrzymywania infrastruktury GPU.

Konfiguracja obciążenia

Plik YAML obciążenia opisuje następujące komponenty:

  • Eksperyment: Eksperyment i uruchomienie MLflow, które śledzą obciążenie.
  • Środowisko: Środowisko zarządzane, zależności lub niestandardowy obraz Dockera do użycia.
  • Obliczenia: typ akceleratora i liczba akceleratorów do udostępnienia.
  • Źródło kodu: opcjonalna migawka kodu aplikacji udostępniona obciążeniu.
  • Polecenie: Polecenie powłoki, które uruchamia Twoją aplikację.
  • Ustawienia środowiska uruchomieniowego: Opcje takie jak próby, timeouty, zmienne środowiskowe, sekrety i uprawnienia.

Pola konfiguracji i przykłady można znaleźć w dokumentacji Workload YAML reference.

Prześlij kod aplikacji

Użyj code_source, aby przesłać pliki aplikacji wraz z obciążeniem. AI Runtime udostępnia przesłany katalog na każdym węźle i ustawia $CODE_SOURCE_PATH na jego lokalizację. Na przykład następujące polecenie uruchamia train.py z przesłanego katalogu:

command: python "$CODE_SOURCE_PATH/train.py"

Możesz przesłać aktualne drzewo robocze lub wybrać gałąź Git lub commit. Pełny przykład znajdziesz w quickstart.

Opracowywanie i zarządzanie obciążeniami

Rozwój zazwyczaj przebiega następująco:

  1. Opracuj kod aplikacji i plik YAML obciążenia lokalnie.
  2. Zweryfikuj YAML lokalnie za pomocą databricks air run --file <file> --dry-run.
  3. Prześlij obciążenie za pomocą databricks air run --file <file>. Dodaj --watch do strumienia logów aż do zakończenia uruchomienia.
  4. Użyj databricks air get, databricks air list i databricks air logs do inspekcji obciążeń i logów.
  5. Opcjonalnie zatrzymaj uruchomione zadanie robocze za pomocą databricks air cancel.

Wszystkie komendy i flagi można znaleźć w grupie poleceń air.

Do zaplanowanych działań, wielozadaniowych przepływów pracy lub promowania między środowiskami możesz użyć databricks air convert-to-dabs jako punktu wyjścia do bundla. Zobacz Harmonogramowanie obciążeń GPU i zadania kompozycji.

Śledzenie obciążeń roboczych za pomocą MLflow

Każde przesłane obciążenie robocze jest reprezentowane przez wykonanie zadania Databricks i śledzone w ramach eksperymentu MLflow:

  • Wykonanie zadania Databricks: Pokazuje status obciążenia, próby wykonania oraz wyniki na stronie Jobs run.
  • Eksperyment MLflow: Zawiera przebiegi MLflow z automatycznie rejestrowanymi metrykami systemowymi, konfiguracją obciążenia i logami. Twoja aplikacja może także korzystać z API MLflow do logowania niestandardowych parametrów, metryk i artefaktów.

Użyj Job Run ID z poleceniami takimi jak databricks air get, databricks air logs i databricks air cancel. Zobacz Śledzenie eksperymentów i obserwowalność.

Uruchamianie obciążeń jednowęzłowych i rozproszonych

AI Runtime uruchamia skonfigurowane polecenie raz na każdym aprowizjonowanym węźle. Dla rozproszonego obciążenia dostarcza zmienne koordynacyjne takie jak NUM_NODES, NODE_RANK, LOCAL_WORLD_SIZE, MASTER_ADDR, oraz MASTER_PORT.

Ten model wykonawczy jest niezależny od frameworka. Twoje polecenie musi uruchomić i skonfigurować rozproszony framework, na przykład wywołując torchrun, skrypt bootstrap Ray lub inny launcher frameworka. Pełne obciążenia robocze można znaleźć w książce AI Runtime Cookbook.

Użyj agenta AI

Umiejętnośćdatabricks-ai-runtime agenta dostarcza instrukcji pomagających agentom AI, takim jak Claude Code, Cursor i Codex, pracować z AI Runtime za pomocą CLI Databricks. Używaj go do tworzenia pliku YAML obciążenia, wysyłania zadań treningowych GPU, sprawdzania statusu uruchomienia, strumieniowania logów i anulowania przebiegów. Zawiera także wskazówki dotyczące niestandardowych obrazów Docker.

Po zainstalowaniu CLI Databricks i skonfigurowaniu uwierzytelniania wykonaj następujące polecenie:

databricks aitools install --skills-only --skills databricks-ai-runtime

Podążaj za instrukcjami, aby wybrać agenta AI i zakres instalacji. Opcje instalacji znajdziesz w grupieaitools poleceń. Aby dowiedzieć się, co obejmuje ta umiejętność, zobacz: Korzystanie z umiejętności agenta z AI Runtime.

Dodatkowe zasoby

  • Ostatnia aktualizacja o