Rychlý úvod k AI Runtime CLI

Important

CLI nástroje AI Runtime je ve fázi beta.

Svou první trénovací úlohu odešlete pomocí AI Runtime CLI ve třech krocích: napište konfiguraci train.yaml, spusťte ji pomocí air run a pak zkontrolujte běh. Než začnete, nainstalujte rozhraní příkazového řádku a nakonfigurujte ověřování.

Krok 1: Napište konfigurační soubor YAML

Vytvořte train.yaml, který popisuje zatížení. Minimální konfigurace vyžaduje název experimentu, specifikaci výpočetních prostředků a příkaz. Následující příkaz se spustí bez místního kódu, abyste mohli odeslat první spuštění hned:

experiment_name: my-first-air-run
compute:
  num_accelerators: 1
  accelerator_type: GPU_1xA10
command: echo "hello AIR!"

Spusťte vlastní kód

Pokud chcete spustit místní trénovací skript, přidejte blok se seznamem environment Python závislostí a code_source blok, který nahraje místní kód. Umístěte skript vedle train.yaml:

my-project/
├── train.yaml
└── train.py

experiment_name: my-first-air-run
environment:
  version: '4'
  dependencies:
    - torch
    - transformers
compute:
  num_accelerators: 1
  accelerator_type: GPU_1xA10
code_source:
  type: snapshot
  snapshot:
    root_path: .
command: python $CODE_SOURCE_PATH/train.py

Tato konfigurace nainstaluje uvedené závislosti, nahraje aktuální adresář (root_path: .) a spustí train.py na jednom GPU A10. $CODE_SOURCE_PATH odkazuje na umístění nahraného kódu na vzdáleném uzlu. Databricks doporučuje místo pevně zakódování cesty použít tuto možnost. environment.version vybere verzi bezserverového prostředí GPU a je volitelná (výchozí hodnota '4'). Všechny dostupné verze najdete v tématu Bezserverové verze prostředí.

Úplnou referenci k polím najdete v referenční příručce YAML pro úlohu.

Krok 2: Odeslání spuštění

Odešlete úlohu:

air run --file train.yaml

Rozhraní příkazového řádku nahraje místní kód (pokud jste nakonfigurovali code_source), odešle úlohu a vytiskne ID spuštění. Toto ID použijte ke kontrole, sledování a zrušení spuštění v pozdějších příkazech.

Odesláním se vytvoří běh v experimentu MLflow s názvem uvedeným v experiment_name (experiment může obsahovat mnoho běhů). Toto spuštění zaznamenává metriky, parametry, artefakty a protokoly dané úlohy, které jsou všechny zobrazitelné v rozhraní MLflow v pracovním prostoru. Logy jsou také dostupné mimo MLflow: přesměrujte je do terminálu nebo do souboru, nebo si je později stáhněte pomocí air logs (viz krok 3).

Pokud chcete sledovat protokoly do dokončení, přidejte --watch:

air run --file train.yaml --watch

Krok 3: Kontrola spuštění

Kontrola stavu:

air get run <run-id>

Výstup obsahuje klikatelné odkazy na experiment MLflow daného spuštění a na běh MLflow v uživatelském rozhraní pracovního prostoru.

Streamovat nebo stáhnout protokoly:

air logs <run-id>
air logs <run-id> --node 2
air logs <run-id> --download-to ./logs/

Distribuované úlohy běží napříč několika uzly. Ve výchozím nastavení air logs streamuje z uzlu 0. Chcete-li zobrazit logy z konkrétního uzlu, zadejte --node. Slouží --download-to k zápisu protokolů do místního adresáře místo jejich streamování.

Výpis posledních spuštění:

air list runs --limit 10
air list runs --active

Zrušení spuštění:

air cancel <run-id>

Obvyklé scénáře

Přepište pole YAML z příkazového řádku:

air run --file train.yaml --override compute.num_accelerators=32 timeout_minutes=120

Ověřte konfiguraci bez odeslání:

air run --file train.yaml --dry-run

Bezpečně zopakujte odeslání:

air run --file train.yaml --idempotency-key my-unique-key

Pokud byl stejný klíč již dříve použit, vrátí se existující run namísto vytvoření nového.

Další zdroje informací

  • Last updated on