AI Runtime gyorsindítás

A Databricks azt javasolja, hogy kezdj a Databricks CLI-val az első AI Runtime-munkaterhelés futtatásához. A Databricks CLI lehetővé teszi, hogy kiszolgáló nélküli GPU munkaterheléseket küldj, figyelj és kezelj a terminálodról. Ha inkább notebookokat részesítesz előnyben, nézd meg az AI Runtime Notebook gyorsútmutatóját.

Requirements

  • Egy Azure Databricks-munkaterület, amelyben az AI Runtime engedélyezve van. Lásd a követelményeket.
  • A Git telepítve van és elérhető az Ön PATH a Python-példa futtatásához. A CLI a Git-et használja a helyi kód csomagolására.

Az első számítási feladat futtatása

  1. Telepítse vagy frissítse a Databricks CLI-t, és hitelesítse a munkaterületéhez. Lásd: A Databricks parancssori felület telepítése vagy frissítése és Hitelesítés a Databricks parancssori felülethez.

    Győződjön meg arról, hogy a air parancsok elérhetők:

    databricks air --help
    
  2. Hozzon létre egy minimális terhelési fájlt. Az alábbi workload.yaml egy A10 GPU-t kér, és a nvidia-smi futtatásával kiírja a GPU nevét:

    experiment_name: air-quickstart
    compute:
      num_accelerators: 1
      accelerator_type: GPU_1xA10
    command: nvidia-smi --query-gpu=name --format=csv,noheader
    
  3. Küldd be a workloadot, és streameld a naplóit a következőkkel: databricks air run

    databricks air run --file workload.yaml --watch
    

    A CLI visszaadja a Job Run ID-t és egy linket a munkaterületedben lévő futáshoz. --watch A terminált csatlakoztatva tartja, és naplókat sugároz, amíg a munkaterhelés be nem fejeződik.

    Submitting experiment: air-quickstart
    Submitted workload with Job Run ID: 783940125630184
    View job run at: https://example.cloud.databricks.com/jobs/runs/783940125630184?o=1234567890123456
    
    Monitoring run and streaming logs...
    ...
    Environment setup completed at Thu Oct 1 14:23:45 UTC 2026
    NVIDIA A10
    

Tip

Ha segítséget szeretnél kapni a workload-konfiguráció megírásához és a futások kezeléséhez, telepítsd a databricks-ai-runtime skillt az AI ügynöködhöz. Lásd Ügynökképességek használata AI Runtime-val.

Futtasd a saját Python kódodat

A helyi Python kód feltöltéséhez és futtatásához hozz létre egy air-quickstart könyvtárat az alábbi fájlokkal:

air-quickstart/
├── workload.yaml
└── main.py

Tip

Ha egy futtatható projektből indulsz a fájlok kézzel létrehozása helyett, klónozd az AI Runtime cookbook repository-t, és lépj a CLI első lépések könyvtárába:

git clone https://github.com/databricks-solutions/ai-runtime-cookbook.git
cd ai-runtime-cookbook/getting-started/air-cli

Használd az alábbi minimális Python kódot annak ellenőrzésére, hogy az AI Runtime futtatja-e a feltöltött kódot a GPU-n:

import torch

print("Hello from Python on AI Runtime")
print(f"GPU: {torch.cuda.get_device_name(0)}")

A példa kibővítéséhez lecserélheted a(z) main.py elemet a saját betanításodra, kötegelt inferenciára vagy más AI-alkalmazásra.

Használja a következő konfigurációt ehhez: workload.yaml

experiment_name: python-quickstart
environment:
  version: 6
  dependencies:
    - torch==2.11.0
compute:
  num_accelerators: 1
  accelerator_type: GPU_1xH100
code_source:
  root_path: .
command: python "$CODE_SOURCE_PATH/main.py"

Ez a konfiguráció az alábbi beállításokat használja, és main.py egy H100 GPU-n fut:

  • environment.version kiválasztja a Standard környezet 6-os verzióját.
  • environment.dependencies telepíti a PyTorch 2.11.0-t a kiválasztott környezetbe.
  • root_path: . feltölti a workload.yaml-t tartalmazó könyvtárat. Futáskor $CODE_SOURCE_PATH a feltöltött könyvtárra mutat.

Küldd be a workloadot abból a könyvtárból, amely tartalmazza a(z) workload.yaml:

databricks air run --file workload.yaml --watch

A továbbított naplók a következők:

...
Hello from Python on AI Runtime
GPU: NVIDIA H100 80GB HBM3

A teljes képzés, finomhangolás, köteges következtetés és Ray munkaterhelések futtatásához klónozd az AI Runtime Cookbookot és futtatj egy receptet.

A környezetek, kódforrások, számítási és egyéb munkaterhelés beállítások konfigurálásához lásd a Workload YAML hivatkozást.

Ellenőrizd és figyeld a futtatásodat

A CLI kinyomtatja a Job Run ID-t, amikor beküldöd a feladatot. Használd a futtatás ellenőrzésére:

databricks air get <job-run-id>

databricks air get megmutatja a futás állapotát, konfigurációját és időzítését. Emellett a Job futáshoz is kapcsolódik, és ha elérhető, az MLflow futáshoz is.

A naplók streameléséhez a beküldés után vagy a megszakított stream folytatásához futtassa:

databricks air logs <job-run-id>

A CLI parancsokat is biztosít a futások listázására és ellenőrzésére, naplók streamelésére, valamint az aktív futások megszakítására. Lásd aair parancshivatkozást.

Reference

További erőforrások