Használd a Databricks CLI-t AI Runtime-szal

A databricks air CLI egyetlen csomópontos és többcsomópontos GPU munkaterhelést futtat az AI Runtime-on, a igény szerinti szerver nélküli GPU számítási platformon. Definiáld a munkaterhelés számítási konfigurációját, környezetét és parancsát YAML-ben, majd küldd be az databricks air run paranccsal.

Az AI Runtime kezeli a GPU provisionálását és környezetbeállítását, valamint biztosítja a futási állapotot, naplókat, rendszermutatókat és MLflow követést. A YAML és a CLI munkafolyamat jól használható kódoló ügynökökkel, amelyek képesek meghatározni, benyújtani és nyomon követni a munkaterheléseket.

A CLI segítségével a következőket teheti:

  • Fejlessz és iterálj Python alkalmazásokat a helyi környezetedben.
  • Definiálj ismételhető, egycsomópontos vagy többcsomópontos munkaterheléseket YAML-fájlokban, amelyeket verziókezelésben tárolhatsz.
  • Küldj be és kezeld a feladatokat egy terminálból vagy automatizált fejlesztési munkafolyamatból.

Tipikus munkaterhelések közé tartozik az LLM finomhangolás és utóképzés, elosztott képzés, kötegelt inferencia, Ray-alkalmazások és hiperparaméterkeresés.

A munkaterületi követelményekkel kapcsolatban lásd: Követelmények. A munkaterhelés beküldéséhez kövesse a quickstart.

A Databricks CLI parancsai az AI Runtime-hoz ugyanazokat a megfelelőségi szabványokat teljesítik, mint az AI Runtime munkaterhelései. A támogatott szabványokért és kivételekért tekintse meg a megfelelőségi biztonsági profilt.

Note

A databricks air parancsok és a munkaterhelési konfigurációja eltér a databricks-air csomagban található régi Python-alapú air CLI-től. Lásd a Python CLI migrációját.

Nézz meg futtatható példákat

Az AI Runtime Cookbook futtatható Databricks CLI munkaterheléseket tartalmaz modell betanításához, finomhangoláshoz, kötegelt inferenciához, Rayhez és hiperparaméterkereséshez. Minden receptúra tartalmaz egy munkaterheléses YAML-fájlt, forráskódot és a futtatására vonatkozó utasításokat.

Hogyan fut egy munkaterhelés

Megadod a workload YAML-fájlt, szükség esetén az alkalmazáskódot, és a parancsot, amely elindítja az alkalmazást. Amikor beküldöd a workloadot:

  1. A munkaterhelés definícióját a támogatott séma és konfigurációs korlátok alapján validálják.
  2. Ha code_source be van állítva, a kiválasztott kód pillanatképként van csomagolva és feltöltve.
  3. A kért GPU-számítási környezet minden csomóponton elő van készítve.
  4. A workload YAML-ban megadott parancs minden csomóponton fut.

A beküldés egy Job Run ID-t ad vissza, amely azonosítja a munkaterhelést. Használd az állapot ellenőrzésére, a naplók és konfigurációk ellenőrzésére, vagy a munkaterhelés megszakítására. Megtekintheted a Jobs run oldalt és az MLflow kísérletet is a végrehajtási részletekért, rendszermetrikákért, naplókért és artefaktumokért.

Ez a munkafolyamat kezelt GPU provisionálást, reprodukálható környezetbeállítást és beépített megfigyelhetőséget biztosít anélkül, hogy GPU infrastruktúrát kellene konfigurálnod vagy karbantartani.

Munkaterhelés beállítása

Egy munkaterheléses YAML fájl az alábbi komponenseket írja le:

  • Kísérlet: Az MLflow-kísérlet és -futtatás, amelyek nyomon követik a munkaterhelést.
  • Környezet: A használandó kezelt környezet, függőségek vagy egyéni Docker-lemezkép.
  • Számítási kapacitás: A gyorsító típusa és a biztosítandó gyorsítók száma.
  • Kódforrás: Opcionális alkalmazáskód pillanatkép, amely elérhetővé teszi a munkaterhelés számára.
  • Parancs: A shell parancs, amely elindítja az alkalmazást.
  • Futási idejű beállítások: Olyan opciók, mint az újrapróbálkozások, időtúllépések, környezeti változók, titkos kulcsok és jogosultságok.

Konfigurációs mezőkért és példákért lásd: Workload YAML referencia.

Alkalmazáskód feltöltése

A(z) code_source használatával tölthet fel alkalmazásfájlokat munkaterheléssel. Az AI Runtime minden csomóponton elérhetővé teszi a feltöltött könyvtárat, és beállítja a(z) $CODE_SOURCE_PATH értékét a helyére. Például a következő parancs lefuttatja a feltöltött könyvtárban található train.py elemet:

command: python "$CODE_SOURCE_PATH/train.py"

Feltöltheted a jelenlegi munkafát, vagy választhatsz egy Git ágat vagy commitot. Teljes példáért lásd a gyorsindítást.

Terhelések fejlesztése és kezelése

A fejlesztés általában ezt a folyamatot követi:

  1. Fejlessze az alkalmazáskódot és a számítási feladat YAML-fájlját helyben.
  2. Validáld a YAML-t helyileg a következővel: databricks air run --file <file> --dry-run.
  3. A workloadot a(z) databricks air run --file <file> segítségével küldheti be. Adja hozzá a(z) --watch elemet a folyamnaplókhoz, amíg a futás be nem fejeződik.
  4. Használd databricks air get, databricks air list, és databricks air logs a munkaterhelések és naplók ellenőrzésére.
  5. Opcionálisan állítsd meg a futó munkaterhelést databricks air cancel.

Minden parancs és zászló esetén lásd: air parancscsoport.

Ütemezett futásokhoz, többfeladatos munkafolyamatokhoz vagy környezetek közötti előléptetéshez databricks air convert-to-dabs egy csomag kiindulópontjaként használhatod. Lásd: GPU munkaterhelések ütemezése és feladatok összeállítása.

Munkafolyamatok követése MLflow-val

Minden benyújtott munkaterhelést egy Databricks-feladatfutás reprezentál, és egy MLflow kísérlet követi nyomon:

  • Databricks-feladatfuttatás: Megmutatja a feladat állapotát, a végrehajtási kísérleteket és a kimenetet a Feladatfuttatás oldalon.
  • MLflow kísérlet: Tartalmazza az MLflow futásokat automatikusan rögzített rendszermetrikákkal, munkaterhelés konfigurációval és naplókkal. Az alkalmazásod az MLflow API-kat is használhatja egyedi paraméterek, metrikák és artefakták rögzítésére.

Használd a Job Run ID-t olyan parancsokkal, mint databricks air get, databricks air logs, és databricks air cancel. Lásd : Kísérleti követés és megfigyelhetőség.

Egycsomópontos és elosztott munkaterhelések futtatása

Az AI Runtime egyszer futtatja a konfigurált parancsot minden kiépített csomóponton. Elosztott munkaterhelés esetén koordinációs változókat biztosít, például NUM_NODES, NODE_RANK, LOCAL_WORLD_SIZE, MASTER_ADDR és MASTER_PORT.

Ez a végrehajtási modell keretrendszertől független. A parancsodnak el kell indítania és konfigurálnia a szétosztott keretrendszert, például a torchrun meghívásával, egy Ray bootstrap szkripttel vagy egy másik framework launcherrel. A teljes munkaterhelésekhez lásd az AI Runtime Cookbook-ot.

Használj egy AI-ügynököt

Az databricks-ai-runtime ügynöki készség olyan utasításokat biztosít, amelyek segítik az AI-ügynököket, például a Claude Code-ot, a Cursort és a Codexet, abban, hogy a Databricks CLI-n keresztül az AI Runtime-mal dolgozzanak. Használd a munkaterhelés YAML létrehozására, GPU képzési feladatok beküldésére, futtatás állapotának ellenőrzésére, naplók valós idejű követésére és futtatások megszakítására. Az egyéni Docker-lemezképekről is tartalmaz útmutatást.

A Databricks CLI telepítése és hitelesítés konfigurálása után futtasd a következő parancsot:

databricks aitools install --skills-only --skills databricks-ai-runtime

Kövesse az utasításokat, hogy válassza ki az AI-ügynököt és a telepítési kört. A telepítési lehetőségekért lásd a aitools parancscsoportot. Arról, hogy mit fed a képesség, lásd: Ügynök képességek használata AI Runtime-val.

További erőforrások

  • Utolsó frissítés időpontja: