Csatlakozás az AI-futtatási környezethez

Fontos

Az egycsomópontos feladatokhoz készült AI-futtatókörnyezet nyilvános előzetes verzióban érhető el. A több GPU-s számítási feladatok elosztott betanítási API-ja a bétaverzióban marad.

Ez a cikk azt ismerteti, hogyan csatlakozhat az AI-futtatókörnyezethez interaktív jegyzetfüzetekből, ütemezett feladatokból és a Jobs API-ból.

Interaktív (jegyzetfüzetek)

Az AI futtatókörnyezet használatának ez az elsődleges módja. A notebook számítógép csatlakoztatása és a környezet beállítása.

1. Egy jegyzetfüzetben kattintson a felül található Connect legördülő menüre, és válassza a Kiszolgáló nélküli GPU lehetőséget.
2. Kattintson a A Környezet oldalpanel megnyitásához.
3. Válassza az A10 vagy H100 elemet a Gyorsító mezőben.
4. Válassza a Nincs lehetőséget az alapértelmezett környezethez vagy az AI v4-et az AI-környezethez az Alapkörnyezet mezőben.
5. Kattintson az Alkalmaz gombra, majd erősítse meg , hogy az AI-futtatókörnyezetet a jegyzetfüzet környezetére szeretné alkalmazni.

Megjegyzés:

A számítási kapcsolat 60 perc inaktivitás után automatikusan leáll.

Jótanács

Gpu-t nem igénylő műveletek esetén (például Git-adattár klónozása, adatformátumok konvertálása vagy feltáró adatelemzés) csatolja a jegyzetfüzetet egy CPU-fürthöz a GPU-erőforrások megőrzése érdekében.

Munkák (ütemezett)

Ismétlődő feladatként ütemezheti a kiszolgáló nélküli GPU-t használó jegyzetfüzeteket. További részletekért lásd: Ütemezett jegyzetfüzet-feladatok létrehozása és kezelése .

A használni kívánt jegyzetfüzet megnyitása után:

1. Kattintson a jobb felső sarokban található Ütemezés gombra.
2. Válassza az Ütemezés hozzáadása lehetőséget.
3. Töltse ki az Új ütemezés űrlapot a feladat nevével, ütemezésével és számításával.
4. Válassza a Create gombot.

Feladatokat a Feladatok és folyamatok felhasználói felületéről is létrehozhat és ütemezhet. Részletes útmutatásért tekintse meg az Új feladat létrehozása című témakört.

Megjegyzés:

A környezetek panelen lévő függőségek hozzáadása nem támogatott a kiszolgáló nélküli GPU ütemezett feladataihoz. A függőségeket programozott módon kell telepíteni a jegyzetfüzeten belül (például %pip install). Az automatikus helyreállítás nem támogatott – ha a feladat nem kompatibilis csomagok miatt meghiúsul, manuálisan kell kijavítania és újra futtatnia. A 7 napos maximális futásidőt esetleg meghaladó számítási feladatok esetében az újrakezdés engedélyezéséhez hajtsa végre a manuális ellenőrzőpont-vezérlést.

Jobs API és Databricks-eszközcsomagok

A Databricks Jobs API vagy a Databricks Asset Bundles használatával programozott módon hozhat létre és kezelhet AI-futtatókörnyezeti feladatokat. Konfigurálja a számítási típust kiszolgáló nélküli GPU-ként a feladatban vagy a csomagdefinícióban az üzembehelyezési folyamatok automatizálásához.

Az alábbi példa egy Databricks-eszközcsomag konfigurációját mutatja be egy kiszolgáló nélküli GPU-feladaton futó AI-futtatókörnyezethez:

resources:
  jobs:
    sample_job:
      name: sample_job_h100

      trigger:
        periodic:
          interval: 1
          unit: DAYS

      parameters:
        - name: catalog
          default: ${var.catalog}
        - name: schema
          default: ${var.schema}

      environments:
        - environment_key: default
          spec:
            environment_version: '4'

      tasks:
        - task_key: notebook_task
          notebook_task:
            notebook_path: /Workspace/Users/your_email/your_notebook
          environment_key: default
          compute:
            hardware_accelerator: GPU_8xH100