Připojit se k AI runtime

Důležité

Modul runtime AI pro úlohy s jedním uzlem je ve verzi Public Preview. Distribuované trénovací rozhraní API pro úlohy s více GPU zůstává v beta verzi.

Tento článek popisuje, jak se připojit k AI Runtime z interaktivních poznámkových bloků, plánovaných úloh a rozhraní API úloh.

Interactive (Poznámkové bloky)

Toto je primární způsob použití modulu runtime AI. Chcete-li připojit notebook a nastavit prostředí:

  1. V notebooku klikněte na rozevírací nabídku výpočet v horní části a vyberte bezserverové GPU.
  2. Kliknutím na ikonu Prostředí otevřete boční panel Prostředí .
  3. V poli Akcelerátor vyberte akcelerátor . U distribuovaných trénovacích úloh vyberte 8xH100. Pokyny k výběru akcelerátoru najdete v tématu Možnosti hardwaru .
  4. V poli Základní prostředí vyberte Možnost Žádné pro výchozí prostředí nebo AI v4 pro prostředí AI.
  5. Klikněte na Použít a poté Potvrďte, že chcete použít modul runtime AI pro prostředí poznámkového bloku.

Poznámka:

Připojení k výpočetnímu prostředí se automaticky ukončí po 60 minutách nečinnosti.

Návod

Pro operace, které nevyžadují GPU (například klonování úložiště Git, převod formátů dat nebo průzkumná analýza dat), připojte poznámkový blok ke clusteru procesoru, aby se zachovaly prostředky GPU.

Úlohy (naplánované)

Můžete naplánovat opakované úlohy pro poznámkové bloky, které používají serverless GPU. Další podrobnosti najdete v tématu Vytvoření a správa naplánovaných úloh poznámkového bloku .

Po otevření poznámkového bloku, který chcete použít:

  1. Vyberte tlačítko Plán v pravém horním rohu.
  2. Vyberte Přidat plán.
  3. Vyplňte formulář Nový plánnázvem úlohy, plánem a výpočetními prostředky.
  4. Vyberte Vytvořit.

Úlohy můžete také vytvářet a plánovat z uživatelského rozhraní Úlohy a kanály . Podrobné pokyny najdete v tématu Vytvoření nové úlohy .

Poznámka:

Přidání závislostí pomocí panelu Prostředí není podporováno pro naplánované úlohy na serverless GPU. Závislosti musí být nainstalovány programově v rámci poznámkového bloku (například %pip install). Automatické obnovení není podporováno – pokud vaše úloha selže kvůli nekompatibilním balíčkům, musíte ji opravit a znovu spustit ručně. U úloh, které mohou překročit 7denní maximální dobu běhu, implementujte ruční kontrolní body pro umožnění obnovení.

API pro úlohy a Databricks Asset Bundles

Úlohy běhového prostředí AI můžete vytvářet a spravovat programově pomocí rozhraní API pro úlohy Databricks nebo sad prostředků Databricks. Nakonfigurujte v úloze nebo definici sady výpočetních prostředků typ výpočetního objektu jako bezserverový GPU, aby se zautomatizovaly kanály nasazení.

Následující příklad ukazuje konfiguraci sady prostředků Databricks pro modul runtime AI v bezserverové úloze GPU:

resources:
  jobs:
    sample_job:
      name: sample_job_h100

      trigger:
        periodic:
          interval: 1
          unit: DAYS

      parameters:
        - name: catalog
          default: ${var.catalog}
        - name: schema
          default: ${var.schema}

      environments:
        - environment_key: default
          spec:
            environment_version: '4'

      tasks:
        - task_key: notebook_task
          notebook_task:
            notebook_path: /Workspace/Users/your_email/your_notebook
          environment_key: default
          compute:
            hardware_accelerator: GPU_8xH100
  • Last updated on