Nastavení prostředí

Důležité

Modul runtime AI pro úlohy s jedním uzlem je ve verzi Public Preview. Distribuované trénovací rozhraní API pro úlohy s více GPU zůstává v beta verzi.

AI Runtime poskytuje dvě spravovaná prostředí Pythonu pro bezserverové výpočty na GPU: minimální prostředí Standard s torch, cuda a torchvision a prostředí Databricks AI s předinstalovanými nástroji PyTorch, Transformers a dalšími frameworky pro strojové učení a hluboké učení. Zvolte standardní prostředí pro úplnou kontrolu nad zásobníkem závislostí nebo prostředí AI pro připravené prostředí pro trénování. Můžete také začít z obou prostředí a přidávat balíčky pomocí %pip install.

Jaké prostředí použít

AI Runtime nabízí dvě spravovaná Python prostředí, standardní prostředí a prostředí Databricks AI.

Životní prostředí Klíčové charakteristiky Kdy ho použít
Standardní prostředí Minimální; zahrnuje cuda. Od verze 5 prostředí už torch a torchvision nejsou předinstalovány. Chcete mít plnou kontrolu nad zásobníkem závislostí a raději instalovat jenom to, co potřebujete.
AI prostředí Databricks Předem načtené s oblíbenými rozhraními ML (PyTorch, Transformers a další) Chcete kompletní prostředí pro trénování, vyladění a experimentování bez ruční správy závislostí.

Můžete také použít základní prostředí pracovního prostoru , které správce pracovního prostoru vytvořil pro výpočetní prostředky GPU bez serveru. Viz Sestavení pro výpočetní prostředí GPU bez serveru (AI Runtime).

Standardní prostředí (minimální prostředí)

Minimální stabilní prostředí obsahující pouze požadované balíčky pro operaci modulu runtime AI. Prostředí zahrnuje cuda pro podporu GPU. Ve verzi prostředí 5 už nejsou torch a torchvision předinstalovány. Nainstalujte verze, které vaše úlohy potřebují, pomocí pip install. Informace o balíčcích nainstalovaných v jednotlivých verzích prostředí najdete v poznámkách k verzi níže.

Nejlepší pro: Uživatelé, kteří chtějí mít plnou kontrolu nad správou závislostí a preferují instalaci jen toho, co opravdu potřebují.

Výběr: Na bočním panelu Prostředí zvolte jako základní prostředí standard v5 nebo Standard v4 .

Další podrobnosti o verzích balíčků nainstalovaných v různých verzích najdete v poznámkách k verzi:

Prostředí Databricks AI

K dispozici v prostředí 4 a novějším. Prostředí AI je postavené na standardním prostředí s běžnými balíčky runtime a balíčky specifickými pro strojové učení v gpu. Mezi předinstalované balíčky patří:

  • PyTorch (s podporou CUDA)
  • Transformátory (Hugging Face)
  • A další závislosti ML/DL

Nejvhodnější pro: specialisté ML, kteří chtějí kompletní prostředí pro trénování úloh, vyladění a experimentování bez ruční správy závislostí.

Výběr: Na bočním panelu Prostředí zvolte jako základní prostředí AI v5 nebo AI v4 .

Další podrobnosti o verzích balíčků nainstalovaných v různých verzích najdete v poznámkách k verzi:

Základní prostředí pracovního prostoru

Správce pracovního prostoru může vytvořit základní prostředí pracovního prostoru pro výpočetní prostředky GPU bez serveru, které zpřístupňuje všem uživatelům v pracovním prostoru prostřednictvím rozevírací nabídky Základní prostředí . Podrobnosti najdete v tématu Sestavení pro výpočetní prostředí GPU bez serveru (AI Runtime).

Prostředí hlubokého učení můžete také nakonfigurovat pro každý projekt tak, že začnete z jednoho z poskytnutých základních prostředí (výchozí nebo Databricks AI) a prostřednictvím kódu programu nainstalujete další balíčky v %pip install rámci poznámkového bloku nebo v horní části trénovacího skriptu:

%pip install "trl==1.1.0"
%pip install "peft==0.19.1"
%pip install "transformers==5.5.4"
%pip install "fsspec==2024.9.0"
%pip install "huggingface_hub==1.11.0"
%pip install "datasets==3.2.0"
%pip install "accelerate==1.13.0"

Při použití dekorátoru @distributed pro úlohy s více GPU se balíčky nainstalované pomocí %pip install před voláním .distributed() automaticky zaznamenají do snímku a propagují do všech distribuovaných procesů. Celková velikost nainstalovaných balíčků nesmí překročit 15 GB.

Další podrobnosti najdete v tématu Přidání závislostí do poznámkového bloku.

Ukládání prostředí do mezipaměti a vlastní moduly

Kdy jsou prostředí uložená v mezipaměti?

Prostředí se ukládají do mezipaměti napříč relacemi, aby se urychlila doba spuštění. Když se znovu připojíte k modulu runtime AI se stejnou konfigurací prostředí, můžou být dříve nainstalované balíčky dostupné z mezipaměti, což zkracuje dobu instalace.

Chování mezipaměti však není zaručeno, proto se vždy ujistěte, že váš notebook obsahuje potřebné příkazy %pip install pro zajištění reprodukovatelnosti.

Jak naimportuji vlastní moduly?

Vlastní moduly můžete importovat jejich umístěním /Workspace/Shared a přidáním cesty:sys.path

import sys
sys.path.append("/Workspace/Shared/my-project/src")
from my_module import my_function

Soubory modulů můžete také nahrát jako soubory pracovního prostoru a importovat je přímo. Pro spolupráci s více uživateli uložte sdílený kód /Workspace/Shared místo složek specifických pro uživatele. Pro aktivní vývoj použijte složky specifické pro uživatele a nasdílejte je do vzdáleného úložiště Git pro správu verzí.

Omezení

V AI Runtime nejsou k dispozici následující funkce:

  • Funkce Sparku: Funkce PySpark nelze importovat ani používat přímo. AI Runtime je prostředí jen pro Python; Spark není k dispozici jako místní modul runtime. Spark Connect je ale k dispozici pro načítání dat. Viz též Načtení dat v AI Runtime.
  • Knihovny Databricks Runtime ML: Předinstalované balíčky nejsou náhradou za Databricks Runtime ML. Některé knihovny ML dostupné ve službě Databricks Runtime ML nemusí být předinstalované v prostředí AI Runtime.
  • Privátní artefakty: Modul runtime AI v určitých případech podporuje privátní artefakty. Pro další podrobnosti kontaktujte tým spravující váš účet.
  • Last updated on