Provozní prostředí AI

AI Runtime je plně spravovaná bezserverová nabídka výpočetního výkonu GPU v Databricks pro vaše tréninkové, dolaďovací a širší úkoly hlubokého učení.

Serverless GPU: On-demand A10 a H100, přístupné přes Databricks CLI, notebooky, úlohy a Ray.
Spravovaná prostředí: předpřipravená prostředí a dataloadery připravené na trénování a dolaďování, nebo si přineste vlastní Docker kontejner.
Vestavěná observabilita: sledování experimentů pomocí MLflow, logování a ladění agentů.
Orchestrace: plánujte si GPU workloady a používejte je v CI/CD pipelinech.

Začínáme

Naučte se o AI Runtime a spusťte svůj první workload.

Začínáme	Description
🚀 Rychlý začátek	Spusť první pracovní zátěž na AI Runtime přímo ze svého terminálu.
🧭 Přehled	Naučte se klíčové věci o AI runtime: jaké GPU jsou k dispozici, jak funguje a jaká jsou omezení.
💡 Příklady	Prohlédněte si tutoriály do notebooků a spustitelné recepty na Databricks CLI uspořádané podle úkolů.

Přistupujte k GPU přes Databricks CLI, notebooky, Jobs nebo přes Ray.

funkce	Description
CLI Databricks	Odesílejte a spravujte distribuované GPU tréninkové úlohy z vašeho notebooku pomocí konfigurací YAML úloh.
Poznámkové bloky	Připojte notebook k AI Runtime a vyvíjejte interaktivně, bez nastavení clusteru.
Úlohy	Naplánujte notebook v AI Runtime jako opakující se úlohu.
Paprsek	Spusť Ray Core, Ray Data, Ray Train a Ray Tune na AI runtime.

Načítejte data efektivně, konfigurujte prostředí a vyvíjejte pracovní zátěže pomocí kódovacích agentů.

funkce	Description
Načtěte data do grafických procesorů	Streamujte data ze svazků Unity Catalog pomocí načítacích nástrojů odolných proti chybám navržených pro vysoké využití GPU.
Předpřipravená prostředí	Začněte s minimálním standardním prostředím nebo s Databricks AI prostředím předinstalovaným ML frameworky.
Vlastní Docker image	Přineste si vlastní Docker image, když vaše zátěž vyžaduje vlastní systémové knihovny nebo závislosti.
Agenti pro kódování	Použijte Genie Code a dovednost agenta `databricks-ai-runtime` k vytváření, odesílání a správě GPU zátěží.

Sledujte experimenty, kontrolujte záznamy, diagnostikujte poruchy a plánujte produkční úlohy.

funkce	Description
MLflow pro ladění	Sledujte experimenty, metriky a běhy pomocí MLflow.
Zobrazit protokoly	Sledujte výstupy tréninku, sledujte využití GPU zdrojů během běhu kódu a laďte pomocí Genie Code.
Naplánovat pracovní zátěž	Nasazujte tréninkový kód s Declarative Automation Bundles, plánujte běhy a budujte multitaskové pracovní postupy GPU a CPU.
Serve trénovaných modelů	Nasazujte modely trénované na AI Runtime do Model Serving.

Prozkoumejte migrační průvodce, tutoriály a technické zdroje pro AI Runtime.

Resource	Description
Proč používat AI Runtime	Porovnejte AI Runtime s klasickým výpočetním prostředím a Databricks Runtime ML z hlediska ceny, zkušenosti vývojářů a škálovatelnosti.
Migrujte klasické úlohy GPU	Přesuňte existující deep learning workload z klasického Azure Databricks clusteru do AI Runtime.
Optimalizujte výkon své pracovní zátěže	Zlepšit průtok školení a učinit dlouhodobě fungující pracovní místa odolnějšími vůči neúspěchům.

Byla tato stránka užitečná?