Provozní prostředí AI

Důležité

Tato funkce je ve verzi Public Preview.

AI Runtime je bezserverová nabídka výpočetního výkonu GPU na platformě Databricks určená pro úlohy deep learningu. AI Runtime můžete použít k trénování a vyladění vlastních modelů pomocí oblíbených architektur a získání špičkové efektivity, výkonu a kvality.

Začínáme

Spusť první pracovní zátěž během několika minut pomocí našich rychlých průvodců.

Začínáme	Description
🚀 Stručný úvod k Databricks CLI	Pocházíte ze Slurm nebo Kubernetes clusteru? Trénujte na AI Runtime z vašeho terminálu během několika minut.
📓 Rychlý start zápisníku	Připojte svůj zápisník k GPU během pár sekund a vyvíjejte interaktivně.
⚡ Ray	Přichází to z Ray clusteru? Spusťte Ray v AI Runtime s podporou řídicího panelu.
🧭 Přehled	Během dvou minut se naučte klíčové věci o AI Runtime: dostupné GPU, jak funguje a jaká jsou omezení.

Funkce

AI Runtime je full-stack platforma pro GPU, která nabízí mnoho možností připojení k GPU, vestavěné nástroje pro pozorování a ladění a předpřipravená prostředí.

Připojte se k serverless GPU: Získejte serverless GPU odkudkoli, kde pracujete.

funkce	Description
Poznámkové bloky	Připojte notebook k serverless GPU, vypočítávejte a vyvíjejte interaktivně bez nastavení clusteru.
IDE přes SSH	Připojte se z IDE nebo terminálu přes SSH tunel, abyste mohli pracovat přímo na GPU uzlu.
CLI Databricks	Odesílejte a spravujte distribuované GPU tréninkové úlohy z vašeho notebooku pomocí konfigurací YAML úloh.
Agenti umělé inteligence	Použijte databricks-ai-runtime dovednost agenta k odesílání, monitorování a správě GPU tréninkových úloh z vašeho AI agenta.
Paprsek	Spusťte Ray Core, Ray Data, Ray Train a Ray Tune na bezserverových výpočetních prostředcích GPU.

Správa závislostí: Ovládejte Python a systémové knihovny, se kterými vaše pracovní zátěž běží.

funkce	Description
Předpřipravená prostředí	Začněte s minimálním standardním prostředím nebo s Databricks AI prostředím předinstalovaným ML frameworky.

Načítání dat do GPU: Efektivně posílejte trénovací data do svých GPU.

funkce	Description
Efektivní načítače dat	Streamujte data ze svazků Unity Catalog pomocí načítacích nástrojů odolných proti chybám navržených pro vysoké využití GPU.

Debugování a pozorovatelnost: Sledujte experimenty, kontrolujte výstupy a diagnostikujte selhání.

funkce	Description
MLflow pro hluboké učení	Sledujte experimenty, metriky a běhy pomocí MLflow.
Prohlížeč logů	Sledujte výstupy z tréninku a sledujte využití zdrojů GPU během běhu kódu.
Ladění pomocí agentů	Použijte Genie Code pro generování tréninkového kódu, řešení problémů s prostředím a ladění chyb GPU.

Plánování a servis v reálném čase: Přejděte od interaktivního vývoje k plánovaným úlohám a endpointům.

funkce	Description
Naplánovat úlohy GPU	Nasazujte tréninkový kód s Declarative Automation Bundles, plánujte běhy a budujte multitaskové pracovní postupy GPU a CPU.
Obsluhujte své modelky	Nasazujte své trénované modely za škálovatelným koncovým zařízením pomocí Model Serving.

Examples

Prozkoumejte end-to-end příklady notebooků a Databricks CLI pro AI Runtime.

Example	Description
Klasické strojové učení	XGBoost s akcelerací GPU, zero-shot predikce tabulkových dat a předpověď časových řad.
Systémy doporučení	Trénujte doporučovací modely založené na hlubokém učení, například dvouvěžové architektury.
Počítačové zpracování obrazu	Úlohy detekce objektů a klasifikace obrazů na GPU.
OSS modely po trénování (LLMs)	Doladění a dodatečný trénink open-source jazykových modelů s LoRA, plným doladěním a knihovnami jako TRL, Unsloth a Axolotl.
Dávkové odvození	Spusť rozsáhlou dávkovou inferenci pomocí Ray Data a vLLM napříč více GPU.
Distribuované trénování s více GPU	Škálujte trénink napříč více GPU a uzly pomocí DDP, FSDP a DeepSpeed.

Guides

Průvodce zaměřené na úkoly, jak migrovat pracovní zátěže do AI Runtime a jak co nejlépe využít své GPU.

Guide	Description
Migrujte ze Slurmu	Převeďte své dávkové skripty Slurm, distribuované spouštěče a sdílené úložiště do prostředí Databricks CLI.
Migrujte klasické úlohy GPU	Přesuňte stávající deep learning workload z klasického Databricks clusteru do AI Runtime.
Výkon a odolnost	Zlepšit průtok školení a učinit dlouhodobě fungující pracovní místa odolnějšími vůči neúspěchům.

Dodatečné zdroje

Najděte užitečný obsah: nejnovější aktualizace produktů a jak AI Runtime funguje pod povrchem.

Resource	Description
Aktualizace produktu	Podívejte se na nejnovější aktualizace a oznámení produktů AI Runtime.
Jak AI Runtime funguje pod kapotou	Přečtěte si, jak Databricks udržuje GPU spolehlivé napříč AI Runtime.