Provozní prostředí AI

Důležité

Tato funkce je ve verzi Public Preview.

AI Runtime je bezserverová nabídka výpočetního výkonu GPU na platformě Databricks určená pro úlohy deep learningu. AI Runtime můžete použít k trénování a vyladění vlastních modelů pomocí oblíbených architektur a získání špičkové efektivity, výkonu a kvality.

Začínáme

Spusť první pracovní zátěž během několika minut pomocí našich rychlých průvodců.

Začínáme	Description
🚀 Rychlý úvod do CLI	Pocházíte ze Slurm nebo Kubernetes clusteru? Trénujte na AI Runtime z vašeho terminálu během několika minut.
📓 Rychlý start zápisníku	Připojte svůj notebook k GPU během pár sekund a vyvíjejte interaktivně...
⚡ Ray	Přichází to z Ray clusteru? Spusťte Ray v AI Runtime s podporou řídicího panelu.
🧭 Přehled	Během dvou minut se naučte klíčové věci o AI Runtime: dostupné GPU, jak funguje a jaká jsou omezení.

Funkce

AI Runtime je full-stack platforma pro GPU, která nabízí mnoho možností připojení k GPU, vestavěné nástroje pro pozorování a ladění a předpřipravená prostředí.

Připojte se k serverless GPU: Získejte serverless GPU odkudkoli, kde pracujete.

funkce	Description
Poznámkové bloky	Připojte notebook k serverless GPU, vypočítávejte a vyvíjejte interaktivně bez nastavení clusteru.
IDE přes SSH	Připojte se z IDE nebo terminálu přes SSH tunel, abyste mohli pracovat přímo na GPU uzlu.
AI Runtime CLI	Odesílejte a spravujte distribuované GPU tréninkové úlohy z vašeho notebooku pomocí konfigurací YAML úloh.
Paprsek	Spusťte Ray Core, Ray Data, Ray Train a Ray Tune na bezserverových výpočetních prostředcích GPU.

Správa závislostí: Ovládejte Python a systémové knihovny, se kterými vaše pracovní zátěž běží.

funkce	Description
Předpřipravená prostředí	Začněte s minimálním standardním prostředím nebo s Databricks AI prostředím předinstalovaným ML frameworky.
Podpora dockeru	Přineste si vlastní image kontejneru pro spuštění workloadů s vlastním dependencním stackem.

Načítání dat do GPU: Efektivně posílejte trénovací data do svých GPU.

funkce	Description
Efektivní načítače dat	Streamujte data ze svazků Unity Catalog pomocí načítacích nástrojů odolných proti chybám navržených pro vysoké využití GPU.

Debugování a pozorovatelnost: Sledujte experimenty, kontrolujte výstupy a diagnostikujte selhání.

funkce	Description
MLflow pro hluboké učení	Sledujte experimenty, metriky a běhy pomocí MLflow a ukládejte kontrolní body modelů do svazků Unity Catalog.
Prohlížeč logů	Sledujte výstupy z tréninku a sledujte využití zdrojů GPU během běhu kódu.
Ladění pomocí agentů	Použijte Genie Code pro generování tréninkového kódu, řešení problémů s prostředím a ladění chyb GPU.

Plánování a servis v reálném čase: Přejděte od interaktivního vývoje k plánovaným úlohám a endpointům.

funkce	Description
Produkujte své zakázky	Nasazujte tréninkový kód s Declarative Automation Bundles, plánujte běhy a budujte multitaskové pracovní postupy GPU a CPU.
Obsluhujte své modelky	Nasazujte své trénované modely za škálovatelným koncovým zařízením pomocí Model Serving.

Examples

Klonujte end-to-end příklady a spusťte je v prostředí AI Runtime během několika minut, z příkazového řádku nebo v notebookách.

Example	Description
Příklady Ray	Vezměte svůj stávající Ray projekt a spusť ho v AI Runtime během pár minut.
Trénování tabulkového doporučovacího modelu	Trénujte doporučovací modely založené na hlubokém učení, například dvouvěžové architektury.
Počítačové zpracování obrazu	Úlohy detekce objektů a klasifikace obrazů na GPU.
Klasické strojové učení	XGBoost s akcelerací GPU, predikce časových řad a další klasické úlohy strojového učení.
Dolaďování OSS LLM	Dolaďujte open-source velké jazykové modely pomocí LoRA, QLoRA nebo plného dolaďování.

Další informace

Najděte užitečný obsah: nejnovější aktualizace produktů a jak AI Runtime funguje pod povrchem.

Resource	Description
Aktualizace produktu	Podívejte se na nejnovější aktualizace a oznámení produktů AI Runtime.
Jak AI Runtime funguje pod kapotou	Přečtěte si, jak Databricks udržuje GPU spolehlivé napříč AI Runtime.