AI-körtid

Viktigt!

Den här funktionen finns som allmänt tillgänglig förhandsversion.

AI Runtime är ett serverlöst GPU-beräkningserbjudande på Databricks avsett för djupinlärningsarbetsbelastningar. Du kan använda AI Runtime för att träna och finjustera anpassade modeller med hjälp av dina favoritramverk och få toppmodern effektivitet, prestanda och kvalitet.

Get started

Kör din första arbetsbelastning på några minuter med våra snabbstartsguider.

Get started	Beskrivning
🚀 CLI quickstart	Kommer du från ett Slurm- eller Kubernetes-kluster? Träna på AI Runtime från din terminal på några minuter.
📓 Anteckningsbok snabbstart	Koppla din anteckningsbok till ett grafikkort på några sekunder och utveckla interaktivt..
⚡ Ray	Kommer du från ett Ray-kluster? Kör Ray på AI Runtime med dashboard-stöd.
🧭 Översikt	Lär dig de viktigaste sakerna om AI Runtime på två minuter: tillgängliga GPU:er, hur det fungerar och begränsningar.

Funktioner

AI Runtime är en fullstackad GPU-plattform med många sätt att ansluta till GPU:er, inbyggda observabilitets- och felsökningsverktyg samt förbyggda miljöer.

Koppla upp dig mot serverlösa GPU:er: Nå serverlösa GPU:er oavsett var du arbetar.

Feature	Beskrivning
Notebooks	Koppla en bärbar dator till serverless GPU-beräkning och utveckla interaktivt, utan klusteruppsättning.
IDE över SSH	Anslut från din IDE eller terminal via en SSH-tunnel för att arbeta direkt på en GPU-nod.
AI-körmiljö-CLI	Skicka in och hantera distribuerade GPU-träningsjobb från din laptop med hjälp av YAML-jobbkonfigurationer.
Stråle	Kör Ray Core, Ray Data, Ray Train och Ray Tune på serverlös GPU-beräkning.

Hantera beroenden: Kontrollera Python- och systembiblioteken som din arbetsbelastning körs med.

Feature	Beskrivning
Förbyggda miljöer	Börja från en minimal Standard-miljö eller en Databricks AI-miljö förladdad med ML-ramverk.
Docker-stöd	Ta med din egen containerimage för att köra arbetsbelastningar med en anpassad beroendestack.

Ladda data i GPU:er: Mata träningsdata effektivt till dina GPU:er.

Feature	Beskrivning
Effektiva dataladdare	Strömma data från Unity Catalog-volymer med feltoleranta inläsare utformade för hög GPU-utnyttjandegrad.

Felsökning och observabilitet: Följ experiment, inspektera utdata och diagnostisera fel.

Feature	Beskrivning
MLflow för djupinlärning	Följ experiment, mätvärden och körningar med MLflow, och spara kontrollpunkter för modellen till Unity Catalog-volymer.
Loggvisare	Se träningsutgången och övervaka GPU-resursanvändningen medan din kod körs.
Felsökning med agenter	Använd Genie Code för att generera träningskod, lösa miljöproblem och felsöka GPU-fel.

Schemaläggning och driftsättning i realtid: Gå från interaktiv utveckling till schemalagda jobb och slutpunkter.

Feature	Beskrivning
Gör dina jobb produktionsklara	Distribuera träningskod med Deklarative Automation Bundles, schemalägg körningar och bygg multitask-arbetsflöden för GPU och CPU.
Tjäna dina modeller	Distribuera dina tränade modeller bakom en skalbar endpoint med Model Serving.

Examples

Klona kompletta exempel och kör dem på AI Runtime på bara några minuter, direkt från kommandoraden eller i notebookar.

Example	Beskrivning
Ray-exempel	Ta ditt befintliga Ray-projekt och kör det på AI Runtime på några minuter.
Träning av en tabellrekommendationsmodell	Träna rekommendationsmodeller med djupinlärning, såsom arkitekturer med två torn.
Datorvision	Objektdetekterings- och bildklassificeringsarbetsbelastningar på GPU:er.
Klassisk maskininlärning	GPU-accelererad XGBoost, tidsserieprognoser och andra klassiska ML-uppgifter.
Fintrimning av en LLM med öppen källkod	Finjustera öppna källkodsmodeller för stora språk med LoRA, QLoRA eller full finjustering.

Learn more

Hitta hjälpsamt innehåll: de senaste produktuppdateringarna och hur AI Runtime fungerar under huven.

Resource	Beskrivning
Produktuppdateringar	Se de senaste produktuppdateringarna och meddelandena för AI Runtime.
Hur AI Runtime fungerar bakom kulisserna	Läs hur Databricks håller GPU:er pålitliga över AI-körtid.