AI-uitvoeringstijd

Belangrijk

Deze functie bevindt zich in openbare preview-versie.

AI Runtime is een serverless GPU-compute-aanbod bij Databricks, bedoeld voor deep learning-workloads . U kunt AI Runtime gebruiken om aangepaste modellen te trainen en af te stemmen met behulp van uw favoriete frameworks en geavanceerde efficiëntie, prestaties en kwaliteit te verkrijgen.

Aan de slag

Voer je eerste workload binnen enkele minuten uit met behulp van onze quickstart-gidsen.

Aan de slag	Beschrijving
🚀 CLI quickstart	Komt u van een Slurm- of Kubernetes-cluster? Train in enkele minuten op AI Runtime vanaf je terminal.
📓 Snelstartgids voor Notebook	Sluit je notebook binnen enkele seconden aan een GPU aan en ontwikkel interactief..
⚡ Ray	Komt het uit een straalcluster? Draai Ray op AI Runtime met dashboardondersteuning.
🧭 Overzicht	Leer de belangrijkste zaken over AI Runtime in twee minuten: beschikbare GPU's, hoe het werkt en beperkingen.

Functies

AI Runtime is een full-stack GPU-platform, met veel manieren om verbinding te maken met GPU's, ingebouwde observabiliteits- en debuggingtools, en vooraf gebouwde omgevingen.

Verbind met serverless GPU's: Bereik serverless GPU's vanaf waar je ook werkt.

Feature	Beschrijving
Notebooks	Koppel een notebook aan serverless GPU-compute en ontwikkel interactief, zonder clusteropzet.
IDE over SSH	Maak verbinding vanaf je IDE of terminal via een SSH-tunnel om direct op een GPU-node te werken.
AI Runtime CLI	Dien gedistribueerde GPU-trainingsopdrachten in en beheer ze vanaf je laptop met behulp van YAML-jobconfiguraties.
Straal	Voer Ray Core, Ray Data, Ray Train en Ray Tune uit op serverless GPU-berekening.

Afhankelijkheden beheren: Beheer de Python- en systeembibliotheken waarmee je workload draait.

Feature	Beschrijving
Vooraf gebouwde omgevingen	Begin met een minimale standaardomgeving of een Databricks AI-omgeving die vooraf is uitgerust met ML-frameworks.
Docker-ondersteuning	Breng je eigen containerimage mee om workloads te draaien met een aangepaste dependency stack.

Data laden in GPU's: Voer trainingsdata efficiënt naar je GPU's.

Feature	Beschrijving
Efficiënte gegevensladers	Stroom data uit Unity Catalog-volumes met fouttolerante laadprogramma's die zijn ontworpen voor hoge GPU-benutting.

Debugging en observabiliteit: Volg experimenten, inspecteer output en diagnoseer storingen.

Feature	Beschrijving
MLflow voor deep learning	Volg experimenten, meetwaarden en runs met MLflow, en sla checkpoints van modellen op in Unity Catalog-volumes.
Logsviewer	Bekijk trainingsoutput en monitor het gebruik van GPU-resources terwijl je code draait.
Debuggen met agenten	Gebruik Genie Code om trainingscode te genereren, omgevingsproblemen op te lossen en GPU-fouten te debuggen.

Plannen en real-time beschikbaar stellen: Ga van interactieve ontwikkeling naar geplande taken en endpoints.

Feature	Beschrijving
Breng je taken naar productie	Deploy trainingscode met Declarative Automation Bundles, plan runs en bouw multitask-workflows voor GPU's en CPU's.
Stel je modellen beschikbaar	Zet je getrainde modellen in achter een schaalbaar eindpunt met Model Serving.

Examples

Klone end-to-end voorbeelden en voer ze in enkele minuten uit op AI Runtime, vanuit de CLI of in notitieboekjes.

Voorbeeld	Beschrijving
Ray-voorbeelden	Neem je bestaande Ray-project en draai het binnen enkele minuten op AI Runtime.
Het trainen van een tabelreferentiemodel	Train aanbevelingsmodellen op basis van deep learning, zoals two-tower-architecturen.
Computervisie	Objectdetectie- en beeldclassificatietaken op GPU's.
Klassieke machine learning	GPU-versnelde XGBoost, tijdreeksvoorspellingen en andere klassieke ML-taken.
Fijn afstellen van een OSS LLM	Stem opensource-grote taalmodellen af met LoRA, QLoRA of volledige fijnafstemming.

Meer informatie

Vind nuttige inhoud: de laatste productupdates en hoe AI Runtime onder de motorkap werkt.

Resource	Beschrijving
Productupdates	Bekijk de nieuwste AI Runtime-productupdates en aankondigingen.
Hoe AI Runtime werkt onder de motorkap	Lees hoe Databricks GPU's betrouwbaar houdt gedurende de AI-runtime.