AI-uitvoeringstijd

AI Runtime is een volledig beheerd, serverless GPU-rekenaanbod bij Databricks voor je training, fine-tuning en bredere deep learning-workloads.

  • Serverless GPU's: On-demand A10's en H100's, toegankelijk via de Databricks CLI, notebooks, jobs en Ray.
  • Beheerde omgevingen: vooraf gebouwde omgevingen en dataloaders klaar voor training en fine-tuning, of neem je eigen Docker-container mee.
  • Ingebouwde observabiliteit: experimentele tracking via MLflow, logging en debugging-agenten.
  • Orkestratie: plan je GPU-workloads in en gebruik ze in CI/CD-pijplijnen.

Aan de slag

Leer over AI Runtime en start je eerste workload.

Aan de slag Beschrijving
🚀 Quickstart Voer je eerste workload uit op AI Runtime vanaf je terminal.
🧭 Overzicht Leer de belangrijkste aspecten van AI Runtime: welke GPU's beschikbaar zijn, hoe het werkt en wat de beperkingen zijn.
💡 Voorbeelden Blader door notebooktutorials en uitvoerbare Databricks CLI-recepten, georganiseerd per taak.

Verbinden met GPU's

Krijg toegang tot GPU's via de Databricks CLI, notebooks, Jobs, of via Ray.

Feature Beschrijving
Databricks-CLI Dien gedistribueerde GPU-trainingsopdrachten in en beheer ze vanaf je laptop met behulp van YAML-jobconfiguraties.
Notebooks Koppel een notebook aan AI Runtime en ontwikkel interactief, zonder cluster-setup.
Banen Plan een notebook in op AI Runtime als een terugkerende taak.
Straal Draai Ray Core, Ray Data, Ray Train en Ray Tune op AI runtime.

Workloads ontwikkelen

Laad data efficiënt, configureer je omgeving en ontwikkel workloads met codeeragenten.

Feature Beschrijving
Laad data in GPU's Stroom data uit Unity Catalog-volumes met fouttolerante laadprogramma's die zijn ontworpen voor hoge GPU-benutting.
Vooraf gebouwde omgevingen Begin met een minimale standaardomgeving of een Databricks AI-omgeving die vooraf is uitgerust met ML-frameworks.
Aangepaste Docker-images Neem je eigen Docker-image mee wanneer je workload aangepaste systeembibliotheken of afhankelijkheden vereist.
Codeeragents Gebruik Genie Code en de databricks-ai-runtime agent skill om GPU-workloads te creëren, in te dienen en te beheren.

Monitoren, debuggen en uitrollen

Volg experimenten, inspecteer logs, diagnoseer storingen en plan productiewerklasten in.

Feature Beschrijving
MLflow voor debugging Houd experimenten, metrics en runs bij met MLflow.
Logboeken weergeven Bekijk trainingsoutput, monitor het GPU-resourcegebruik terwijl je code draait, en debug met Genie Code.
Werklasten plannen Deploy trainingscode met Declarative Automation Bundles, plan runs en bouw multitask-workflows voor GPU's en CPU's.
Implementeer getrainde modellen Implementeer modellen die getraind zijn op AI Runtime naar Model Serving.

Guides

Ontdek migratiegidsen, tutorials en technische bronnen voor AI Runtime.

Resource Beschrijving
Waarom AI Runtime gebruiken Vergelijk AI Runtime met klassieke compute en Databricks Runtime ML voor kosten, ontwikkelaarservaring en schaalbaarheid.
Migreren van klassieke GPU-workloads Verplaats een bestaande deep learning-workload van een klassieke Azure Databricks-cluster naar AI Runtime.
Optimaliseer de prestaties van je workload Verbeter de trainingsdoorvoer en maak langlopende banen veerkrachtiger tegen mislukkingen.