Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
AI Runtime ist ein vollständig verwaltetes, serverloses GPU-Computing-Angebot auf Azure Databricks für Training, Feinabstimmung und andere Deep-Learning-Workloads. Es ist für ML-Ingenieure und Data Scientists gedacht, die GPUs ohne Provisioning von Clustern wollen. Für klassische Rechenressourcen mit Databricks Runtime ML siehe Databricks Runtime for Machine Learning.
- Serverless GPUs: On-Demand A10s und H100s, zugänglich über die Databricks-CLI, Notebooks, Jobs und Ray.
- Verwaltete Umgebungen: vorgefertigte Umgebungen und Datenloader, bereit für Training und Feinabstimmung, oder bringen Sie Ihren eigenen Docker-Container mit.
- Integrierte Observability: Experimentverfolgung über MLflow, Logging und Debugging-Agenten.
- Orchestrierung: Plane deine GPU-Workloads und nutze sie in CI/CD-Pipelines.
Get started
Lerne AI Runtime kennen und führe deinen ersten Workload aus.
| Get started | Description |
|---|---|
| 🚀 Quickstart | Führe dein erstes Workload auf AI Runtime von deinem Terminal aus. |
| 🧭 Überblick | Erfahren Sie die wichtigsten Aspekte von AI Runtime: welche GPUs verfügbar sind, wie sie funktionieren und welche Einschränkungen es gibt. |
| 💡 Beispiele | Durchstöbere Notebook-Tutorials und laufbare Databricks CLI-Rezepte, organisiert nach Aufgaben. |
Mit GPUs verbinden
Zugriff auf GPUs über die Databricks-CLI, Notebooks, Jobs oder über Ray.
| Feature | Description |
|---|---|
| Databricks-CLI | Reiche verteilte GPU-Trainingsaufträge von deinem Laptop aus ein und verwalte sie mit YAML-Job-Konfigurationen. |
| Notebooks | Hänge ein Notebook an AI Runtime an und entwickle interaktiv, ohne Cluster-Setup. |
| Arbeitsplätze | Planen Sie ein Notebook auf AI Runtime als wiederkehrenden Job. |
| Ray | Führe Ray Core, Ray Data, Ray Train und Ray Tune in der AI Runtime aus. |
Umgebungen verwalten
Workloads in einer verwalteten Umgebung oder in Ihrem eigenen Docker-Image ausführen.
| Feature | Description |
|---|---|
| Vorgefertigte Umgebungen | Beginnen Sie mit einer minimalen Standardumgebung oder einer Databricks-KI-Umgebung, die mit ML-Frameworks vorinstalliert ist. |
| Benutzerdefinierte Docker-Images | Bringen Sie Ihr eigenes Docker-Image mit, wenn Ihre Arbeitslast benutzerdefinierte Systembibliotheken oder Abhängigkeiten benötigt. |
Workloads erstellen
Laden Sie Daten effizient und entwickeln Sie Workloads mit Coding-Agents.
| Feature | Description |
|---|---|
| Daten in GPUs laden | Streamen Sie Daten aus Unity Catalog-Volumes mit fehlertoleranten Loadern, die auf eine hohe Auslastung der GPU ausgelegt sind. |
| Coding-Agents | Nutze Genie Code und die databricks-ai-runtime Agent-Fähigkeit, um GPU-Workloads zu erstellen, einzureichen und zu verwalten. |
Überwachen, debuggen und bereitstellen
Verfolgen Sie Experimente, überprüfen Sie Protokolle, diagnostizieren Sie Fehler und planen Sie Produktions-Workloads.
| Feature | Description |
|---|---|
| MLflow zum Debuggen | Verfolge Experimente, Metriken und Durchläufe mit MLflow. |
| Anzeigen von Protokollen | Sieh dir die Trainingsausgabe an, überwache den GPU-Ressourcenverbrauch, während dein Code läuft, und debugge mit Genie Code. |
| Arbeitslasten planen | Bereitstellen Sie Trainingscode mit Declarative Automation Bundles ein, planen Sie Läufe und erstellen Sie Multitask-GPU- und CPU-Workflows. |
| Trainierte Modelle bereitstellen | Protokollieren, registrieren und stellen Sie Modelle bereit, die auf der KI-Laufzeit trainiert wurden, um Modellbereitstellungs-Endpunkte auf CPU- oder GPU-Compute zu implementieren. |
Guides
Entdecken Sie Migrationsleitfäden, Tutorials und technische Ressourcen für AI Runtime.
| Resource | Description |
|---|---|
| Warum AI Runtime verwenden | Vergleichen Sie AI Runtime mit klassischem Compute und Databricks Runtime ML hinsichtlich Kosten, Entwicklererfahrung und Skalierbarkeit. |
| Migrierung klassischer GPU-Workloads | Übertragen Sie eine bestehende Deep-Learning-Workload von einem klassischen Azure Databricks-Cluster auf KI-Runtime. |
| Optimieren Sie die Leistung Ihrer Workloads | Verbessern Sie den Ausbildungsdurchsatz und machen langfristige Arbeitsplätze widerstandsfähiger gegenüber Misserfolgen. |