Environnement d'exécution IA

AI Runtime est une offre de calcul GPU entièrement gérée et serverless chez Databricks pour vos charges de travail d’entraînement, d’ajustement fin et d’apprentissage profond plus larges.

• GPU serverless : A10 et H100 à la demande, accessibles via le CLI Databricks, notebooks, jobs et Ray.
• Environnements gérés : environnements préconstruits et chargeurs de données prêts pour l’entraînement et le réglage fin, ou apportez votre propre conteneur Docker.
• Observabilité intégrée : suivi des expériences via MLflow, journalisation et agents de débogage.
• Orchestration : planifiez vos charges de travail GPU et utilisez-les dans les pipelines CI/CD.

Get started

Apprenez-en plus sur AI Runtime et lancez votre première charge de travail.

Get started	Description
🚀 Démarrage rapide	Exécutez votre première charge de travail sur AI Runtime depuis votre terminal.
🧭 Aperçu	Apprenez les points clés d’AI Runtime : quels GPU sont disponibles, comment il fonctionne et ses limites.
💡 Exemples	Parcourez des tutoriels de notebooks et des recettes CLI Databricks exécutables organisées par tâche.

Connectez-vous à des GPU

Accédez aux GPU via la ligne de commande Databricks, les notebooks, les Jobs ou via Ray.

Fonctionnalité	Description
Databricks CLI	Soumettez et gérez les tâches d’entraînement GPU distribué depuis votre ordinateur portable en utilisant des configurations de tâches YAML.
Notebooks	Attachez un notebook à AI Runtime et développez de manière interactive, sans configuration de cluster.
Tâches	Planifiez une charge de travail GPU sur AI Runtime comme un travail récurrent et orchestrez-la avec des tâches en amont et en aval.
Rayon	Exécutez Ray Core, Ray Data, Ray Train et Ray Tune sur AI Runtime.

Développer des workloads

Chargez des données efficacement, configurez votre environnement et développez des charges de travail avec des agents de code.

Fonctionnalité	Description
Charger les données dans les GPU	Diffusez les données depuis des volumes du catalogue Unity avec des chargeurs tolérants aux pannes conçus pour une forte utilisation du GPU.
Environnements préconstruits	Partez d’un environnement Standard minimal ou d’un environnement IA Databricks préchargé de frameworks ML.
Images Docker sur mesure	Apportez votre propre image Docker lorsque votre charge de travail nécessite des bibliothèques système personnalisées ou des dépendances.
Agents de codage	Utilisez Genie Code et la compétence d’agent databricks-ai-runtime pour créer, soumettre et gérer des charges de travail GPU.

Surveiller, déboguer et déployer

Suivre les expériences, inspecter les journaux, diagnostiquer les défaillances et planifier les charges de travail de production.

Fonctionnalité	Description
MLflow pour le débogage	Suivez les expériences, les métriques et les exécutions avec MLflow.
Afficher les journaux	Consultez les résultats d’entraînement, surveillez l’utilisation des ressources GPU pendant l’exécution de votre code, et débogez avec Genie Code.
Planifier les charges de travail	Déploie du code d’entraînement avec des Déclarative Automation Bundles, planifie les exécutions et construit des workflows multitâches GPU et CPU.
Déployer des modèles entraînés	Déployez des modèles entraînés sur AI Runtime vers Model Serving.

Guides

Découvrez des guides de migration, tutoriels et ressources techniques pour AI Runtime.

Resource	Description
Pourquoi utiliser AI Runtime	Comparez AI Runtime avec le calcul classique et Databricks Runtime ML pour le coût, l’expérience développeur et la montée en charge.
Migrer depuis Slurm	Mappez vos scripts batch Slurm, lanceurs distribués et stockage partagé sur la interface de commande de Databricks.
Migrer les charges de travail classiques sur GPU	Transférez une charge de travail d’apprentissage profond existante d’un cluster classique Databricks vers l’exécution IA.
Optimisez la performance de votre charge de travail	Améliorer le débit de formation et rendre les tâches de longue durée plus résilientes face aux échecs.