Remarque
L’accès à cette page requiert une autorisation. Vous pouvez essayer de vous connecter ou de modifier des répertoires.
L’accès à cette page requiert une autorisation. Vous pouvez essayer de modifier des répertoires.
La databricks air CLI exécute des charges de travail GPU à nœud unique sur AI Runtime, la plateforme de calcul GPU serverless à la demande. Définissez le calcul, l’environnement et la commande d’une charge de travail en YAML, puis soumettez-la avec databricks air run.
AI Runtime gère le provisionnement GPU et la configuration de l’environnement, et fournit l’état des exécutions, les journaux, les métriques système et le suivi MLflow. Le flux de travail YAML et CLI fonctionne naturellement avec les agents de codage, qui peuvent définir, soumettre et surveiller les charges de travail.
Utilisez la CLI pour :
- Développez et itérez sur des applications Python depuis votre environnement local.
- Définissez des charges de travail reproductibles dans des fichiers YAML que vous pouvez versionner.
- Soumettez et gérez les charges de travail depuis un terminal ou un flux de travail automatisé de développement.
Les charges de travail typiques incluent l’ajustement fin et la post-formation des LLM, la formation distribuée, l’inférence par lots, les applications Ray et la recherche d’hyperparamètres.
Pour les exigences de l’espace de travail, voir Exigences. Pour soumettre un workload, suivez le démarrage rapide.
Les commandes CLI Databricks pour l’exécution IA répondent aux mêmes normes de conformité que les charges de travail d’exécution IA. Pour connaître les normes et exceptions prises en charge, consultez le profil de sécurité de conformité.
Note
Les databricks air commandes et la configuration de la charge de travail diffèrent de l’ancienne interface en ligne de commande (CLI) air basée sur Python du paquet databricks-air. Voir migration de la CLI Python.
Découvrez des exemples exécutables
Le AI Runtime Cookbook contient des charges de travail CLI Databricks exécutables pour l’entraînement de modèles, l’ajustement fin, l’inférence par lots, Ray et la recherche d’hyperparamètres. Chaque recette inclut un fichier YAML de la charge de travail, le code source et des instructions pour son exécution.
Avant d’exécuter une recette à modèle verrouillé
Un jeton Hugging Face et l’approbation du modèle sont des exigences distinctes. Avant de soumettre une charge de travail utilisant un modèle à accès restreint :
Ouvrez le référentiel de modèles exact nommé dans la recette, connectez-vous au compte Hugging Face qui possède votre token, et acceptez ses conditions ou demandez l’accès. Par exemple, la recette distribuée de Llama utilise meta-llama/Llama-3.1-8B. Attendez que le référentiel affiche que l’accès a été accordé. L’approbation d’un autre modèle Llama ne donne pas accès à ce référentiel.
Créez un jeton qui réponde aux exigences du jeton Hugging Face.
Stockez le jeton dans un secret Databricks dans l’espace de travail où vous soumettez la charge de travail, et confirmez que l’utilisateur ou le principal de service authentifié par votre profil CLI a
READaccès à la portée. Voir Passer des identifiants à une charge de travail avec des secrets.Avant de demander des GPU, vérifiez que le même jeton peut télécharger
config.jsondepuis le référentiel exact du modèle. Dans un notebook avec CPU dans l’espace de travail cible, installezhuggingface_hub:%pip install huggingface_hubExécutez le code Python suivant dans une autre cellule. Remplacez le scope et la clé par ceux du YML de la charge de travail. L’identité du bloc-notes doit avoir un accès en lecture à ce scope de secret :
from huggingface_hub import hf_hub_download config_path = hf_hub_download( repo_id="meta-llama/Llama-3.1-8B", filename="config.json", token=dbutils.secrets.get(scope="<scope-name>", key="<key-name>"), force_download=True, ) print(f"Downloaded {config_path}")Un appel réussi affiche le chemin de cache du fichier téléchargé.
force_download=Truevérifie l’accès même si le fichier est mis en cache. Le code lit le jeton du secret de l’espace de travail sans l’imprimer. Pour une recette différente, remplacezrepo_idpar son référentiel de modèle exact. Consultez les guides de téléchargement de Hugging Face.
Pour les secrets manquants, les erreurs d’authentification ou les erreurs de dépôt restreint, voir Dépannage de l’accès au secret et au modèle. Si une défaillance de connexion empêche la vérification du téléchargement, l’accès reste non vérifié. Corrigez la connexion et réessayez avant de soumettre l’entraînement.
Pour commencer sans approbation pour un modèle à accès restreint, choisissez une recette sans restriction d'accès dans le AI Runtime Cookbook, comme une recette Qwen. Utilisez la configuration et les dépendances de cette recette. Remplacer l’ID du modèle dans une recette Llama peut nécessiter des modifications du code d’entraînement et de la taille du GPU.
Comment fonctionne une charge de travail
Vous fournissez un fichier YAML de la charge de travail, le code de l’application lorsque nécessaire, et la commande qui lance votre application. Lorsque vous soumettez un workload :
- La définition de la charge de travail est validée par rapport au schéma pris en charge et aux contraintes de configuration.
- Si
code_sourceest configuré, le code sélectionné est empaqueté sous forme d’instantané et téléversé. - Le calcul GPU demandé et l’environnement sont préparés sur chaque nœud.
- La commande fournie dans le fichier YAML de charge de travail s’exécute sur chaque nœud.
La soumission renvoie un identifiant de Job Run qui identifie la charge de travail. Utilisez-le pour vérifier le statut, inspecter les journaux et la configuration, ou annuler la charge de travail. Vous pouvez également consulter la page Jobs run et l’expérience MLflow pour les détails d’exécution, les métriques système, les journaux et les artefacts.
Ce flux de travail offre un provisionnement GPU géré, une configuration d’environnement reproductible et une observabilité intégrée sans avoir à configurer ou maintenir l’infrastructure GPU.
Configuration de la charge de travail
Un fichier YAML de charge de travail décrit les composants suivants :
- Expérience : l'expérience et l'exécution MLflow qui assurent le suivi de la charge de travail.
- Environnement : L’environnement géré, les dépendances ou l’image Docker personnalisée à utiliser.
- Compute : Le type d’accélérateur et le nombre d’accélérateurs à provisionner.
- Source du code : Un instantané optionnel du code de l’application à rendre disponible pour la charge de travail.
- Commande : La commande shell qui lance votre application.
- Paramètres d’exécution : Options telles que les nouvelles tentatives, les délais d’attente, les variables d’environnement, les secrets et les autorisations.
Pour des champs de configuration et des exemples, voir référence YAML de la charge de travail.
Utilisez une image Docker personnalisée
Au lieu d’un environnement géré, une charge de travail peut s’exécuter dans votre propre image Docker. Utilisez une image personnalisée lorsque votre charge de travail a besoin de bibliothèques système, d’extensions CUDA ou d’autres dépendances que vous ne pouvez pas installer avec environment.dependencies. Les images Docker personnalisées sont en Public Preview. Pour les utiliser, un administrateur de l’espace de travail doit activer la préversion Databricks Artifact Registry depuis la page Préversions de l’espace de travail.
Vous construisez l’image pour linux/amd64, la poussez dans Artifact Registry dans votre espace de travail, puis vous définissez environment.unity_catalog_image dans le YAML de charge de travail sur le nom Unity Catalog de l’image. Pour les étapes, les images de base Databricks, l’authentification Docker et le dépannage, voir Utiliser des images Docker personnalisées avec AI Runtime.
Téléverser le code de l’application
Utilisez code_source pour charger des fichiers d'application avec une charge de travail. AI Runtime rend le répertoire chargé accessible sur chaque nœud et définit $CODE_SOURCE_PATH sur son emplacement. Par exemple, la commande suivante exécute train.py depuis le répertoire téléversé :
command: python "$CODE_SOURCE_PATH/train.py"
Vous pouvez téléverser l’arbre de travail actuel ou sélectionner une branche Git ou un commit. Pour un exemple complet, voir le démarrage rapide.
Développer et gérer les workloads
Le développement suit généralement ce processus :
- Développez localement le code de l’application et le workload YAML.
- Validez localement le YAML avec
databricks air run --file <file> --dry-run. - Soumettez la charge de travail avec
databricks air run --file <file> --watchpour afficher les journaux en continu jusqu’à la fin de l’exécution. - Utilisez
databricks air get,databricks air list, etdatabricks air logspour inspecter les charges de travail et les journaux. - Facultativement, arrêtez une charge de travail en cours avec
databricks air cancel.
Pour soumettre en arrière-plan et joindre les journaux ultérieurement, omettez --watch:
databricks air run --file workload.yaml
databricks air get <job-run-id>
databricks air logs <job-run-id>
Utilisez l’ID de Job Run renvoyé par la soumission. Gardez le même profil d’espace de travail pour les trois commandes. Pour la configuration et la vérification des profils par défaut, voir Obtenir des informations sur les profils de configuration.
Pour connaître toutes les commandes et tous les indicateurs, consultez le groupe de commandes air.
Pour les exécutions planifiées, les flux de travail multitâches ou la promotion à travers des environnements, vous pouvez utiliser databricks air convert-to-dabs comme point de départ pour un bundle. Voir Planifier les charges de travail GPU et créer des tâches.
Suivre les charges de travail avec MLflow
Chaque charge de travail soumise est représentée par une exécution de job Databricks et suivie via une expérience MLflow :
- Exécution de tâches Databricks : Affiche l’état de la charge de travail, les tentatives d’exécution et la sortie sur la page d’exécution des jobs.
- MLflow experiment : Contient les exécutions MLflow avec les métriques système capturées automatiquement, la configuration de la charge de travail et les journaux. Votre application peut également utiliser les API MLflow pour enregistrer des paramètres personnalisés, des métriques et des artefacts.
Utilisez l’ID Job Run avec des commandes telles que databricks air get, databricks air logs et databricks air cancel. Voir Suivi et observabilité de l’expérience.
Exécuter des charges de travail à nœud unique et distribuées
AI Runtime exécute la commande configurée sur le nœud provisionné. Pour une charge de travail multi-GPU, il fournit des variables de coordination telles que LOCAL_WORLD_SIZE et WORLD_SIZE.
Ce modèle d’exécution est indépendant du framework. Votre commande doit démarrer et configurer le framework distribué, par exemple en invoquant torchrun, un script de démarrage Ray, ou un autre lanceur de framework. Pour les charges de travail complètes, voir le AI Runtime Cookbook.
Utilisez un agent IA
La databricks-ai-runtime agent skill fournit des instructions qui aident les agents IA, tels que Claude Code, Cursor et Codex, à travailler avec AI Runtime via Databricks CLI. Utilisez-le pour créer des fichiers YAML de charge de travail, soumettre des tâches d’entraînement GPU, vérifier l’état des exécutions, diffuser les journaux et annuler les exécutions. Il inclut également des instructions pour des images Docker personnalisées.
Après avoir installé la CLI Databricks et configuré l’authentification, exécutez la commande suivante :
databricks aitools install --skills-only --skills databricks-ai-runtime
Suivez les instructions pour choisir votre agent IA et le périmètre d’installation. Dans une session non interactive, comme lorsqu’un agent IA exécute la commande, il n’y a pas d’indications et la compétence est installée globalement pour chaque agent détecté. Pour choisir l’agent et le périmètre, passez-les comme options. Par exemple, la commande suivante installe la compétence pour Claude Code dans le projet en cours :
databricks aitools install --skills-only --skills databricks-ai-runtime --agents claude-code --scope project
Pour les options d’installation, voir aitools le groupe de commandes. Pour savoir ce que couvre la compétence, voir Utiliser les compétences d’agent avec AI Runtime.