Remarque
L’accès à cette page requiert une autorisation. Vous pouvez essayer de vous connecter ou de modifier des répertoires.
L’accès à cette page requiert une autorisation. Vous pouvez essayer de modifier des répertoires.
Important
Cette fonctionnalité est disponible en préversion publique.
Connectez-vous à AI Runtime depuis des notebooks interactifs, un IDE via un tunnel SSH, des tâches planifiées, l’API Jobs ou les Declarative Automation Bundles. L'attachement d’un notebook à AI Runtime est le principal moyen d’exécuter des charges de travail d’entraînement et d’ajustement, et vous pouvez planifier ces mêmes notebooks en tant que tâches récurrentes ou les automatiser dans des pipelines de déploiement.
Interactif (Notebooks)
Il s’agit du principal moyen d’utiliser AI Runtime. Pour connecter votre notebook et configurer l’environnement :
- Dans un bloc-notes, cliquez sur le menu déroulant de calcul en haut et sélectionnez GPU serverless.
- Cliquez sur
Pour ouvrir le volet latéral Environnement . - Sélectionnez un accélérateur dans le champ Accélérateur . Pour les charges de travail d’entraînement distribuées, sélectionnez 8xH100. Consultez les options matérielles pour obtenir des conseils sur le choix d’un accélérateur.
- Sélectionnez Standard v5 ou Standard v4 pour l’environnement Standard, ou AI v5 ou AI v4 pour l’environnement IA, dans le champ Environnement de base .
- Cliquez sur Appliquer , puis Confirmez que vous souhaitez appliquer le runtime IA à votre environnement de notebook.
Note
La connexion à votre calcul se termine automatiquement après 60 minutes d’inactivité.
Conseil / Astuce
Pour les opérations qui ne nécessitent pas de GPU (par exemple, clonage d’un référentiel Git, conversion de formats de données ou analyse exploratoire des données), attachez votre bloc-notes à un cluster d’UC pour préserver les ressources GPU.
Connexion à partir d’un terminal IDE
Vous pouvez vous connecter à AI Runtime sur une infrastructure GPU serverless directement depuis un terminal de votre IDE via un tunnel SSH.
Pour vous connecter à AI Runtime, exécutez la databricks ssh connect commande avec l’option --accelerator à partir d’un terminal au sein de votre IDE.
Aucune étape de configuration distincte n’est requise. Pour plus d’informations sur la commande, consultez ssh le groupe de commandes.
databricks ssh connect --accelerator=GPU_1xA10
Pour vous connecter et démarrer la session dans Visual Studio Code ou curseur, utilisez l’option--ide. L’interface CLI ouvre une fenêtre IDE pointant vers le dossier de l’espace de travail d’accueil.
databricks ssh connect --ide=vscode
Pour plus d’informations sur l’installation, l’ouverture de projets et l’exécution de code, consultez Se connecter à Databricks à l’aide d’un tunnel SSH.
Travaux (planifiés)
Vous pouvez planifier des notebooks qui utilisent AI Runtime comme tâches récurrentes. Pour en savoir plus, consultez Créer et gérer des travaux de notebook planifiés.
Après avoir ouvert le bloc-notes que vous souhaitez utiliser :
- Sélectionnez le bouton Planification en haut à droite.
- Sélectionnez Ajouter une planification.
- Remplissez le formulaire Nouvelle planification avec le nom du travail, la planification et le ressources de calcul.
- Cliquez sur Créer.
Vous pouvez également créer et planifier des travaux à partir de l’interface utilisateur travaux et pipelines . Consultez Créer un travail pour obtenir des instructions pas à pas.
Note
L’ajout de dépendances à l’aide du panneau Environnements n’est pas pris en charge pour les travaux planifiés d’AI Runtime. Les dépendances doivent être installées de manière programmatique dans votre notebook (par exemple, %pip install). La récupération automatique n’est pas prise en charge. Si votre travail échoue en raison de packages incompatibles, vous devez corriger et réexécuter manuellement.
Pour les charges de travail qui peuvent dépasser le runtime maximal de 7 jours, implémentez des points de contrôle manuels pour permettre la reprise. Nous vous recommandons d’utiliser des volumes Unity Catalog à l’aide de UCVolumeWriter et UCVolumeReader à partir de serverless_gpu.data. Consultez la section Enregistrement de points de contrôle du modèle.
API Jobs et packages d'automatisation déclaratifs
Vous pouvez créer et gérer par programmation des jobs AI Runtime à l’aide de l’API Databricks Jobs ou des Declarative Automation Bundles. Configurez le type de calcul en tant que GPU sans serveur dans votre travail ou définition de bundle pour automatiser les pipelines de déploiement.
L’exemple suivant montre une configuration des bundles d’automatisation déclaratifs pour un job AI Runtime avec l’environnement Standard :
resources:
jobs:
sample_job:
name: sample_job_h100
trigger:
periodic:
interval: 1
unit: DAYS
parameters:
- name: catalog
default: ${var.catalog}
- name: schema
default: ${var.schema}
environments:
- environment_key: default
spec:
environment_version: '4'
tasks:
- task_key: notebook_task
notebook_task:
notebook_path: /Workspace/Users/your_email/your_notebook
environment_key: default
compute:
hardware_accelerator: GPU_8xH100
Pour utiliser l’environnement Databricks AI au lieu de l’environnement Standard, définissez base_environment l’identificateur d’environnement IA (par exemple, databricks_ai_v5 pour AI v5) dans l’environnement spec et référencez-le à partir de environment_keyla tâche :
Important
La sélection d’un environnement Databricks AI comme environnement de base pour l’espace de travail est en bêta et nécessite qu’un administrateur de l’espace de travail choisisse de l’activer. Consultez la section Créer pour le calcul GPU sans serveur (AI Runtime).
resources:
jobs:
sample_job:
name: sample_job_aiv5_h100
trigger:
periodic:
interval: 1
unit: DAYS
parameters:
- name: catalog
default: ${var.catalog}
- name: schema
default: ${var.schema}
environments:
- environment_key: aiv5
spec:
base_environment: databricks_ai_v5
tasks:
- task_key: notebook_task
notebook_task:
notebook_path: /Workspace/Users/your_email/your_notebook
environment_key: aiv5
compute:
hardware_accelerator: GPU_8xH100