Démarrage rapide du notebook d’exécution IA

Important

Cette fonctionnalité est disponible en préversion publique.

Ce démarrage rapide montre la manière la plus rapide d’exécuter du code sur AI Runtime, le calcul GPU serverless pour l’apprentissage profond. On connecte un notebook à un GPU et on exécute une courte étape d’entraînement PyTorch, sans configuration de cluster.

Tip

  • Connectez un notebook à un GPU Serverless pour commencer à tourner sur un GPU en quelques minutes.
  • Commencez par 1xA10 pour le développement, puis augmentez l’échelle pour des modèles plus grands ou un entraînement distribué.
  • Aucune configuration de cluster n’est requise, et l’environnement Standard inclut torchdéjà .

Avant de commencer

Votre espace de travail doit avoir l’exécution de l’IA activé et être dans une région prise en charge. Voir les exigences.

Étape 1 : Attacher un notebook à un GPU

  1. Créez ou ouvrez un bloc-notes.
  2. Dans le menu déroulant de calcul en haut du portable, sélectionnez GPU sans serveur.
  3. Dans le champ Accélérateur , sélectionnez 1xA10.
  4. Cliquez sur Postuler, puis sur Confirmer.

Tip

Commence avec 1xA10 pour le développement et les petites charges de travail. Passez à 1xH100 ou 8xH100 quand vous aurez besoin de plus de mémoire GPU ou d’une formation distribuée multi-GPU. Voir Options matérielles.

Étape 2 : Exécutez votre premier code GPU

Exécutez ce qui suit dans une cellule de notebook pour confirmer que le GPU est connecté et exécutez une étape d’entraînement :

import torch

# Confirm a GPU is attached.
print(torch.cuda.get_device_name(0))

# Run a minimal training step on the GPU.
model = torch.nn.Linear(10, 1).cuda()
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)
x, y = torch.randn(32, 10).cuda(), torch.randn(32, 1).cuda()

loss = torch.nn.functional.mse_loss(model(x), y)
loss.backward()
optimizer.step()
print("loss:", loss.item())

Vous fonctionnez maintenant sur un GPU serverless.

Étapes suivantes

  • Last updated on