Guía de inicio rápido de AI Runtime Notebook

Importante

Esta característica está en versión preliminar pública.

Este inicio rápido muestra la forma más rápida de ejecutar código en AI Runtime, el computo de GPU serverless para aprendizaje profundo. Conectas un portátil a una GPU y ejecutas un breve paso de entrenamiento con PyTorch, sin configuración de clúster.

Tip

  • Adjunta un cuaderno a Serverless GPU para empezar a ejecutarlo en una GPU en minutos.
  • Empieza con 1xA10 para desarrollo, luego escala para modelos más grandes o entrenamiento distribuido.
  • No se requiere configuración de clúster, y el entorno Standard ya incluye torch.

Antes de empezar

Tu espacio de trabajo debe tener activado el tiempo de ejecución de IA y estar en una región soportada. Ver Requisitos.

Paso 1: Conectar un portátil a una GPU

  1. Cree o abra un cuaderno.
  2. Desde el desplegable de cómputo en la parte superior del portátil, selecciona GPU Serverless.
  3. En el campo Acelerador , selecciona 1xA10.
  4. Haz clic en Aplicar y luego en Confirmar.

Tip

Empieza con 1xA10 para desarrollo y cargas de trabajo pequeñas. Pásate a 1xH100 o 8xH100 cuando necesites más memoria GPU o entrenamiento distribuido multi-GPU. Consulta Opciones de hardware.

Paso 2: Ejecuta tu primer código de GPU

Ejecuta lo siguiente en una celda de notebook para confirmar que la GPU está conectada y ejecuta un paso de entrenamiento:

import torch

# Confirm a GPU is attached.
print(torch.cuda.get_device_name(0))

# Run a minimal training step on the GPU.
model = torch.nn.Linear(10, 1).cuda()
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)
x, y = torch.randn(32, 10).cuda(), torch.randn(32, 1).cuda()

loss = torch.nn.functional.mse_loss(model(x), y)
loss.backward()
optimizer.step()
print("loss:", loss.item())

Ahora estás usando computación con GPU serverless.

Pasos siguientes

  • Last updated on