Nota
O acesso a esta página requer autorização. Pode tentar iniciar sessão ou alterar os diretórios.
O acesso a esta página requer autorização. Pode tentar alterar os diretórios.
Este guia de iniciação rápida mostra a forma mais rápida de executar código no AI Runtime, a computação sem servidor com GPU para aprendizagem profunda. Ligas um portátil a uma GPU e executas um pequeno passo de treino do PyTorch, sem configuração de cluster.
Sugestão
- Anexa um notebook a uma GPU sem servidor para começar a executar numa GPU em minutos.
- Começa com 1xA10 para desenvolvimento, depois aumenta para modelos maiores ou treino distribuído.
- Não é necessária configuração de cluster, e o ambiente Standard já inclui
torch.
Antes de começares
O seu espaço de trabalho deve ter o AI Runtime ativado e estar numa região suportada. Ver Requisitos.
Passo 1: Liga um portátil a uma GPU
- Cria ou abre um caderno.
- No menu pendente Computação, na parte superior do notebook, selecione Serverless GPU.
- No campo Acelerador , selecione 1xA10.
- Clica em Aplicar e depois em Confirmar.
Sugestão
Começa com 1xA10 para desenvolvimento e pequenas cargas de trabalho. Passe para 1xH100 ou 8xH100 quando precisar de mais memória de GPU ou de treino distribuído em várias GPUs. Veja Opções de Hardware.
Passo 2: Executa o teu primeiro código de GPU
Execute o seguinte numa célula de notebook para confirmar que a GPU está ligada e execute um passo de treino:
import torch
# Confirm a GPU is attached.
print(torch.cuda.get_device_name(0))
# Run a minimal training step on the GPU.
model = torch.nn.Linear(10, 1).cuda()
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)
x, y = torch.randn(32, 10).cuda(), torch.randn(32, 1).cuda()
loss = torch.nn.functional.mse_loss(model(x), y)
loss.backward()
optimizer.step()
print("loss:", loss.item())
Agora estás a utilizar computação sem servidor com GPU.
Passos seguintes
- Clone um bloco de notas completo dos blocos de notas de exemplo do AI Runtime.
- Dimensione em várias GPUs com treino distribuído em notebooks.
- Submeta tarefas de treino a partir do seu terminal com a AI Runtime CLI.