Stručný úvod k AI Runtime Notebook

Important

Tato funkce je ve verzi Public Preview.

Tento stručný úvod ukazuje nejrychlejší způsob, jak spustit kód v AI Runtime, bezserverovém GPU výpočetním prostředí pro hluboké učení. Připojíte notebook k GPU a provedete krátký tréninkový krok PyTorch bez nastavení clusteru.

Tip

  • Připojte notebook k serverless GPU , aby začal běžet na GPU během pár minut.
  • Začněte s 1xA10 pro vývoj, pak rozšiřujte na větší modely nebo distribuované školení.
  • Není potřeba žádné nastavení clusteru a standardní prostředí již obsahuje torch.

Než začnete

Váš pracovní prostor musí mít povolený AI Runtime a musí být v podporovaném regionu. Viz Požadavky.

Krok 1: Připojte notebook k GPU

  1. Vytvořte nebo otevřete poznámkový blok.
  2. Z rozbalovacího menu výpočetních dat v horní části notebooku vyberte Serverless GPU.
  3. V poli Accelerator vyberte 1xA10.
  4. Klikněte na Použít a potom na Potvrdit.

Tip

Začni s 1xA10 pro vývoj a menší pracovní zátěže. Přejděte na 1xH100 nebo 8xH100, když potřebujete větší paměť GPU nebo distribuované trénování na více GPU. Viz Hardwarové možnosti.

Krok 2: Spusť svůj první GPU kód

Spusť následující v buňce notebooku, abys potvrdil, že je GPU připojena, a spusťte jeden tréninkový krok:

import torch

# Confirm a GPU is attached.
print(torch.cuda.get_device_name(0))

# Run a minimal training step on the GPU.
model = torch.nn.Linear(10, 1).cuda()
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)
x, y = torch.randn(32, 10).cuda(), torch.randn(32, 1).cuda()

loss = torch.nn.functional.mse_loss(model(x), y)
loss.backward()
optimizer.step()
print("loss:", loss.item())

Nyní používáte bezserverové GPU výpočetní prostředky.

Další kroky

  • Last updated on