AI 執行時筆記本快速入門

Important

這項功能目前處於 公開預覽版。

這個快速入門說明了在 AI Runtime 上執行程式碼的最快速方法，AI Runtime 是用於深度學習的無伺服器 GPU 運算。 你只需要把筆記本接到 GPU 上，然後用 PyTorch 執行一個簡短的訓練步驟，不用叢集設置。

Tip

  • 把筆記型電腦接到 無伺服器 GPU 上，幾分鐘內就能開始在 GPU 上運行。
  • 先從 1xA10 著手開發，之後再針對更大型的模型或分散式訓練進行擴充。
  • 不需要叢集設置，標準環境已經包含 torch。

開始之前

你的工作區必須啟用 AI 執行環境，且位於支援的區域。 請參閱 需求說明。

步驟 1：將筆記型電腦連接到 GPU

  1. 建立或打開筆記本。
  2. 從筆記本頂端的計算下拉選單中，選擇 無伺服器 GPU。
  3. 在 加速器 欄位中，選擇 1xA10。
  4. 點 選「應用」，然後 確認。

Tip

先從 1xA10 開始，適合開發和小型工作負載。 當你需要更多 GPU 記憶體或多 GPU 分散式訓練時，可以改用 1xH100 或 8xH100 。 請參閱 硬體選項。

步驟 2：執行你的第一段 GPU 程式碼

在筆記本儲存格執行以下步驟確認顯示卡是否已連接，並執行一個訓練步驟：

import torch

# Confirm a GPU is attached.
print(torch.cuda.get_device_name(0))

# Run a minimal training step on the GPU.
model = torch.nn.Linear(10, 1).cuda()
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)
x, y = torch.randn(32, 10).cuda(), torch.randn(32, 1).cuda()

loss = torch.nn.functional.mse_loss(model(x), y)
loss.backward()
optimizer.step()
print("loss:", loss.item())

你現在運行在無伺服器的 GPU 運算上。

下一步

  • Last updated on