Panduan Memulai Cepat AI Runtime Notebook

Penting

Fitur ini ada di Pratinjau Umum.

Quickstart ini menunjukkan cara tercepat untuk menjalankan kode di AI Runtime, komputasi GPU serverless untuk deep learning. Anda menghubungkan notebook ke GPU dan menjalankan langkah pelatihan PyTorch singkat, tanpa pengaturan cluster.

Tip

  • Pasang notebook ke GPU tanpa server agar bisa mulai berjalan di GPU dalam hitungan menit.
  • Mulailah dengan 1xA10 untuk pengembangan, lalu tingkatkan untuk model yang lebih besar atau pelatihan terdistribusi.
  • Tidak diperlukan pengaturan klaster, dan lingkungan Standar sudah mencakup torch.

Sebelum Anda mulai

Ruang kerja Anda harus mengaktifkan AI Runtime dan berada di wilayah yang didukung. Lihat Persyaratan.

Langkah 1: Pasang notebook ke GPU

  1. Membuat atau membuka buku catatan.
  2. Dari drop-down komputasi di bagian atas notebook, pilih GPU tanpa server.
  3. Di kolom Accelerator , pilih 1xA10.
  4. Klik Terapkan, lalu Konfirmasi.

Tip

Mulailah dengan 1xA10 untuk pengembangan dan beban kerja kecil. Beralih ke 1xH100 atau 8xH100 saat Anda membutuhkan lebih banyak memori GPU atau pelatihan terdistribusi multi-GPU. Lihat Opsi perangkat keras.

Langkah 2: Jalankan kode GPU pertama Anda

Jalankan hal berikut di sel notebook untuk memastikan GPU terpasang dan jalankan satu langkah pelatihan:

import torch

# Confirm a GPU is attached.
print(torch.cuda.get_device_name(0))

# Run a minimal training step on the GPU.
model = torch.nn.Linear(10, 1).cuda()
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)
x, y = torch.randn(32, 10).cuda(), torch.randn(32, 1).cuda()

loss = torch.nn.functional.mse_loss(model(x), y)
loss.backward()
optimizer.step()
print("loss:", loss.item())

Sekarang Anda berjalan di atas komputasi GPU tanpa server.

Langkah berikutnya

  • Last updated on