AI Çalışma Zamanı Notebook hızlı başlatma

Important

Bu özellik Genel Önizleme aşamasındadır.

Bu hızlı başlangıç, derin öğrenme için sunucusuz GPU hesaplaması olan AI Runtime'da kodu en hızlı çalıştırmanın yolunu gösteriyor. Bir dizüstü bilgisayarı GPU'ya bağlayıp kısa bir PyTorch eğitim adımı çalıştırıyorsunuz, küme kurulumu olmadan.

Tavsiye

  • Sunucusuz GPU'ya bir notebook takarak dakikalar içinde GPU'da çalışmaya başlayın.
  • Geliştirme için 1xA10 ile başlayın, ardından daha büyük modeller veya dağıtık eğitim için ölçeği artırın.
  • Küme kurulumu gerekmez ve Standard ortamı zaten torchiçerir.

Başlamadan önce

İş alanınızda AI Çalışma Zamanı etkinleştirilmiş olmalı ve desteklenen bir bölgede bulunmalıdır. Gereksinimlere bakınız.

Adım 1: Bir dizüstü bilgisayarı GPU'ya takın

  1. Not defteri oluşturun veya açın.
  2. Notebook'un üstündeki hesaplama açılır menüsünden Sunucusuz GPU seçeneğini seçin.
  3. Hızlandırıcı alanında 1xA10'u seçin.
  4. Başvur tuşuna tıklayın ve sonra Onayla.

Tavsiye

Geliştirme ve küçük iş yükleri için 1xA10 ile başlayın. Daha fazla GPU belleği veya çoklu GPU dağıtık eğitim gerektiğinde 1xH100 veya 8xH100'e geçin. Donanım seçenekleri bölümünü inceleyin.

Adım 2: İlk GPU kodunuzu çalıştırın

GPU'nun bağlı olduğunu doğrulamak için bir dizüstü hücrede aşağıdakileri çalıştırın ve bir eğitim adımını çalıştırın:

import torch

# Confirm a GPU is attached.
print(torch.cuda.get_device_name(0))

# Run a minimal training step on the GPU.
model = torch.nn.Linear(10, 1).cuda()
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)
x, y = torch.randn(32, 10).cuda(), torch.randn(32, 1).cuda()

loss = torch.nn.functional.mse_loss(model(x), y)
loss.backward()
optimizer.step()
print("loss:", loss.item())

Artık sunucusuz GPU hesaplama üzerinde çalışıyorsun.

Sonraki Adımlar

  • Last updated on