AI Çalışma Zamanı Notebook hızlı başlatma

AI Runtime kullanarak boş bir notebook'tan GPU'da PyTorch'a birkaç tıklamada geçin. Kurulacak bir küme gerektirmeden bir not defterini Serverless GPU'ya bağlayın; yerleşik GPU izleme, GPU düğümünde bir terminal ve Genie Code elde edin.

Aynı notebook'u birden fazla GPU arasında ölçeklendirmek için bkz. Notebooklarda dağıtılmış eğitim.

Sunucusuz GPU'ya bağlı bir AI Runtime notebook; GPU türünü seçmek, ortamı yapılandırmak, kullanımı izlemek, ajanı kullanarak kodlama yapmak ve terminal açmak için çağrılar içerir.

Requirements

İş alanınızda AI Çalışma Zamanı etkinleştirilmiş olmalı ve desteklenen bir bölgede bulunmalıdır. Gereksinimlere bakınız.

Adım 1: Bir not defterini GPU'ya bağlayın

  1. Not defteri oluşturun veya açın.
  2. Notebook'un üstündeki hesaplama açılır menüsünden Sunucusuz GPU seçeneğini seçin.
  3. Hızlandırıcı alanında 1xA10'u seçin.
  4. Başvur tuşuna tıklayın ve sonra Onayla.

Tip

Geliştirme ve küçük iş yükleri için 1xA10 ile başlayın. Daha fazla GPU belleği veya çoklu GPU dağıtık eğitim gerektiğinde 1xH100 veya 8xH100'e geçin. Bkz. Donanım.

Adım 2: İlk GPU kodunuzu çalıştırın

Varsayılan Databricks yapay zeka ortamı , PyTorch, Transformers, vLLM, pandas ve daha birçok paketi önceden yüklüdür. Tam liste için Databricks AI ortamına bakınız.

GPU'nun bağlı olduğunu doğrulamak için aşağıdaki not defterini çalıştırın ve bir eğitim adımını çalıştırın:

AI çalışma zamanı hızlı başlangıç not defteri

Dizüstü bilgisayar al

Şimdi AI Runtime üzerinde eğitim alıyorsunuz.

GPU notebook'u keşfedin

Notebook, GPU üzerinde çalışmanıza yardımcı olacak araçlarla birlikte geliyor. Temel ortamları değiştirebilir, GPU kullanımını izleyebilir, GPU düğümünde bir terminal açabilir ve Genie Code ile kodunuzu yazıp hata ayıklayabilirsin.

Ortamları değiştirme

Sağ paneldeki Ortam'a tıklayarak farklı bir temel ortam veya hızlandırıcı seçin. Bkz . Ortamınızı ayarlama.

Temel ortam açılır menüsünün açık olduğu Ortam yan paneli, Standard ve AI ortam versiyonlarını gösteriyor.

GPU kullanımını izleyin

Kodunuz çalışırken canlı GPU kullanımını ve belleği görmek için sağ paneldeki GPU kaynaklarına tıklayın. Bkz. Canlı GPU kaynaklarını izleme.

GPU kaynakları paneli, GPU kullanım ve bellek kullanım grafiklerini zaman içinde gösteriyor.

GPU düğümünde bir terminal açın

GPU düğümünde bir shell almak için sağ alt köşedeki Terminal'e tıklayın. Dosyaları çalıştırın nvidia-smi, inceleyin veya süreçleri doğrudan debug edin. Bkz. Azure Databricks web terminalinde kabuk komutlarını çalıştırma.

H100 GPU düğümünde nvidia-smi çalıştıran bir web terminali.

Genie Code sizin için kod yazsın ve hata ayıklasın.

Sağ paneldeki Genie Code'a tıklayın ve ne istediğinizi açıklayın. Ajan, eğitim kodları yazabilir, bağımlılık çakışmalarını giderebilir ve GPU kaynaklı hataları ayıklayabilir. Bkz. Genie Code'u AI Runtime ile kullan.

Genie Code panelinde ajandan torchao kütüphanesi çatışmasını düzeltmesi için bir uyarı var.

Sonraki Adımlar

  • Son güncelleştirme: