AI Runtime için kullanıcı kılavuzları

Important

Bu özellik Genel Önizleme aşamasındadır.

Mevcut derin öğrenme iş yüklerini klasik Databricks kümelerinden AI Runtime'a geçirin, faturalanabilir kullanım sistemi tablosuyla GPU kullanımını ve maliyetlerini izleyin ve yaygın hatalar için örnek not defterleri ve düzeltmeler bulun.

Klasik GPU iş yüklerini sunucusuzlara geçirme

Mevcut derin öğrenme iş yükünü klasik bir Databricks kümesinden (Databricks Runtime ML ile) sunucusuz (AI Runtime ile) taşıyorsanız şu adımları izleyin:

1. Kümeye bağımlı kodu değiştirin. Spark tabanlı dağıtılmış eğitime (örneğin, TorchDistributor) yönelik tüm başvuruları kaldırın ve @distributed dekoratörünü serverless_gpu ile değiştirin.
2. Veri yüklemesini güncelleştirin. Doğrudan DBFS yollarını Unity Kataloğu birim yollarıyla (/Volumes/...) değiştirin. Yerel Spark DataFrame işlemlerini Spark Connect ile değiştirin. Birimlerden dosya tabanlı veri akışı gerçekleştirmek için UCVolumeDataset'den serverless_gpu.data kullanın. Bkz . Yapay zeka çalışma zamanına veri yükleme.
3. Bağımlılıkları yeniden yükleyin. Databricks Runtime ML'nin önceden yüklenmiş kitaplıklarına güvenmeyin. Tüm gerekli paketler için açık %pip install komutlar ekleyin.
4. Denetim noktası yollarını güncelleştirin. Denetim noktalarını DBFS'den veya yerel depolama alanından Unity Kataloğu birimlerine (/Volumes/<catalog>/<schema>/<volume>/... ) taşıyın. Dağıtılmış denetim noktası oluşturma için, G/Ç’yi yerel NVMe üzerinden aşamalayan UCVolumeWriter kaynağındaki UCVolumeReader ve serverless_gpu.data öğelerini kullanın. Bkz. Model denetim noktası oluşturma.
5. MLflow yapılandırmasını güncelleştirin. Deneme adlarının mutlak yollar kullandığına emin olun ve çalıştırma adlarını kolayca yeniden başlatılabilmeleri için yapılandırın.
6. Önce etkileşimli olarak test edin. İş olarak zamanlamadan önce etkileşimli bir not defterinde iş yükünüzü doğrulayın.

Kullanımı ve maliyetleri izleme

Faturalanabilir kullanım sistemi tablosunu (system.billing.usage ) sorgulayarak AI Çalışma Zamanı GPU harcamalarınızı izleyebilirsiniz. Aşağıdaki sorgu sunucusuz GPU iş yükleri için toplam kullanımı döndürür:

SELECT
  SUM(usage_quantity)
FROM
  system.billing.usage
WHERE
  product_features.serverless_gpu IS NOT NULL

Faturalanabilir kullanım tablosu şeması hakkında daha fazla bilgi için bkz. Faturalanabilir kullanım sistemi tablo başvurusu.

Model Eğitimi SKU'sunda Yapay Zeka Çalışma Zamanı, GPU saati başına aşağıdaki fiyatlarla ücretlendirilmektedir:

• İsteğe bağlı H100: 7,00 ABD doları/GPU saati (ABD Doğu)
• İsteğe bağlı A10: 4,90 ABD doları/GPU saati (ABD Doğu)

Örnek not defterleri

Başlamanıza yardımcı olmak için aşağıdaki örnek not defterleri kategorileri kullanılabilir:

Category	Description
Büyük Dil Modelleri (LLM'ler)	Parametre verimli yöntemler de dahil olmak üzere büyük dil modellerinde ince ayar (LoRA, QLoRA)
Görüntü İşleme	Nesne algılama, görüntü sınıflandırma ve diğer CV görevleri
Derin Öğrenme Öneri Sistemleri	İki kuleli modeller gibi modern derin öğrenme yaklaşımlarını kullanarak öneri sistemleri oluşturma
Klasik ML	XGBoost model eğitimi ve zaman serisi tahmini dahil olmak üzere geleneksel ML görevleri
Dağıtık Çoklu GPU Eğitimi	Sunucusuz GPU API'sini kullanarak eğitimi birden çok GPU arasında ölçeklendirme

Tam liste için bkz. AI Runtime örnek not defterleri.

Sorun giderme

Genie Code, AI Runtime'a bağlı dizüstü bilgisayarlarda ortam ve bağımlılık sorunlarını çözmeye, GPU ve dağıtık iş yükü arızalarını araştırmaya yardımcı olabilir. Bkz. Genie Code'u AI Runtime ile kullan.

Hesaplamada etkileşimli bir hata ayıklama yapmak için, web terminalini kullanarak shell komutlarını çalıştırın, GPU kullanımını , nvidia-smiile inceleyin ve dosyaları yönetin. Web terminali, sunucusuz GPU ortamı sürüm 5 veya üzerindeyken kullanılabilir. Bkz. Azure Databricks web terminalinde kabuk komutlarını çalıştırma.

ValueError: numpy.dtype boyutu değiştirildi, ikili uyumsuzluğu gösterebilir. C başlığından beklenen 96, PyObject'ten elde edilen 88 oldu.

Hata genellikle, bağımlı bir paketin ve şu anda çalışma zamanı ortamında yüklü olan NumPy sürümünün derlenmesi sırasında kullanılan NumPy sürümlerinde bir uyuşmazlık olduğunda ortaya çıkar. Bu uyumsuzluk genellikle NumPy'nin C API'sindeki değişikliklerden kaynaklanır ve özellikle NumPy 1.x'ten 2.x'e fark edilir. Bu hata, not defterinde yüklü olan Python paketinin NumPy sürümünü değiştirmiş olabileceğini gösterir.

Önerilen çözüm:

Çalışma zamanında NumPy sürümünü denetleyin ve paketlerinizle uyumlu olduğundan emin olun. Önceden yüklenmiş Python kitaplıkları hakkında bilgi için ortam 4 ve ortam 3 için Sunucusuz GPU İşlem sürüm notlarına bakın. NumPy'nin farklı bir sürümüne bağımlılığınız varsa, bu bağımlılığı işlem ortamınıza ekleyin.

PyTorch torç yüklerken libcudnn bulamıyor

uygulamasının torchfarklı bir sürümünü yüklediğinizde şu hatayı görebilirsiniz: ImportError: libcudnn.so.9: cannot open shared object file: No such file or directory. Bunun nedeni, torch'un yalnızca yerel yoldaki cuDNN kütüphanesini aramasıdır.

Önerilen çözüm:

Dependensları --force-reinstall yüklerken torch ekleyerek yeniden yükleyin:

%pip install torch --force-reinstall