AI Çalışma Zamanı

AI Runtime, Databricks'te eğitim, ince ayar ve daha geniş derin öğrenme iş yükleriniz için tamamen yönetilen, sunucusuz bir GPU hesaplama sunumudur.

  • Sunucusuz GPU'lar: Databricks CLI, notebook’lar, işler ve Ray üzerinden erişilebilen, isteğe bağlı A10'lar ve H100'ler.
  • Yönetilen ortamlar: eğitim ve ince ayar için hazır hazır ortamlar ve veri yükleyiciler ya da kendi Docker konteynerinizi kullanın.
  • Yerleşik gözlemlenebilirlik: MLflow, loglama ve hata ayıklama ajanları aracılığıyla deney takibi.
  • Orkestrasyon: GPU iş yüklerinizi planlayın ve bunları CI/CD pipeline'larında kullanın.

Get started

AI Runtime hakkında bilgi edinin ve ilk iş yükünüzü çalıştırın.

Get started Description
🚀 Hızlı Başlatma İlk iş yükünüzü terminalinizden AI Runtime'da çalıştırın.
🧭 Genel Bakış AI Runtime hakkında önemli şeyleri öğrenin: hangi GPU'ların mevcut olduğu, nasıl çalıştığı ve sınırlamaların neler olduğu.
💡 Örnekler Göreve göre düzenlenmiş notebook eğitimlerini ve çalıştırılabilir Databricks CLI tariflerini inceleyin.

GPU'lara bağlanın

GPU'lara Databricks CLI, notebooklar, Jobs veya Ray üzerinden erişebilirsiniz.

Özellik Description
Databricks CLI Dizüstü bilgisayarınızdan YAML iş yapılandırmalarını kullanarak dağıtık GPU eğitim işlerini gönderin ve yönetin.
Notebooks Bir not defterini AI Runtime'a bağlayın ve küme kurulumu olmadan etkileşimli bir şekilde geliştirin.
İşler AI Runtime'da bir defteri tekrar eden bir iş olarak planlayın.
Ray Ray Core, Ray Data, Ray Train ve Ray Tune'u yapay zeka çalışma zamanında çalıştırın.

İş yükleri geliştirin

Verileri verimli şekilde yükleyin, ortamınızı yapılandırın ve kodlama ajanlarıyla iş yükleri geliştirin.

Özellik Description
GPU'lara veri yükleyin Yüksek GPU kullanımı için tasarlanmış hata toleransı yükleyicilerle Unity Catalog hacimlerinden veri akışı yapın.
Önceden hazırlanmış ortamlar Minimal bir Standard ortamından veya ML çerçeveleriyle önceden yüklenmiş bir Databricks AI ortamından başlayın.
Özel Docker imajları İş yükünüz özel sistem kütüphaneleri veya bağımlılıklar gerektirdiğinde kendi Docker imajınızı getirin.
Kodlama ajanları GPU iş yüklerini oluşturmak, göndermek ve yönetmek için Genie Code ve databricks-ai-runtime ajan becerisini kullanın.

İzle, hata ayıkla, dağıt

Deneyleri takip edin, günlükleri inceleyin, arızaları teşhis edin ve üretim iş yüklerini planlayın.

Özellik Description
MLflow için hata ayıklama MLflow ile deneyleri, metrikleri ve koşuları takip edin.
Günlükleri görüntüleme Eğitim çıktısını görüntüleyin, kodunuz çalışırken GPU kaynak kullanımını izleyin ve Genie Code ile hata ayıklayın.
Çalışma yüklerini programla Deklaratif Otomasyon Paketleri ile eğitim kodu dağıtın, çalışmaları planlayın ve çoklu görevli GPU ile CPU iş akışları oluşturun.
Eğitilmiş modelleri sunma AI Runtime üzerinde eğitilmiş modelleri Model Serving'e dağıtın.

Guides

AI Runtime için göç rehberlerini, eğitimleri ve teknik kaynakları keşfedin.

Resource Description
Neden AI Runtime kullanılır AI Runtime'ı klasik hesaplama ve Databricks Runtime ML ile maliyet, geliştirici deneyimi ve ölçek açısından karşılaştırın.
Klasik GPU iş yüklerini taşın Mevcut bir derin öğrenme iş yükünü klasik bir Azure Databricks kümesinden AI Runtime'a taşıyın.
İş yükü performansınızı optimize edin Eğitim verimliliğini artırın ve uzun vadeli işleri başarısızlıklara karşı daha dayanıklı hale getirin.