AI Çalışma Zamanı

Önemli

Bu özellik Genel Önizleme aşamasındadır.

AI Runtime, derin öğrenme iş yükleri için Databricks'te sunulan sunucusuz GPU hesaplama sunumudur. En sevdiğiniz çerçeveleri kullanarak özel modelleri eğitmek ve ince ayar yapmak ve en son verimlilik, performans ve kalite elde etmek için AI Çalışma Zamanı'nı kullanabilirsiniz.

Get started

İlk iş yükünüzü dakikalar içinde hızlı başlatma rehberlerimizi kullanarak çalıştırın.

Get started	Description
🚀 CLI hızlı başlatma	Slurm veya Kubernetes kümesinden mi geliyor? Terminalinizden AI Runtime ile dakikalar içinde eğitim yapın.
📓 Notebook hızlı başlatma	Defterinizi bir GPU'ya saniyeler içinde bağlayın ve etkileşimli olarak geliştirin..
⚡ Ray	Bir Tışın kümesinden mi geliyor? Ray'i gösterge paneli desteğiyle AI Runtime üzerinde çalıştırın.
🧭 Genel Bakış	AI Runtime hakkında iki dakikada temel şeyleri öğrenin: mevcut GPU'lar, nasıl çalıştıkları ve sınırlamalar.

Özellikler

AI Runtime, GPU'lara bağlanmanın birçok yolu, yerleşik gözlemlenebilirlik ve hata ayıklama araçları ile önceden oluşturulmuş ortamlar sunan tam yığın bir GPU platformudur.

Sunucusuz GPU'lara bağlanın: Çalıştığınız yerden sunucusuz GPU'lara ulaşın.

Özellik	Description
Notebooks	Bir notebook'u sunucusuz GPU hesaplamasına bağlayın ve küme kurulumu olmadan etkileşimli bir şekilde geliştirin.
SSH üzerinden IDE	IDE’nizden veya terminalinizden bir SSH tüneli üzerinden bağlanarak doğrudan bir GPU düğümü üzerinde çalışın.
AI Çalışma Zamanı CLI	Dizüstü bilgisayarınızdan YAML iş yapılandırmalarını kullanarak dağıtık GPU eğitim işlerini gönderin ve yönetin.
Ray	Ray Core, Ray Data, Ray Train ve Ray Tune'u sunucusuz GPU hesaplamasında çalıştırın.

Bağımlılıkları Yönetme: İş yükünüzün çalıştığı Python ve sistem kütüphanelerini kontrol edin.

Özellik	Description
Önceden hazırlanmış ortamlar	Minimal bir Standard ortamından veya ML çerçeveleriyle önceden yüklenmiş bir Databricks AI ortamından başlayın.
Docker desteği	Özel bir bağımlılık yığını ile iş yüklerini çalıştırmak için kendi konteyner imajınızı getirin.

GPU'lara veri yükleme: Eğitim verisini GPU'larınıza verimli şekilde aktarın.

Özellik	Description
Verimli veri yükleyiciler	Yüksek GPU kullanımı için tasarlanmış hata toleransı yükleyicilerle Unity Catalog hacimlerinden veri akışı yapın.

Hata Hata Bulma ve Gözlemlenebilirlik: Deneyleri takip edin, çıktıyı inceleyin ve hataları teşhis edin.

Özellik	Description
Derin öğrenme için MLflow	MLflow ile deneyleri, metrikleri ve koşuları takip edin ve model kontrol noktalarını Unity Kataloğu hacimlerine kaydedin.
Kayıt görüntüleyici	Kodunuz çalışırken eğitim çıktısını görüntüleyin ve GPU kaynak kullanımını izleyin.
Ajanlarla hata ayıklama	Genie Code'u kullanarak eğitim kodu üretin, ortam sorunlarını çözün ve GPU hatalarını ayıklayın.

Zamanlama ve gerçek zamanlı hizmet: Etkileşimli geliştirmeden planlı işler ve uç noktalara geçiş.

Özellik	Description
İşlerinizi üretime hazır hale getirin	Deklaratif Otomasyon Paketleri ile eğitim kodu dağıtın, çalışmaları planlayın ve çoklu görevli GPU ile CPU iş akışları oluşturun.
Modellerine hizmet et	Eğitilmiş modellerinizi ölçeklenebilir bir uç noktanın arkasına Model Servis ile yerleştirin.

Examples

Uçtan uca örnekleri klonlayıp AI Runtime'da dakikalar içinde, CLI'dan veya dizüstü bilgisayarlarda çalıştır.

Example	Description
Işın Örnekleri	Mevcut Ray projenizi alıp AI Runtime'da dakikalar içinde çalıştırın.
Tablo şeklinde öneri modeli eğitimi	İki kuleli mimariler gibi derin öğrenme öneri modellerini eğitin.
Görüntü işleme	GPU'larda nesne algılama ve görüntü sınıflandırma iş yükleri.
Klasik makine öğrenimi	GPU hızlandırmalı XGBoost, zaman serisi tahmini ve diğer klasik makine öğrenimi görevleri.
Açık kaynaklı bir LLM'nin ince ayarlanması	Açık kaynaklı büyük dil modellerine LoRA, QLoRA veya tam ince ayar yöntemiyle ince ayar yapın.

Daha fazla bilgi edinin

Faydalı içerikler bulun: en son ürün güncellemeleri ve AI Runtime'ın nasıl çalıştığı detaylar.

Resource	Description
Ürün güncelleştirmeleri	En son AI Runtime ürün güncellemelerini ve duyurularını görün.
AI Runtime nasıl çalışır	Databricks'in GPU'ları AI Çalışma Zamanında nasıl güvenilir tuttuğunu okuyun.