AI Çalışma Zamanı

Önemli

Bu özellik Genel Önizleme aşamasındadır.

AI Runtime, derin öğrenme iş yükleri için Databricks'te sunulan sunucusuz GPU hesaplama sunumudur. En sevdiğiniz çerçeveleri kullanarak özel modelleri eğitmek ve ince ayar yapmak ve en son verimlilik, performans ve kalite elde etmek için AI Çalışma Zamanı'nı kullanabilirsiniz.

Get started

İlk iş yükünüzü dakikalar içinde hızlı başlatma rehberlerimizi kullanarak çalıştırın.

Get started	Description
🚀 Databricks CLI quickstart	Slurm veya Kubernetes kümesinden mi geliyor? Terminalinizden AI Runtime ile dakikalar içinde eğitim yapın.
📓 Notebook hızlı başlatma	Defterinizi bir GPU'ya saniyeler içinde bağlayın ve etkileşimli bir şekilde geliştirin.
⚡ Ray	Bir Tışın kümesinden mi geliyor? Ray'i gösterge paneli desteğiyle AI Runtime üzerinde çalıştırın.
🧭 Genel Bakış	AI Runtime hakkında iki dakikada temel şeyleri öğrenin: mevcut GPU'lar, nasıl çalıştıkları ve sınırlamalar.

Özellikler

AI Runtime, GPU'lara bağlanmanın birçok yolu, yerleşik gözlemlenebilirlik ve hata ayıklama araçları ile önceden oluşturulmuş ortamlar sunan tam yığın bir GPU platformudur.

Sunucusuz GPU'lara bağlanın: Çalıştığınız yerden sunucusuz GPU'lara ulaşın.

Özellik	Description
Notebooks	Bir notebook'u sunucusuz GPU hesaplamasına bağlayın ve küme kurulumu olmadan etkileşimli bir şekilde geliştirin.
SSH üzerinden IDE	IDE’nizden veya terminalinizden bir SSH tüneli üzerinden bağlanarak doğrudan bir GPU düğümü üzerinde çalışın.
Databricks CLI	Dizüstü bilgisayarınızdan YAML iş yapılandırmalarını kullanarak dağıtık GPU eğitim işlerini gönderin ve yönetin.
Yapay zeka aracıları	databricks-ai-runtime Ajan becerisini kullanarak yapay zeka ajanınızdan GPU eğitim işlerini gönderin, izleyin ve yönetin.
Ray	Ray Core, Ray Data, Ray Train ve Ray Tune'u sunucusuz GPU hesaplamasında çalıştırın.

Bağımlılıkları Yönetme: İş yükünüzün çalıştığı Python ve sistem kütüphanelerini kontrol edin.

Özellik	Description
Önceden hazırlanmış ortamlar	Minimal bir Standard ortamından veya ML çerçeveleriyle önceden yüklenmiş bir Databricks AI ortamından başlayın.

GPU'lara veri yükleme: Eğitim verisini GPU'larınıza verimli şekilde aktarın.

Özellik	Description
Verimli veri yükleyiciler	Yüksek GPU kullanımı için tasarlanmış hata toleransı yükleyicilerle Unity Catalog hacimlerinden veri akışı yapın.

Hata Hata Bulma ve Gözlemlenebilirlik: Deneyleri takip edin, çıktıyı inceleyin ve hataları teşhis edin.

Özellik	Description
Derin öğrenme için MLflow	MLflow ile deneyleri, metrikleri ve koşuları takip edin.
Kayıt görüntüleyici	Kodunuz çalışırken eğitim çıktısını görüntüleyin ve GPU kaynak kullanımını izleyin.
Ajanlarla hata ayıklama	Genie Code'u kullanarak eğitim kodu üretin, ortam sorunlarını çözün ve GPU hatalarını ayıklayın.

Zamanlama ve gerçek zamanlı hizmet: Etkileşimli geliştirmeden planlı işler ve uç noktalara geçiş.

Özellik	Description
GPU iş yüklerini planlayın	Deklaratif Otomasyon Paketleri ile eğitim kodu dağıtın, çalışmaları planlayın ve çoklu görevli GPU ile CPU iş akışları oluşturun.
Modellerine hizmet et	Eğitilmiş modellerinizi ölçeklenebilir bir uç noktanın arkasına Model Servis ile yerleştirin.

Examples

AI Runtime için uçtan uca notebook ve Databricks CLI örneklerini keşfedin.

Example	Description
Klasik makine öğrenimi	GPU hızlandırmalı XGBoost, sıfır atışlı tablo tahmini ve zaman serisi tahmini.
Öneri sistemleri	İki kuleli mimariler gibi derin öğrenme öneri modellerini eğitin.
Görüntü işleme	GPU'larda nesne algılama ve görüntü sınıflandırma iş yükleri.
Eğitim sonrası OSS modelleri (LLM'ler)	Açık kaynaklı LLM’lere LoRA, tam ince ayar ve TRL, Unsloth ile Axolotl gibi kütüphaneler kullanarak ince ayar yapın ve ek eğitim uygulayın.
Toplu çıkarım	Ray Data ve vLLM ile birden fazla GPU üzerinde büyük ölçekli toplu çıkarım yap.
Dağıtılmış Çoklu GPU eğitimi	DDP, FSDP ve DeepSpeed ile birden fazla GPU ve düğüm arasında eğitimi ölçeklendirin.

Guides

İş yüklerini AI Runtime'a taşımak ve GPU'larınızdan en iyi şekilde yararlanmak için görev odaklı rehberler.

Guide	Description
Slurm'dan Göç Et	Slurm toplu betiklerinizi, dağıtık başlatıcılarınızı ve paylaşılan depolamanızı Databricks CLI'ya eşleyin.
Klasik GPU iş yüklerini taşın	Mevcut bir derin öğrenme iş yükünü klasik bir Databricks kümesinden AI Çalışma Zamanı'na taşıyın.
Performans ve dayanıklılık	Eğitim verimliliğini artırın ve uzun vadeli işleri başarısızlıklara karşı daha dayanıklı hale getirin.

Ek kaynaklar

Faydalı içerikler bulun: en son ürün güncellemeleri ve AI Runtime'ın nasıl çalıştığı detaylar.

Resource	Description
Ürün güncelleştirmeleri	En son AI Runtime ürün güncellemelerini ve duyurularını görün.
AI Runtime nasıl çalışır	Databricks'in GPU'ları AI Çalışma Zamanında nasıl güvenilir tuttuğunu okuyun.