Ray on AI için Çalışma Zamanı

Important

Bu özellik Genel Önizleme aşamasındadır.

Uyarı

Bu sayfa Ray on AI Runtime’ı ele alır. Eğer Ray'i Databricks Classic compute ile Databricks Runtime ML ile kullanıyorsanız, Ray on Databricks sayfasına bakınız.

Ray, Python iş yüklerini ölçeklendirmek için açık kaynak bir çerçevedir. Ray kümeleri oluşturabilir ve Ray uygulamalarını AI Çalışma Zamanında çalıştırabilirsiniz; sunucusuz GPU hesaplama kullanarak altyapı provisioning'i otomatik olarak yönetebilirsiniz.

AI Çalışma Zamanı CLI, Ray'i tek düğümlü ve çok düğümlü konfigürasyonlarda destekler. İş yükünün commandaltına bir önyükleme betiği ekleyin; bu betik Ray kümesini başlatır ve iş yükü başladığında baş ve işçi düğümlerini koordine eder. Ray Hello World örnekleri bu desen üzerinden geçiyor.

AI Runtime, Ray Core, Ray Data, Ray Train ve Ray Tune dahil olmak üzere Ray'in temel kütüphanelerini destekler. Standart Databricks ortamında iş yükünüz için bir bağımlılık olarak ray[data] kitaplığını veya ilgili Ray ek paketini (ray[train], ray[tune], ray) yükleyin. Databricks AI ortamı kullanıyorsan, ray önceden yüklenmiş ama ekstralar ayrı olarak kurulmalıdır.

Examples

Example	Description
Ray Hello World örnekleri (CLI)	Ray Core, Ray Train, Ray Data ve Ray Tune için, küme önyükleme örüntüsünü de içeren en basit tek düğümlü ve çok düğümlü örnekler.
Ray Train (CLI) ile dağıtılmış eğitim	Ray Train ve PyTorch kullanarak birden fazla düğüm arasında büyük bir dil modelini ince ayar yapın.
Ray Data ve vLLM (CLI) ile toplu çıkarım	Dağıtık veri yüklemesi için Ray Data ve verimli model hizmeti için vLLM kullanarak büyük ölçekli toplu çıkarım çalıştırın.
Ray Tune (CLI) ile hiperparametre araması	Ray Tune ile Qwen2.5 için LoRA ince ayar hiperparametrelerini arayın; GPU başına bir deneme çalıştırarak ve beklenen performansı göstermeyen denemeleri ASHA zamanlayıcısı ile erkenden durdurarak.