Runtime AI

AI Runtime adalah penawaran komputasi GPU tanpa server yang sepenuhnya dikelola di Databricks untuk pelatihan, penyempurnaan, dan beban kerja pembelajaran mendalam yang lebih luas Anda.

• GPU serverless: A10 dan H100 sesuai permintaan, dapat diakses melalui Databricks CLI, notebook, pekerjaan, dan Ray.
• Lingkungan yang dikelola: lingkungan siap pakai dan dataloader yang sudah siap untuk pelatihan dan fine-tuning, atau bawa kontainer Docker Anda sendiri.
• Observabilitas bawaan: pelacakan eksperimen melalui MLflow, log, dan agen debugging.
• Orkestrasi: jadwalkan beban kerja GPU Anda dan gunakan dalam pipeline CI/CD.

Get started

Pelajari tentang AI Runtime dan jalankan beban kerja pertama Anda.

Get started	Deskripsi
🚀 Quickstart	Jalankan beban kerja pertama Anda di AI Runtime dari terminal Anda.
🧭 Ikhtisar	Pelajari hal-hal utama tentang AI Runtime: GPU apa saja yang tersedia, cara kerjanya, dan keterbatasannya.
💡 Contoh	Jelajahi tutorial notebook dan resep CLI Databricks yang dapat dijalankan yang diatur berdasarkan tugas.

Hubungkan ke GPU-GPU

Akses GPU melalui Databricks CLI, notebook, Jobs, atau melalui Ray.

Feature	Deskripsi
Databricks CLI	Kirim dan kelola pekerjaan pelatihan GPU terdistribusi dari laptop Anda menggunakan konfigurasi pekerjaan YAML.
Notebooks	Hubungkan notebook ke AI Runtime dan kembangkan secara interaktif, tanpa pengaturan cluster.
Pekerjaan	Jadwalkan notebook pada AI Runtime sebagai pekerjaan berulang.
Ray	Jalankan Ray Core, Ray Data, Ray Train, dan Ray Tune pada AI Runtime.

Mengembangkan workload

Muat data secara efisien, konfigurasikan lingkungan Anda, dan kembangkan beban kerja dengan agen coding.

Feature	Deskripsi
Muat data ke GPU	Streaming data dari volume Unity Catalog dengan pemuat data yang toleran terhadap kesalahan dan dirancang untuk utilisasi GPU tinggi.
Lingkungan yang sudah dibangun	Mulailah dari lingkungan Standard minimal atau lingkungan AI Databricks yang sudah dimuat dengan kerangka ML.
Image Docker kustom	Bawa citra Docker Anda sendiri ketika beban kerja Anda memerlukan pustaka sistem khusus atau dependensi.
Agen coding	Gunakan Genie Code dan databricks-ai-runtime skill agen untuk membuat, mengirimkan, dan mengelola beban kerja GPU.

Pantau, debug, dan deploy

Lacak eksperimen, periksa log, mendiagnosis kegagalan, dan jadwalkan beban produksi.

Feature	Deskripsi
MLflow untuk debugging	Lacak eksperimen, metrik, dan run dengan MLflow.
Menampilkan log	Lihat output pelatihan, pantau penggunaan sumber daya GPU saat kode Anda berjalan, dan debug dengan Genie Code.
Jadwalkan beban kerja	Terapkan kode pelatihan dengan Bundel Otomasi Deklaratif, jadwalkan eksekusi, dan bangun alur kerja multitugas untuk GPU dan CPU.
Sajikan model terlatih	Terapkan model yang dilatih menggunakan AI Runtime ke Model Serving.

Guides

Jelajahi panduan migrasi, tutorial, dan sumber daya teknis untuk AI Runtime.

Resource	Deskripsi
Mengapa menggunakan AI Runtime	Bandingkan AI Runtime dengan komputasi klasik dan Databricks Runtime ML untuk biaya, pengalaman pengembang, dan skala.
Migrasi beban kerja GPU klasik	Pindahkan beban kerja deep learning yang sudah ada dari klaster Azure Databricks klasik ke AI Runtime.
Optimalkan kinerja beban kerja Anda	Tingkatkan throughput pelatihan dan buat pekerjaan yang sudah lama berjalan lebih tahan terhadap kegagalan.