AI Runtime

Penting

Fitur ini ada di Pratinjau Umum.

AI Runtime adalah penawaran komputasi GPU serverless di Databricks yang ditujukan untuk beban kerja deep learning . Anda dapat menggunakan AI Runtime untuk melatih dan menyempurnakan model kustom menggunakan kerangka kerja favorit Anda dan mendapatkan efisiensi, performa, dan kualitas canggih.

Get started

Jalankan beban kerja pertama Anda dalam hitungan menit menggunakan panduan cepat kami.

Get started	Deskripsi
🚀 CLI quickstart	Berasal dari cluster Slurm atau Kubernetes? Berlatih menggunakan AI Runtime dari terminal Anda dalam hitungan menit.
📓 Panduan mulai cepat Notebook	Pasang notebook Anda ke GPU dalam hitungan detik dan kembangkan secara interaktif..
⚡ Ray	Berasal dari gugus sinar? Jalankan Ray di AI Runtime dengan dukungan dashboard.
🧭 Ikhtisar	Pelajari hal-hal utama tentang AI Runtime dalam dua menit: GPU yang tersedia, cara kerjanya, dan keterbatasannya.

Fitur

AI Runtime adalah platform GPU full-stack, dengan banyak cara untuk terhubung ke GPU, alat observabilitas dan debugging bawaan, serta lingkungan yang sudah dibangun.

Terhubung ke GPU serverless: Akses GPU serverless dari mana pun Anda bekerja.

Feature	Deskripsi
Notebooks	Hubungkan notebook ke komputasi GPU serverless dan kembangkan secara interaktif, tanpa pengaturan cluster.
IDE melalui SSH	Sambungkan dari IDE atau terminal Anda melalui tunnel SSH untuk bekerja langsung pada node GPU.
AI Runtime CLI	Kirim dan kelola pekerjaan pelatihan GPU terdistribusi dari laptop Anda menggunakan konfigurasi pekerjaan YAML.
Ray	Jalankan Ray Core, Ray Data, Ray Train, dan Ray Tune pada komputasi GPU tanpa server.

Mengelola Ketergantungan: Kendalikan Python dan pustaka sistem yang digunakan untuk menjalankan beban kerja Anda.

Feature	Deskripsi
Lingkungan yang sudah dibangun	Mulailah dari lingkungan Standard minimal atau lingkungan AI Databricks yang sudah dimuat dengan kerangka ML.
Dukungan Docker	Bawa citra kontainer Anda sendiri untuk menjalankan beban kerja dengan tumpukan ketergantungan khusus.

Memuat data ke GPU: Mengirimkan data pelatihan ke GPU Anda secara efisien.

Feature	Deskripsi
Loader data yang efisien	Streaming data dari volume Unity Catalog dengan pemuat data yang toleran terhadap kesalahan dan dirancang untuk utilisasi GPU tinggi.

Debugging dan Observabilitas: Lacak eksperimen, periksa output, dan diagnosis kegagalan.

Feature	Deskripsi
MLflow untuk pembelajaran mendalam	Lacak eksperimen, metrik, dan eksekusi dengan MLflow, serta simpan titik pemeriksaan model di volume Unity Catalog.
Penampil log	Lihat output pelatihan dan pantau penggunaan sumber daya GPU saat kode Anda berjalan.
Debugging menggunakan agen	Gunakan Genie Code untuk menghasilkan kode pelatihan, menyelesaikan masalah lingkungan, dan men-debug kegagalan GPU.

Penjadwalan dan pelayanan waktu nyata: Beralih dari pengembangan interaktif ke pekerjaan terjadwal dan titik akhir.

Feature	Deskripsi
Produksikan pekerjaan Anda	Terapkan kode pelatihan dengan Bundel Otomasi Deklaratif, jadwalkan eksekusi, dan bangun alur kerja multitugas untuk GPU dan CPU.
Sajikan model Anda	Terapkan model terlatih Anda di balik endpoint yang dapat diskalakan dengan Model Serving.

Examples

Klon contoh lengkap dan jalankan di AI Runtime dalam hitungan menit, melalui CLI atau notebook.

Example	Deskripsi
Contoh Sinar	Ambil proyek Ray Anda yang sudah ada dan jalankan di AI Runtime dalam hitungan menit.
Pelatihan model rekomendasi tabular	Latih model rekomendasi pembelajaran mendalam, seperti arsitektur dua menara.
Visi Komputer	Beban kerja deteksi objek dan klasifikasi gambar pada GPU.
Pembelajaran mesin klasik	XGBoost yang dipercepat GPU, peramalan deret waktu, dan tugas ML klasik lainnya.
Melakukan fine-tuning pada LLM OSS	Sempurnakan model bahasa skala besar sumber terbuka dengan LoRA, QLoRA, atau penyetelan penuh.

Pelajari lebih lanjut

Temukan konten yang berguna: pembaruan produk terbaru dan bagaimana AI Runtime bekerja di balik layar.

Resource	Deskripsi
Pembaruan produk	Lihat pembaruan dan pengumuman produk AI Runtime terbaru.
Bagaimana AI Runtime bekerja secara rahasia	Baca bagaimana Databricks menjaga GPU tetap andal selama AI Runtime.