Gunakan Databricks CLI dengan AI Runtime

Important

Perintah Databricks CLI untuk AI Runtime berada dalam Public Preview. Admin ruang kerja harus mengaktifkan pratinjau AI Runtime sebelum Anda dapat mengirimkan workload. Lihat Persyaratan.

databricks air CLI menjalankan beban kerja GPU single-node dan multi-node pada AI Runtime, platform komputasi GPU on-demand serverless. Definisikan komputasi, lingkungan, dan perintah workload di YAML, lalu kirimkan dengan databricks air run.

AI Runtime menangani penyediaan GPU dan pengaturan lingkungan serta menyediakan status proses, log, metrik sistem, dan pelacakan MLflow. Alur kerja YAML dan CLI bekerja secara alami dengan agen coding, yang dapat mendefinisikan, mengirimkan, dan memantau beban kerja.

Gunakan CLI untuk:

  • Kembangkan dan iterasi aplikasi Python dari lingkungan lokal Anda.
  • Definisikan beban kerja single-node atau multi-node yang dapat diulang dalam file YAML yang dapat Anda kelola dalam kontrol versi.
  • Kirim dan kelola workload dari terminal atau alur kerja pengembangan otomatis.

Beban kerja yang umum meliputi fine-tuning dan pasca-pelatihan LLM, pelatihan terdistribusi, inferensi batch, aplikasi Ray, dan pencarian hiperparameter.

Untuk mengirimkan beban kerja, ikuti quickstart.

Perintah Databricks CLI untuk AI Runtime memenuhi standar kepatuhan yang sama dengan beban kerja AI Runtime. Untuk standar dan pengecualian yang didukung, lihat profil keamanan kepatuhan.

Note

Perintah databricks air dan konfigurasi beban kerja berbeda dari CLI lama berbasis Python air dalam paket databricks-air. Lihat migrasi CLI Python.

Jelajahi contoh yang dapat dijalankan

AI Runtime Cookbook berisi beban kerja Databricks CLI yang dapat dijalankan untuk pelatihan model, fine-tuning, inferensi batch, Ray, dan pencarian hiperparameter. Setiap workload contoh mencakup file YAML beban kerja, kode sumber, dan instruksi untuk menjalankannya.

Cara workload berjalan

Anda menyediakan file YAML beban kerja, kode aplikasi saat diperlukan, dan perintah yang memulai aplikasi Anda. Saat Anda mengirimkan beban kerja:

  1. Definisi beban kerja divalidasi berdasarkan skema yang didukung dan batasan konfigurasi.
  2. Jika code_source dikonfigurasi, kode yang dipilih dikemas sebagai snapshot dan diunggah.
  3. Komputasi dan lingkungan GPU yang diminta disiapkan di setiap node.
  4. Perintah yang disediakan dalam workload YAML dijalankan pada setiap node.

Pengajuan mengembalikan ID Job Run yang mengidentifikasi beban kerja. Gunakan untuk memeriksa status, memeriksa log dan konfigurasi, atau membatalkan workload. Anda juga dapat melihat halaman run Jobs dan eksperimen MLflow untuk detail eksekusi, metrik sistem, log, dan artefak.

Alur kerja ini menyediakan penyediaan GPU terkelola, pengaturan lingkungan yang dapat direproduksi, dan observabilitas bawaan tanpa mengharuskan Anda mengonfigurasi atau memelihara infrastruktur GPU.

Konfigurasi beban kerja

File YAML beban kerja menjelaskan komponen berikut:

  • Eksperimen: Eksperimen dan eksekusi MLflow yang melacak beban kerja.
  • Lingkungan: Lingkungan terkelola, dependensi, atau citra Docker kustom yang akan digunakan.
  • Compute: Jenis akselerator dan jumlah akselerator yang akan disediakan.
  • Sumber kode: Snapshot opsional dari kode aplikasi untuk disediakan bagi beban kerja.
  • Perintah: Perintah shell yang memulai aplikasi Anda.
  • Pengaturan runtime: Opsi seperti retry, timeout, variabel lingkungan, rahasia, dan izin.

Untuk bidang konfigurasi dan contoh, lihat referensi Workload YAML.

Unggah kode aplikasi

Gunakan code_source untuk mengunggah file aplikasi untuk workload. AI Runtime membuat direktori yang diunggah tersedia di setiap node dan menetapkan $CODE_SOURCE_PATH ke lokasinya. Sebagai contoh, perintah berikut menjalankan train.py dari direktori yang diunggah:

command: python "$CODE_SOURCE_PATH/train.py"

Anda dapat mengunggah pohon kerja saat ini atau memilih cabang Git atau commit. Untuk contoh lengkap, lihat quickstart.

Mengembangkan dan mengelola workload

Pengembangan biasanya mengikuti proses ini:

  1. Kembangkan kode aplikasi dan YAML workload secara lokal.
  2. Validasi YAML secara lokal dengan databricks air run --file <file> --dry-run.
  3. Kirim workload dengan databricks air run --file <file>. Tambahkan --watch ke log aliran hingga proses selesai.
  4. Gunakan databricks air get, databricks air list, dan databricks air logs untuk memeriksa beban kerja dan log.
  5. Secara opsional, hentikan beban kerja yang berjalan dengan databricks air cancel.

Untuk semua perintah dan bendera, lihat air grup perintah.

Untuk lari terjadwal, alur kerja multi-tugas, atau promosi antar lingkungan, Anda dapat menggunakan databricks air convert-to-dabs sebagai titik awal untuk bundel. Lihat Jadwalkan beban kerja GPU dan susun tugas.

Lacak beban kerja dengan MLflow

Setiap beban kerja yang diajukan direpresentasikan oleh job run Databricks dan dilacak melalui eksperimen MLflow:

  • Run pekerjaan Databricks: Menampilkan status beban kerja, upaya eksekusi, dan output pada halaman Jobs run.
  • Eksperimen MLflow: Berisi run MLflow dengan metrik sistem yang ditangkap secara otomatis, konfigurasi beban kerja, dan log. Aplikasi Anda juga dapat menggunakan API MLflow untuk mencatat parameter kustom, metrik, dan artefak.

Gunakan ID Job Run dengan perintah seperti databricks air get, databricks air logs, dan databricks air cancel. Lihat Pelacakan eksperimen dan observabilitas.

Jalankan beban kerja node tunggal dan terdistribusi

AI Runtime menjalankan perintah yang dikonfigurasi sekali pada setiap node yang telah disediakan. Untuk beban kerja terdistribusi, ia menyediakan variabel koordinasi seperti NUM_NODES, NODE_RANK, LOCAL_WORLD_SIZE, MASTER_ADDR, dan MASTER_PORT.

Model eksekusi ini independen dari kerangka kerja. Perintah Anda harus memulai dan mengonfigurasi framework terdistribusi, misalnya dengan memanggil torchrun, skrip bootstrap Ray, atau peluncur framework lain. Untuk beban kerja lengkap, lihat AI Runtime Cookbook.

Gunakan agen AI

databricks-ai-runtime Keterampilan agen memberikan instruksi yang membantu agen AI, seperti Claude Code, Cursor, dan Codex, bekerja dengan AI Runtime melalui Databricks CLI. Gunakan untuk membuat workload YAML, mengirimkan pekerjaan pelatihan GPU, memeriksa status run, stream log, dan membatalkan run. Aplikasi ini juga menyertakan panduan untuk image Docker kustom.

Setelah menginstal Databricks CLI dan mengonfigurasi autentikasi, jalankan perintah berikut:

databricks aitools install --skills-only --skills databricks-ai-runtime

Ikuti petunjuk untuk memilih agen AI dan cakupan instalasi Anda. Untuk opsi instalasi, lihat aitools grup perintah.

Sumber daya tambahan

  • Terakhir diperbarui pada