Databricks CLI quickstart untuk AI Runtime

Important

Fitur ini ada di Pratinjau Umum.

Databricks CLI untuk AI Runtime memungkinkan Anda mengirim, memantau, dan mengelola beban kerja GPU serverless dari terminal Anda. Quickstart ini menunjukkan cara mengonfigurasi dan menjalankan beban kerja AI Runtime, stream log, dan memeriksa proses eksekusi.

Requirements

Konfirmasi bahwa perintah air tersedia di Databricks CLI:

databricks air --help

Tip

Untuk mendapatkan bantuan menulis konfigurasi beban kerja dan mengelola run, instal databricks-ai-runtime skill untuk agen AI Anda. Lihat Gunakan agen AI.

Jalankan beban kerja minimal

Buat workload.yaml file yang meminta satu GPU A10 dan menjalankan nvidia-smi untuk mencetak nama GPU:

experiment_name: air-quickstart
compute:
  num_accelerators: 1
  accelerator_type: GPU_1xA10
command: nvidia-smi --query-gpu=name --format=csv,noheader

Kirimkan beban kerja dan stream lognya dengan databricks air run:

databricks air run --file workload.yaml --watch

CLI mengembalikan ID Job Run dan tautan ke run di workspace Anda. --watch menjaga terminal tetap terhubung dan mengalirkan log sampai beban kerja selesai.

Submitting experiment: air-quickstart
Submitted workload with Job Run ID: 783940125630184
View job run at: https://example.cloud.databricks.com/jobs/runs/783940125630184?o=1234567890123456

Monitoring run and streaming logs...
...
Environment setup completed at Thu Oct 1 14:23:45 UTC 2026
NVIDIA A10

Jalankan kode Python Anda sendiri

Untuk mengunggah dan menjalankan kode Python lokal, buat direktori air-quickstart dengan file-file berikut:

air-quickstart/
├── workload.yaml
└── main.py

Tip

Untuk memulai dari proyek yang dapat dijalankan alih-alih membuat file-file ini secara manual, kloning repositori AI Runtime cookbook dan ubah ke direktori getting-started CLI:

git clone https://github.com/databricks-solutions/ai-runtime-cookbook.git
cd ai-runtime-cookbook/getting-started/air-cli

Gunakan kode Python minimal berikut untuk memverifikasi bahwa AI Runtime menjalankan kode yang diunggah di GPU:

import torch

print("Hello from Python on AI Runtime")
print(f"GPU: {torch.cuda.get_device_name(0)}")

Untuk memperluas contoh ini, Anda dapat mengganti main.py dengan pelatihan sendiri, inferensi batch, atau aplikasi AI lainnya.

Gunakan konfigurasi berikut untuk workload.yaml:

experiment_name: python-quickstart
environment:
  version: 6
  dependencies:
    - torch==2.11.0
compute:
  num_accelerators: 1
  accelerator_type: GPU_1xH100
code_source:
  root_path: .
command: python "$CODE_SOURCE_PATH/main.py"

Konfigurasi ini menggunakan pengaturan berikut dan menjalankan main.py pada satu GPU H100:

  • environment.version memilih versi 6 Lingkungan Standar.
  • environment.dependencies menginstal PyTorch 2.11.0 ke lingkungan yang dipilih.
  • root_path: . mengunggah direktori yang berisi workload.yaml. Saat runtime, $CODE_SOURCE_PATH menunjuk ke direktori yang diunggah.

Kirimkan beban kerja dari direktori yang berisi workload.yaml:

databricks air run --file workload.yaml --watch

Log yang di-stream meliputi:

...
Hello from Python on AI Runtime
GPU: NVIDIA H100 80GB HBM3

Untuk menjalankan pelatihan lengkap, fine-tuning, inferensi batch, dan beban kerja Ray, kloning AI Runtime Cookbook dan jalankan resepnya.

Untuk mengonfigurasi lingkungan, sumber kode, komputasi, dan pengaturan beban kerja lainnya, lihat referensi Workload YAML.

Periksa run

CLI mencetak ID Job Run saat Anda mengirimkan beban kerja. Gunakan ini untuk memeriksa run:

databricks air get <job-run-id>

databricks air get menampilkan status run, konfigurasi, dan timing. Ini juga menaut ke Job run dan, jika tersedia, MLflow run.

Untuk melakukan streaming log setelah pengiriman atau melanjutkan stream yang terputus, jalankan:

databricks air logs <job-run-id>

CLI juga menyediakan perintah untuk mencantumkan dan memeriksa run, log streaming, dan membatalkan run aktif. Lihat air referensi perintah.

Reference

Sumber daya tambahan

  • Terakhir diperbarui pada