Panduan cepat AI Runtime

Databricks merekomendasikan memulai dengan Databricks CLI untuk menjalankan beban kerja AI Runtime pertama Anda. Databricks CLI memungkinkan Anda mengirimkan, memantau, dan mengelola beban kerja GPU serverless dari terminal Anda. Jika Anda lebih suka notebook, lihat AI Runtime Notebook quickstart.

Requirements

  • Sebuah ruang kerja Azure Databricks dengan AI Runtime diaktifkan. Lihat Persyaratan.
  • Git terpasang dan tersedia di PATH Anda untuk menjalankan contoh Python. CLI menggunakan Git untuk mengemas kode lokal.

Menjalankan beban kerja pertama Anda

  1. Instal atau perbarui CLI Databricks, dan autentikasi ke workspace Anda. Lihat Menginstal atau Memperbarui Databricks CLI dan Autentikasi untuk Databricks CLI.

    Tip

    Jika Anda bekerja dengan beberapa profil Azure Databricks, tambahkan -p <profile> ke perintah Anda untuk memilih satu. Sebagai alternatif, atur DATABRICKS_CONFIG_PROFILE=<profile> sebelum menjalankannya.

    Konfirmasi bahwa perintah air tersedia:

    databricks air --help

  2. Buat file workload minimal. Berikut workload.yaml ini meminta satu GPU A10 dan menjalankan nvidia-smi untuk mencetak nama GPU:

    experiment_name: air-quickstart
compute:
  num_accelerators: 1
  accelerator_type: GPU_1xA10
command: nvidia-smi --query-gpu=name --format=csv,noheader

  3. Kirimkan beban kerja dan stream lognya dengan databricks air run:

    databricks air run --file workload.yaml --watch

    CLI mengembalikan ID Job Run dan tautan ke run di workspace Anda. --watch menjaga terminal tetap terhubung dan mengalirkan log sampai beban kerja selesai.

    Submitting experiment: air-quickstart
Submitted workload with Job Run ID: 783940125630184
View job run at: https://example.cloud.databricks.com/jobs/runs/783940125630184?o=1234567890123456

Monitoring run and streaming logs...
...
Environment setup completed at Thu Oct 1 14:23:45 UTC 2026
NVIDIA A10

Tip

Untuk mendapatkan bantuan menulis konfigurasi beban kerja dan mengelola run, instal databricks-ai-runtime skill untuk agen AI Anda. Lihat Gunakan keterampilan agen dengan AI Runtime.

Jalankan kode Python Anda sendiri

Untuk mengunggah dan menjalankan kode Python lokal, buat direktori air-quickstart dengan file-file berikut:

air-quickstart/
├── workload.yaml
└── main.py

Tip

Untuk memulai dari proyek yang dapat dijalankan alih-alih membuat file-file ini secara manual, kloning repositori AI Runtime cookbook dan ubah ke direktori getting-started CLI:

git clone https://github.com/databricks-solutions/ai-runtime-cookbook.git
cd ai-runtime-cookbook/getting-started/air-cli

Gunakan kode Python minimal berikut untuk memverifikasi bahwa AI Runtime menjalankan kode yang diunggah di GPU:

import torch

print("Hello from Python on AI Runtime")
print(f"GPU: {torch.cuda.get_device_name(0)}")

Untuk memperluas contoh ini, Anda dapat mengganti main.py dengan pelatihan sendiri, inferensi batch, atau aplikasi AI lainnya.

Gunakan konfigurasi berikut untuk workload.yaml:

experiment_name: python-quickstart
environment:
  version: 6
  dependencies:
    - torch==2.11.0
compute:
  num_accelerators: 1
  accelerator_type: GPU_1xH100
code_source:
  root_path: .
command: python "$CODE_SOURCE_PATH/main.py"

Konfigurasi ini menggunakan pengaturan berikut dan menjalankan main.py pada satu GPU H100:

  • environment.version memilih versi 6 Lingkungan Standar.
  • environment.dependencies menginstal PyTorch 2.11.0 ke lingkungan yang dipilih.
  • root_path: . mengunggah direktori yang berisi workload.yaml. Saat runtime, $CODE_SOURCE_PATH menunjuk ke direktori yang diunggah.

Kirim workload dari direktori yang berisi workload.yaml:

databricks air run --file workload.yaml --watch

Log yang di-stream meliputi:

...
Hello from Python on AI Runtime
GPU: NVIDIA H100 80GB HBM3

Untuk menjalankan pelatihan lengkap, fine-tuning, inferensi batch, dan beban kerja Ray, kloning AI Runtime Cookbook dan jalankan salah satu resep.

Untuk mengonfigurasi lingkungan, sumber kode, komputasi, dan pengaturan beban kerja lainnya, lihat referensi Workload YAML.

Periksa dan pantau eksekusi Anda

CLI mencetak ID Job Run saat Anda mengirimkan beban kerja. Gunakan ini untuk memeriksa proses:

databricks air get <job-run-id>

databricks air get menampilkan status run, konfigurasi, dan timing. Ini juga menaut ke Job run dan, jika tersedia, MLflow run.

Untuk melakukan streaming log setelah pengiriman atau melanjutkan stream yang terputus, jalankan:

databricks air logs <job-run-id>

CLI juga menyediakan perintah untuk mencantumkan dan memeriksa run, stream log, dan membatalkan run aktif. Lihat air referensi perintah.

Reference

Sumber daya tambahan

  • Terakhir diperbarui pada