Panduan Memulai Cepat AI Runtime Notebook

Penting

Fitur ini ada di Pratinjau Umum.

Gunakan AI Runtime untuk beralih dari notebook kosong ke PyTorch di GPU hanya dengan beberapa klik. Lampirkan notebook ke Serverless GPU tanpa perlu menyiapkan klaster, dan dapatkan pemantauan GPU, terminal pada node GPU, serta Genie Code bawaan.

Notebook AI Runtime yang terhubung ke GPU Serverless, dengan callout untuk memilih tipe GPU, mengonfigurasi lingkungan, memantau pemanfaatan, menggunakan agen untuk mengkode, dan membuka terminal.

Requirements

Ruang kerja Anda harus mengaktifkan AI Runtime dan berada di wilayah yang didukung. Lihat Persyaratan.

Langkah 1: Pasang notebook ke GPU

  1. Membuat atau membuka buku catatan.
  2. Dari drop-down komputasi di bagian atas notebook, pilih GPU tanpa server.
  3. Di kolom Accelerator , pilih 1xA10.
  4. Klik Terapkan, lalu Konfirmasi.

Tip

Mulailah dengan 1xA10 untuk pengembangan dan beban kerja kecil. Beralih ke 1xH100 atau 8xH100 saat Anda membutuhkan lebih banyak memori GPU atau pelatihan terdistribusi multi-GPU. Lihat Opsi perangkat keras.

Langkah 2: Jalankan kode GPU pertama Anda

Lingkungan AI Databricks default dilengkapi dengan PyTorch, Transformers, vLLM, pandas, dan banyak paket lainnya yang sudah terpasang. Untuk daftar lengkapnya, lihat lingkungan Databricks AI.

Jalankan notebook berikut untuk memastikan GPU terpasang dan jalankan satu langkah pelatihan:

Notebook panduan memulai cepat AI Runtime

Dapatkan buku catatan

Anda sekarang sedang berlatih menggunakan komputasi GPU serverless.

Jelajahi notebook dengan GPU

Notebook ini dilengkapi dengan alat untuk membantu Anda bekerja pada GPU. Anda bisa beralih lingkungan dasar, memantau pemanfaatan GPU, membuka terminal di node GPU, dan menggunakan Genie Code untuk menulis serta mendebug kode Anda.

Ganti lingkungan

Klik Environment di panel kanan untuk memilih lingkungan dasar atau akselerator yang berbeda. Lihat Siapkan lingkungan Anda.

Panel sisi Lingkungan dengan menu tarik-turun lingkungan dasar terbuka, yang menampilkan versi lingkungan Standar dan AI.

Perhatikan pemanfaatan GPU

Klik sumber daya GPU di panel kanan untuk melihat pemanfaatan GPU dan memori langsung saat kode Anda berjalan. Lihat sumber daya GPU langsung.

Panel sumber daya GPU menampilkan grafik pemanfaatan GPU dan penggunaan memori dari waktu ke waktu.

Buka terminal pada node GPU

Klik Terminal di kanan bawah untuk mendapatkan shell pada node GPU. Jalankan nvidia-smi, periksa file, atau debug proses secara langsung. Lihat perintah shell Run di terminal web Azure Databricks.

Terminal web yang menjalankan nvidia-smi di node GPU H100.

Biarkan Genie Code menulis dan debug untuk Anda

Klik Genie Code di panel kanan dan jelaskan apa yang Anda inginkan. Agen dapat menulis kode pelatihan, memperbaiki konflik ketergantungan, dan melakukan debug kegagalan GPU. Lihat Gunakan Kode Genie dengan AI Runtime.

Panel Kode Genie yang berisi perintah yang meminta agen untuk memperbaiki konflik pustaka torchao.

Langkah berikutnya

  • Terakhir diperbarui pada