Bagikan melalui

Hubungkan ke Runtime AI

Penting

Runtime AI untuk tugas node tunggal sedang dalam Pratinjau Umum. API pelatihan terdistribusi untuk beban kerja multi-GPU tetap berada di Beta.

Artikel ini menjelaskan cara menyambungkan ke Runtime AI dari notebook interaktif, pekerjaan terjadwal, dan JOBS API.

Interaktif (Notebooks)

Ini adalah cara utama untuk menggunakan Runtime AI. Untuk menyambungkan buku catatan Anda dan mengonfigurasi lingkungan:

  1. Dari buku catatan, klik menu drop-down Sambungkan di bagian atas dan pilih GPU Tanpa Server.
  2. Klik ikon Lingkungan. untuk membuka panel sisi Lingkungan .
  3. Pilih A10 atau H100 dari bidang Akselerator .
  4. Pilih Tidak Ada untuk lingkungan default atau AI v4 untuk lingkungan AI dari bidang Lingkungan dasar .
  5. Klik Terapkan lalu Konfirmasikan bahwa Anda ingin menerapkan Runtime AI ke lingkungan buku catatan Anda.

Nota

Koneksi ke komputasi Anda berakhir secara otomatis setelah 60 menit tidak aktif.

Petunjuk / Saran

Untuk operasi yang tidak memerlukan GPU (misalnya, mengkloning repositori Git, mengonversi format data, atau analisis data eksploratif), lampirkan notebook Anda ke kluster CPU untuk mempertahankan sumber daya GPU.

Pekerjaan (Terjadwal)

Anda dapat menjadwalkan notebook yang menggunakan GPU tanpa server sebagai pekerjaan berulang. Lihat Membuat dan mengelola pekerjaan buku catatan terjadwal untuk detail selengkapnya.

Setelah Anda membuka buku catatan yang ingin Anda gunakan:

  1. Pilih tombol Jadwalkan di kanan atas.
  2. Pilih Tambahkan jadwal.
  3. Isi formulir Jadwal baru dengan Nama pekerjaan, Jadwal, dan Komputasi.
  4. Pilih Buat.

Anda juga dapat membuat dan menjadwalkan pekerjaan dari antarmuka pengguna Pekerjaan dan alur . Lihat Membuat pekerjaan baru untuk panduan langkah demi langkah.

Nota

Menambahkan dependensi menggunakan panel Lingkungan tidak didukung untuk pekerjaan terjadwal GPU tanpa server. Dependensi harus diinstal secara terprogram dalam notebook Anda (misalnya, %pip install). Pemulihan otomatis tidak didukung — jika pekerjaan Anda gagal karena paket yang tidak kompatibel, Anda harus memperbaiki dan menjalankan kembali secara manual. Untuk beban kerja yang mungkin melebihi runtime maksimum 7 hari, terapkan titik pemeriksaan manual untuk memungkinkan dimulainya kembali.

API Pekerjaan dan Bundel Aset Databricks

Anda dapat membuat dan mengelola pekerjaan Runtime AI secara terprogram menggunakan Databricks Jobs API atau Bundel Aset Databricks. Konfigurasikan jenis komputasi sebagai GPU tanpa server dalam definisi pekerjaan atau bundel Anda untuk mengotomatiskan alur penyebaran.

Contoh berikut menunjukkan konfigurasi Bundel Aset Databricks untuk Runtime AI pada pekerjaan GPU tanpa server:

resources:
  jobs:
    sample_job:
      name: sample_job_h100

      trigger:
        periodic:
          interval: 1
          unit: DAYS

      parameters:
        - name: catalog
          default: ${var.catalog}
        - name: schema
          default: ${var.schema}

      environments:
        - environment_key: default
          spec:
            environment_version: '4'

      tasks:
        - task_key: notebook_task
          notebook_task:
            notebook_path: /Workspace/Users/your_email/your_notebook
          environment_key: default
          compute:
            hardware_accelerator: GPU_8xH100
  • Last updated on