AI Runtime'a bağlanma

Önemli

Bu özellik Genel Önizleme aşamasındadır.

Etkileşimli not defterlerinden, SSH tüneli aracılığıyla IDE'den, zamanlanmış işlerden, İşler API'sinden veya Bildirim temelli Otomasyon Paketlerinden AI Çalışma Zamanı'na bağlanın. AI Runtime'a not defteri eklemek, eğitim ve ince ayar iş yüklerini çalıştırmanın birincil yoludur ve yinelenen işlerle aynı not defterlerini zamanlayabilir veya dağıtım işlem hatlarında otomatikleştirebilirsiniz.

Etkileşimli (Not Defterleri)

Yapay zeka Çalışma Zamanı'nı kullanmanın birincil yolu budur. Not defterinizi bağlamak ve ortamı yapılandırmak için:

1. Not defterinden üstteki işlem açılan menüsüne tıklayın ve Sunucusuz GPU'ya tıklayın.
2. Ortam yan panelini açın.
3. Hızlandırıcı alanından bir hızlandırıcı seçin. Dağıtılmış eğitim iş yükleri için 8xH100'i seçin. Hızlandırıcı seçme konusunda rehberlik için bkz . Donanım seçenekleri .
4. Temel ortam alanından Standard ortam için Standard v6 veya AI v6 seçeneğini seçin.
5. Uygula'ya tıklayın ve ardından AI Çalışma Zamanı'nı not defteri ortamınıza uygulamak istediğinizi onaylayın.

Uyarı

Bilgisayar bağlantınız, 60 dakika boyunca hareketsiz kaldığında otomatik olarak sonlandırılır.

Tavsiye

GPU gerektirmeyen işlemler için (örneğin, Git deposunu kopyalama, veri biçimlerini dönüştürme veya keşif veri analizi), GPU kaynaklarını korumak için not defterinizi bir CPU kümesine ekleyin.

IDE terminalinden bağlanma

Sunucusuz GPU işlemlerinde yapay zeka çalışma zamanına doğrudan bir SSH tüneli aracılığıyla IDE'nizdeki bir terminalden bağlanabilirsiniz.

AI Runtime’a bağlanmak için, IDE’nizdeki bir terminalden databricks ssh connect komutunu --accelerator seçeneğiyle çalıştırın. Ayrı bir kurulum adımı gerekmez. Komut hakkında daha fazla bilgi için bkz ssh . komut grubu.

databricks ssh connect --accelerator=GPU_1xA10

Visual Studio Code veya Cursor'da bağlanıp oturumu başlatmak için --ide seçeneğini kullanın. CLI, ana çalışma alanı klasörünü işaret eden bir IDE penceresi açar.

databricks ssh connect --ide=vscode

Kurulum, projeleri açma ve kodu çalıştırma hakkında daha fazla bilgi için bkz. SSH tüneli kullanarak Databricks'e bağlanma.

İşler (Zamanlanmış)

AI Runtime kullanan notebook'ları yinelenen işler olarak zamanlayabilirsiniz. Daha fazla ayrıntı için bkz. Zamanlanmış not defteri işlerini oluşturma ve yönetme .

Kullanmak istediğiniz not defterini açtıktan sonra:

1. Sağ üst kısımdaki Zamanla düğmesini seçin.
2. Zamanlama ekle'yi seçin.
3. Yeni zamanlama formunu İş adı, Zamanlama ve İşlem ile doldurun.
4. Oluştur'i seçin.

İşler ve işlem hatları kullanıcı arabiriminden de iş oluşturabilir ve zamanlayabilirsiniz. Adım adım yönergeler için bkz. Yeni iş oluşturma .

Uyarı

Ortamlar panelini kullanarak bağımlılık ekleme, yapay zeka çalışma zamanı zamanlanmış işleri için desteklenmez. Bağımlılıklar, not defterinizin içinde program aracılığıyla yüklenmelidir (örneğin, %pip install). Otomatik kurtarma desteklenmez. İşiniz uyumsuz paketler nedeniyle başarısız olursa el ile düzeltmeniz ve yeniden çalıştırmanız gerekir.

7 günlük çalışma zamanı üst sınırını aşabilecek iş yükleri için, yeniden başlatmaya izin vermek için el ile denetim noktası oluşturma uygulayın. UCVolumeWriter konumundan UCVolumeReader ve serverless_gpu.data aracılığıyla Unity Catalog birimlerini kullanmanızı öneririz. Bkz. Model denetim noktası oluşturma.

Jobs API ve Bildirimsel Otomasyon Paketleri

Databricks İşleri API'sini veya Bildirim temelli Otomasyon Paketlerini kullanarak yapay zeka çalışma zamanı işlerini program aracılığıyla oluşturabilir ve yönetebilirsiniz. Dağıtım işlem hatlarını otomatikleştirmek için işlem türünü işinizde veya paket tanımınızda sunucusuz GPU olarak yapılandırın.

Kendi eğitim komutunuzu bir not defteri yerine bir kod dizini üzerinde çalıştırmak ve çok görevli işler ile zamanlanmış işlem hatları oluşturmak için Eğitim iş yüklerini üretime alma bölümüne bakın.

Aşağıdaki örnekte , Standart ortamı kullanan bir AI Çalışma Zamanı işi için Bildirim temelli Otomasyon Paketleri yapılandırması gösterilmektedir:

resources:
  jobs:
    sample_job:
      name: sample_job_h100

      trigger:
        periodic:
          interval: 1
          unit: DAYS

      parameters:
        - name: catalog
          default: ${var.catalog}
        - name: schema
          default: ${var.schema}

      environments:
        - environment_key: default
          spec:
            environment_version: '6'

      tasks:
        - task_key: notebook_task
          notebook_task:
            notebook_path: /Workspace/Users/your_email/your_notebook
          environment_key: default
          compute:
            hardware_accelerator: GPU_8xH100

Databricks AI ortamını Standart ortam yerine kullanmak için, base_environment değerini ortam databricks_ai_v6 içinde AI ortam tanımlayıcısı olarak ayarlayın (örneğin, AI v6 için spec) ve buna görevin environment_key alanından başvurun:

Önemli

Çalışma alanı temel ortamı olarak Databricks AI ortamının seçilmesi Beta sürümündedir ve bir çalışma alanı yöneticisinin kabul etmelerini gerektirir. Bkz. Sunucusuz GPU hesaplama için derleme (AI Runtime).

resources:
  jobs:
    sample_job:
      name: sample_job_aiv6_h100

      trigger:
        periodic:
          interval: 1
          unit: DAYS

      parameters:
        - name: catalog
          default: ${var.catalog}
        - name: schema
          default: ${var.schema}

      environments:
        - environment_key: aiv6
          spec:
            base_environment: databricks_ai_v6

      tasks:
        - task_key: notebook_task
          notebook_task:
            notebook_path: /Workspace/Users/your_email/your_notebook
          environment_key: aiv6
          compute:
            hardware_accelerator: GPU_8xH100