Подключение к среде выполнения ИИ

Это важно

Эта функция доступна в общедоступной предварительной версии.

Подключитесь к среде выполнения ИИ из интерактивных записных книжек, интегрированной среды разработки через туннель SSH, запланированные задания, API заданий или декларативные пакеты автоматизации. Подключение блокнота к среде выполнения ИИ — это основной способ запуска задач обучения и тонкой настройки, а те же блокноты можно планировать как повторяющиеся задания или автоматизировать в конвейерах развертывания.

Интерактивные (записные книжки)

Это основной способ использования среды выполнения ИИ. Чтобы подключить записную книжку и настроить среду, выполните следующие действия.

  1. В записной книжке щелкните раскрывающееся меню вычислений в верхней части и выберите бессерверный GPU.
  2. Щелкните значок окружения, чтобы открыть боковую панель окружения.
  3. Выберите акселератор из поля акселератора . Для распределенных рабочих нагрузок обучения выберите 8xH100. Дополнительные сведения о выборе акселератора см. в разделе " Параметры оборудования ".
  4. В поле Base environment выберите Standard v5 или Standard v4 для среды Standard либо AI v5 или AI v4 для среды AI.
  5. Нажмите кнопку "Применить ", а затем подтвердите , что вы хотите применить среду выполнения ИИ к среде записной книжки.

Замечание

Подключение к вычислительным ресурсам автоматически завершается через 60 минут бездействия.

Подсказка

Для операций, не требующих графических процессоров (например, клонирования репозитория Git, преобразования форматов данных или анализа аналитических данных), подключите записную книжку к кластеру ЦП для сохранения ресурсов GPU.

Подключение из терминала интегрированной среды разработки

Вы можете подключиться к среде выполнения ИИ на бессерверных вычислениях GPU непосредственно из терминала в интегрированной среде разработки через туннель SSH.

Чтобы подключиться к AI Runtime, выполните команду databricks ssh connect с параметром --accelerator в терминале вашей IDE. Отдельный шаг установки не требуется. Дополнительные сведения о команде см. в группе команд ssh.

databricks ssh connect --accelerator=GPU_1xA10

Чтобы подключиться и начать сеанс в Visual Studio Code или Cursor, используйте параметр --ide. Интерфейс командной строки открывает окно интегрированной среды разработки, указывающее на папку домашней рабочей области.

databricks ssh connect --ide=vscode

Дополнительные сведения о настройке, открытии проектов и выполнении кода см. в разделе "Подключение к Databricks" с помощью туннеля SSH.

Задания (запланированные)

Вы можете запланировать записные книжки, использующие среду выполнения ИИ в качестве повторяющихся заданий. Дополнительные сведения см. в статье "Создание запланированных заданий записной книжки и управление ими ".

После открытия записной книжки, которую вы хотите использовать:

  1. Нажмите кнопку "Расписание " в правом верхнем углу.
  2. Выберите "Добавить расписание".
  3. Заполните форму нового расписанияименем задания, расписанием и вычислением.
  4. Нажмите кнопку "Создать".

Вы также можете создавать и планировать задания из пользовательского интерфейса заданий и конвейеров . Пошаговые инструкции см. в статье "Создание задания ".

Замечание

Добавление зависимостей с помощью панели "Среды " не поддерживается для запланированных заданий среды выполнения ИИ. Зависимости должны быть установлены программно в вашем ноутбуке (например, %pip install). Автоматическое восстановление не поддерживается. Если задание завершается ошибкой из-за несовместимых пакетов, необходимо вручную устранить проблему и перезапустить задание.

Для рабочих нагрузок, которые могут превышать 7-дневный максимальный срок выполнения, реализуйте контрольные точки вручную, чтобы разрешить возобновление. Мы рекомендуем использовать тома в Unity Catalog через UCVolumeWriter и UCVolumeReader, начиная с serverless_gpu.data. См. контрольную точку модели.

API заданий и декларативные пакеты автоматизации

Вы можете программно создавать задания среды выполнения ИИ и управлять ими с помощью API заданий Databricks или декларативных пакетов автоматизации. Настройте тип вычислений в качестве бессерверного GPU в определении задания или пакета для автоматизации конвейеров развертывания.

В следующем примере показана конфигурация декларативных пакетов автоматизации для задания среды выполнения ИИ с помощью стандартной среды:

resources:
  jobs:
    sample_job:
      name: sample_job_h100

      trigger:
        periodic:
          interval: 1
          unit: DAYS

      parameters:
        - name: catalog
          default: ${var.catalog}
        - name: schema
          default: ${var.schema}

      environments:
        - environment_key: default
          spec:
            environment_version: '4'

      tasks:
        - task_key: notebook_task
          notebook_task:
            notebook_path: /Workspace/Users/your_email/your_notebook
          environment_key: default
          compute:
            hardware_accelerator: GPU_8xH100

Чтобы использовать среду ИИ Databricks вместо стандартной среды, задайте base_environment идентификатор среды ИИ (например, databricks_ai_v5 для ИИ версии 5) в среде spec и сослаться на нее из задачи environment_key:

Это важно

Выбор среды ИИ Databricks в качестве базовой среды рабочей области находится в бета-версии и требует от администратора рабочей области принять участие. См. Сборка для бессерверных GPU-вычислений (среда выполнения ИИ).

resources:
  jobs:
    sample_job:
      name: sample_job_aiv5_h100

      trigger:
        periodic:
          interval: 1
          unit: DAYS

      parameters:
        - name: catalog
          default: ${var.catalog}
        - name: schema
          default: ${var.schema}

      environments:
        - environment_key: aiv5
          spec:
            base_environment: databricks_ai_v5

      tasks:
        - task_key: notebook_task
          notebook_task:
            notebook_path: /Workspace/Users/your_email/your_notebook
          environment_key: aiv5
          compute:
            hardware_accelerator: GPU_8xH100
  • Last updated on