Поделиться через

Подключение к среде выполнения ИИ

Это важно

Среда выполнения ИИ для задач с одним узлом находится в общедоступной предварительной версии. API распределенного обучения для рабочих нагрузок с несколькими GPU остаются в бета-версии.

В этой статье описывается, как подключиться к среде выполнения ИИ из интерактивных записных книжек, запланированных заданий и API заданий.

Интерактивные (записные книжки)

Это основной способ использования среды выполнения ИИ. Чтобы подключить записную книжку и настроить среду, выполните следующие действия.

  1. В записной книжке вверху страницы щелкните раскрывающееся меню Подключиться и выберите Serverless GPU.
  2. Щелкните значок окружения, чтобы открыть боковую панель окружения.
  3. Выберите A10 или H100 в поле акселератора .
  4. Выберите "Нет " для среды по умолчанию или ИИ версии 4 для среды ИИ в поле "Базовая среда ".
  5. Нажмите кнопку "Применить ", а затем подтвердите , что вы хотите применить среду выполнения ИИ к среде записной книжки.

Замечание

Подключение к вычислительным ресурсам автоматически завершается через 60 минут бездействия.

Подсказка

Для операций, не требующих графических процессоров (например, клонирования репозитория Git, преобразования форматов данных или анализа аналитических данных), подключите записную книжку к кластеру ЦП для сохранения ресурсов GPU.

Задания (запланированные)

Вы можете запланировать записные книжки, использующие бессерверный GPU в качестве повторяющихся заданий. Дополнительные сведения см. в статье "Создание запланированных заданий записной книжки и управление ими ".

После открытия записной книжки, которую вы хотите использовать:

  1. Нажмите кнопку "Расписание " в правом верхнем углу.
  2. Выберите "Добавить расписание".
  3. Заполните форму нового расписанияименем задания, расписанием и вычислением.
  4. Нажмите кнопку "Создать".

Вы также можете создавать и планировать задания из пользовательского интерфейса заданий и конвейеров . Пошаговые инструкции см. в статье "Создание задания ".

Замечание

Добавление зависимостей с помощью панели "Среды " не поддерживается для запланированных заданий без сервера GPU. Зависимости должны быть установлены программно в вашем ноутбуке (например, %pip install). Автоматическое восстановление не поддерживается: если выполнение задания завершается ошибкой из-за несовместимых пакетов, необходимо вручную исправить и повторно запустить задание. Для рабочих нагрузок, которые могут превышать 7-дневный максимальный срок выполнения, реализуйте контрольные точки вручную, чтобы разрешить возобновление.

API заданий и пакеты ресурсов Databricks

Вы можете программно создавать задания среды выполнения ИИ и управлять ими с помощью API заданий Databricks или наборов ресурсов Databricks. Настройте тип вычислений в качестве бессерверного GPU в определении задания или пакета для автоматизации конвейеров развертывания.

В следующем примере показана конфигурация пакета ресурсов Databricks для среды выполнения ИИ на бессерверном задании GPU:

resources:
  jobs:
    sample_job:
      name: sample_job_h100

      trigger:
        periodic:
          interval: 1
          unit: DAYS

      parameters:
        - name: catalog
          default: ${var.catalog}
        - name: schema
          default: ${var.schema}

      environments:
        - environment_key: default
          spec:
            environment_version: '4'

      tasks:
        - task_key: notebook_task
          notebook_task:
            notebook_path: /Workspace/Users/your_email/your_notebook
          environment_key: default
          compute:
            hardware_accelerator: GPU_8xH100
  • Last updated on