Использование оператора GPU NVIDIA в службе Azure Kubernetes (AKS)

Оператор GPU NVIDIA автоматизирует управление и развертывание всех программных компонентов NVIDIA, необходимых для подготовки GPU, включая установку драйверов, подключаемый модуль устройства NVIDIA для Kubernetes, среду выполнения контейнера NVIDIA и многое другое. Так как оператор GPU NVIDIA обрабатывает эти компоненты, не требуется отдельно устанавливать подключаемый модуль устройства NVIDIA в кластере AKS. Это также означает, что для использования оператора NVIDIA GPU на AKS следует отказаться от автоматической установки драйвера GPU.

Tip

Если вам не нужен полный контроль над оператором GPU NVIDIA, пулы узлов GPU под управлением AKS (предварительная версия) для вас устанавливают и поддерживают драйвер NVIDIA, подключаемый модуль устройства Kubernetes и экспортер метрик DCGM.

Это важно

Программное обеспечение с открытым кодом упоминается во всей документации и примерах AKS. Программное обеспечение, которое вы развертываете, не покрывается соглашениями об уровне обслуживания AKS, ограниченной гарантией и поддержкой Azure. При использовании технологии с открытым исходным кодом вместе с AKS ознакомьтесь с вариантами поддержки, доступными от соответствующих сообществ и обслуживающих проектов для разработки плана.

Корпорация Майкрософт несет ответственность за создание пакетов с открытым кодом, которые мы развертываем в AKS. Эта ответственность включает полное управление процессами сборки, сканирования, подписывания, проверки и исправления ошибок, а также контроль над двоичными файлами в образах контейнеров. Для получения дополнительной информации см. Управление уязвимостями в AKS и Покрытие поддержки AKS.

Перед тем как начать

  • В данной статье предполагается, что у вас уже есть существующий кластер AKS. Если у вас нет кластера, создайте его с помощью Azure CLI, Azure PowerShell или портала Azure.
  • Чтобы задать --gpu-driver поле, необходимо установить Azure CLI версии 2.72.2 или более поздней версии. Чтобы узнать версию, выполните команду az --version. Если вам нужно установить или обновить, см. статью "Установка Azure CLI".

Замечание

ВМ с поддержкой GPU содержат специализированное оборудование, что обуславливает их более высокие цены и доступность в регионе. Дополнительные сведения см. в инструменте ценообразования и доступности региона.

Ограничения

Получите учетные данные для вашего кластера

Получите учетные данные для вашего кластера AKS, используя команду az aks get-credentials. Следующая команда получает учетные данные для кластера myAKSCluster в myResourceGroup группе ресурсов:

az aks get-credentials --resource-group myResourceGroup --name myAKSCluster

Замечание

Оператор GPU NVIDIA несовместим с несколькими версиями ОС в одном кластере AKS.

  1. Пропустите автоматическую установку драйвера GPU, создав пул узлов с поддержкой GPU NVIDIA с помощью az aks nodepool add команды и задав поле --gpu-driver API значением none. Если при создании пула узлов задать этому полю API значение none, установка драйвера GPU по умолчанию будет пропущена. Пример см. в разделе "Пропустить установку драйвера GPU". Этот параметр не изменяет существующие узлы. Вы можете уменьшить размер пула узлов до нуля, а затем увеличить обратно, чтобы изменения вступили в силу.
az aks nodepool add \
--resource-group myResourceGroup \
--cluster-name myAKSCluster \
--name gpunp \
--node-count 1 \
--node-vm-size Standard_NC4as_T4_v3 \
--node-taints sku=gpu:NoSchedule \
--gpu-driver none

  1. Следуйте документации NVIDIA, чтобы установить GPU Operator.

  2. После установки GPU Operator убедитесь, что GPU доступны для планирования, и запустите рабочую нагрузку на GPU.

Замечание

Возможно, потребуется учесть дополнительные факторы при использовании оператора GPU NVIDIA и развертывании на SPOT-инстансах. Пожалуйста, обратитесь к https://github.com/NVIDIA/gpu-operator/issues/577

  • Last updated on