NVIDIA GPU-operátor használata az Azure Kubernetes Service-ben (AKS)

Az NVIDIA GPU-kezelő automatizálja a GPU kiépítéséhez szükséges összes NVIDIA-szoftverösszetevő kezelését és üzembe helyezését, beleértve az illesztőprogram telepítését, a Kuberneteshez készült NVIDIA eszköz beépülő modult, az NVIDIA tároló futtatókörnyezetét stb. Mivel az NVIDIA GPU-operátor kezeli ezeket az összetevőket, nem szükséges külön telepíteni az NVIDIA eszköz beépülő modult az AKS-fürtre. Ez azt is jelenti, hogy az NVIDIA GPU-operátor AKS-en való használatához ki kell hagyni az automatikus GPU-illesztő telepítését.

Jótanács

Ha nincs szüksége az NVIDIA GPU-operátor teljes felügyeletére, az AKS által felügyelt GPU-csomópontkészletek (előzetes verzió) telepítik és karbantartják az NVIDIA-illesztőt, a Kubernetes eszköz beépülő modult és a DCGM-metrikák exportőrét.

Fontos

A nyílt forráskódú szoftverek az AKS dokumentációjában és mintáiban szerepelnek. Az Ön által üzembe helyezett szoftverek nem tartoznak az AKS szolgáltatási szintű szerződéseibe, a korlátozott jótállásba és az Azure-támogatásba. Mivel nyílt forráskódú technológiát használ az AKS mellett, tekintse meg a megfelelő közösségek és projektfenntartók által rendelkezésre álló támogatási lehetőségeket a terv kidolgozásához.

A Microsoft felelősséget vállal az AKS-en üzembe helyezhető nyílt forráskódú csomagok elkészítéséért. Ez a felelősség magában foglalja a buildelési, vizsgálati, aláírási, érvényesítési és gyorsjavítási folyamat teljes tulajdonjogát, valamint a tárolólemezképek bináris fájljainak vezérlését. További információért lásd: Az AKS sebezhetőség-kezelése és AKS támogatás lefedettsége.

Mielőtt hozzákezdene

  • Feltételezzük, hogy létezik egy AKS-klasztere. Ha nem rendelkezik fürttel, hozzon létre egyet az Azure CLI, Azure PowerShell vagy az Azure Portal használatával.
  • Az --gpu-driver mező beállításához az Azure CLI 2.72.2-es vagy újabb verzióját kell telepítenie. A verzió azonosításához futtassa a következőt: az --version. Ha telepítenie vagy frissítenie kell, tekintse meg az Azure CLI telepítését.

Megjegyzés:

GPU-val felszerelt virtuális gépek speciális hardvereket tartalmaznak, amelyek magasabb áron érhetők el, és a régiók közötti elérhetőségeik is változhatnak. További információkért tekintse meg a díjszabási eszközt és a régió rendelkezésre állását.

Korlátozások

Szerezze be a klaszter hitelesítő adatait.

Szerezze meg az AKS-fürt hitelesítő adatait a az aks get-credentials paranccsal. Az alábbi példaparancs a fürt myAKSCluster hitelesítő adatait kéri le az myResourceGroup erőforráscsoportban.

az aks get-credentials --resource-group myResourceGroup --name myAKSCluster

Megjegyzés:

Az NVIDIA GPU-operátor nem kompatibilis ugyanazon AKS-fürt több operációsrendszer-verziójával.

  1. Hagyja ki az automatikus GPU-illesztőprogram-telepítést úgy, hogy létrehoz egy NVIDIA GPU-kompatibilis csomópontkészletet a az aks nodepool add parancs használatával, és az API-mezőt --gpu-driver az értékre noneállítja. Ha ezt az API-mezőt a csomópontkészlet létrehozása során állítja none be, az kihagyja az alapértelmezett GPU-illesztőprogram telepítését. Példa: A GPU-illesztő telepítésének kihagyása. Ez a beállítás nem módosítja a meglévő csomópontokat. A csomópontkészletet nullára skálázhatja, majd ismét felfelé skálázhatja a változtatás hatálybalépéséhez.
az aks nodepool add \
--resource-group myResourceGroup \
--cluster-name myAKSCluster \
--name gpunp \
--node-count 1 \
--node-vm-size Standard_NC4as_T4_v3 \
--node-taints sku=gpu:NoSchedule \
--gpu-driver none

  1. A GPU-operátor telepítéséhez kövesse az NVIDIA dokumentációját.

  2. A GPU Operator telepítése után ellenőrizze, hogy a GPU-k ütemezhetők-e, és futtasson GPU-munkaterhelést.

Megjegyzés:

Az NVIDIA GPU-operátor használata és a SPOT-példányokon való üzembe helyezés során további szempontokat is figyelembe kell venni. További információ: https://github.com/NVIDIA/gpu-operator/issues/577

  • Last updated on