NVIDIA GPU-stuurprogramma's installeren op VM's uit de N-serie waarop Windows wordt uitgevoerd

Van toepassing op: ✔️ Virtuele Linux-machines voor Windows-VM's ✔️ ✔️ Flexibele schaalsets

Als u wilt profiteren van de GPU-mogelijkheden van VM's uit de Azure N-serie die worden ondersteund door NVIDIA GPU's, moet u NVIDIA GPU-stuurprogramma's installeren. De NVIDIA GPU-stuurprogrammaextensie installeert de juiste NVIDIA CUDA- of GRID-stuurprogramma's op een VM uit de N-serie. Installeer of beheer de extensie met behulp van Azure Portal of hulpprogramma's zoals Azure PowerShell of Azure Resource Manager-sjablonen. Zie de documentatie over de extensie voor NVIDIA GPU-stuurprogramma's voor ondersteunde besturingssystemen en implementatiestappen.

Als u NVIDIA GPU-stuurprogramma's handmatig wilt installeren, biedt dit artikel ondersteunde besturingssystemen, stuurprogramma's en stappen voor installatie en verificatie. Informatie over het instellen van handmatige stuurprogramma's is ook beschikbaar voor Linux-VM's.

Zie GPU Windows VM-grootten voor basisspecificaties, opslagcapaciteit en schijfdetails.

Ondersteunde besturingssystemen en stuurprogramma’s

NVIDIA Tesla -stuurprogramma's (CUDA)

Notitie

De Azure NVads A10 v5-VM's ondersteunen alleen vGPU 14.1(510.73) of een hogere stuurprogrammaversie. Het vGPU-stuurprogramma voor de A10-SKU is een geïntegreerd stuurprogramma dat ondersteuning biedt voor zowel grafische als rekenworkloads.

NVIDIA Tesla-stuurprogramma's (CUDA) voor NC, NCv2, NCv3, NCasT4_v3, ND en NDv2-serie VM's (optioneel voor NV-serie) worden getest op de besturingssystemen die worden vermeld in de volgende tabel. Het CUDA-stuurprogramma is algemeen en niet specifiek voor Azure. Ga naar de NVIDIA-website voor de nieuwste stuurprogramma's.

Tip

Als alternatief voor handmatige installatie van CUDA-stuurprogramma's op een Windows Server-VM kunt u een installatiekopie van azure Datawetenschap virtual machine implementeren. De DSVM-edities voor Windows Server 2016 installeren NVIDIA CUDA-stuurprogramma's, de CUDA Deep Neural Network Library en andere hulpprogramma's.

Besturingssysteem Stuurprogramma
Windows Server 2019 451.82 (.exe)
Windows Server 2016 451.82 (.exe)

NVIDIA GRID-stuurprogramma's

Notitie

Voor Azure NVads A10 v5-VM's raden we klanten aan altijd de nieuwste stuurprogrammaversie te gebruiken. De nieuwste NVIDIA-hoofdstuurprogrammavertakking(n) is alleen achterwaarts compatibel met de vorige primaire vertakking (n-1). VGPU 17.x is bijvoorbeeld alleen compatibel met vGPU 16.x. Vm's die nog steeds n-2 of lager worden uitgevoerd, kunnen stuurprogrammafouten zien wanneer de meest recente stationsvertakking wordt geïmplementeerd naar Azure-hosts.

NVs_v3 VM's ondersteunen alleen vGPU 16 of lagere stuurprogrammaversie.

Microsoft herdistribueert NVIDIA GRID-stuurprogrammainstallatieprogramma's voor NV, NVv3 en NVads A10 v5-serie vm's die worden gebruikt als virtuele werkstations of voor virtuele toepassingen. Installeer alleen deze GRID-stuurprogramma's op VM's uit de Azure NV-serie, alleen op de besturingssystemen die in de volgende tabel worden vermeld. Deze stuurprogramma's omvatten licenties voor VIRTUELE GRID GPU-software in Azure. U hoeft geen NVIDIA vGPU-softwarelicentieserver in te stellen.

De GRID-stuurprogramma's die door Azure worden gedistribueerd, werken niet op VM's uit de niet-NV-serie, zoals NCv2, NCv3, ND en VM's uit de NDv2-serie. De ene uitzondering is de NCas_T4_V3 VM-serie waarbij de GRID-stuurprogramma's de grafische functies mogelijk maken die vergelijkbaar zijn met de NV-serie.

De NC-serie met Nvidia K80 GPU's biedt geen ondersteuning voor GRID-/grafische toepassingen.

De Nvidia-extensie installeert altijd het nieuwste stuurprogramma.

Voor Windows 11 22H2/21H2, Windows 10 22H2, Server 2019/2022:

De volgende koppelingen naar eerdere versies worden geboden ter ondersteuning van afhankelijkheden van oudere stuurprogrammaversies.

Voor Windows 11, Windows 10 en Server 2019/20

Voor Windows Server 2016 1607, 1709:

  • GRID 14.1 (512.78) (.exe) is het laatst ondersteunde stuurprogramma van NVIDIA. De nieuwere versie 15.x en hoger bieden geen ondersteuning voor Windows Server 2016.

Voor Windows Server 2012 R2:

Notitie

vGPU 15.1/15.2 installatieproces maakt een extra externe aanroep naar ngx.download.nvidia.com. Dit is een onverwachte wijziging in gedrag en NVIDIA schakelt dit standaard uit vanaf vGPU 15.3 of hoger. Werk ondertussen de volgende regkey bij voordat u vGPU 15.1/15.2-stuurprogramma installeert.

De externe aanroep naar ngx uitschakelen.

[HKEY_LOCAL_MACHINE\SOFTWARE\NVIDIA Corporation\Global\NGXCore]

"EnableOTA"=dword:0000000000

Als u de externe aanroep opnieuw wilt inschakelen, wijzigt u de instelling in 1 of verwijdert u de regkey.

Ga naar GitHub voor koppelingen naar alle eerdere nvidia GRID-stuurprogrammaversies.

Installatie van stuurprogramma's

  1. Verbinding maken via Extern bureaublad naar elke VM uit de N-serie.

  2. Download, extraheer en installeer het ondersteunde stuurprogramma voor uw Windows-besturingssysteem.

Nadat het GRID-stuurprogramma op een VIRTUELE machine is geïnstalleerd, is opnieuw opstarten vereist. Na de installatie van het CUDA-stuurprogramma is opnieuw opstarten niet vereist.

Installatie van stuurprogramma controleren

Houd er rekening mee dat het Nvidia-configuratiescherm alleen toegankelijk is met de installatie van het GRID-stuurprogramma. Als u CUDA-stuurprogramma's hebt geïnstalleerd, is het Nvidia-configuratiescherm niet zichtbaar.

U kunt de installatie van stuurprogramma's controleren in Apparaatbeheer. In het volgende voorbeeld ziet u een geslaagde configuratie van de Tesla K80-kaart op een Azure NC-VM.

Eigenschappen van GPU-stuurprogramma

Als u een query wilt uitvoeren op de status van het GPU-apparaat, voert u het opdrachtregelprogramma nvidia-smi uit dat is geïnstalleerd met het stuurprogramma.

  1. Open een opdrachtprompt en ga naar de map C:\Program Files\NVIDIA Corporation\NVSMI .

  2. Voer nvidia-smi uit. Als het stuurprogramma is geïnstalleerd, ziet u uitvoer die er ongeveer als volgt uitziet. De GPU-Util toont 0% tenzij u momenteel een GPU-workload op de VIRTUELE machine uitvoert. De versie van uw stuurprogramma en GPU-gegevens kunnen afwijken van de weergegeven versies.

NVIDIA-apparaatstatus

RDMA-netwerkverbinding

RDMA-netwerkconnectiviteit kan worden ingeschakeld op VM's uit de N-serie die geschikt zijn voor RDMA, zoals NC24r die zijn geïmplementeerd in dezelfde beschikbaarheidsset of in één plaatsingsgroep in een virtuele-machineschaalset. De HpcVmDrivers-extensie moet worden toegevoegd om Windows-netwerkapparaatstuurprogramma's te installeren die RDMA-connectiviteit mogelijk maken. Als u de VM-extensie wilt toevoegen aan een VM uit de N-serie met RDMA, gebruikt u Azure PowerShell-cmdlets voor Azure Resource Manager.

Als u de nieuwste versie 1.1 HpcVMDrivers-extensie wilt installeren op een bestaande RDMA-compatibele VM met de naam myVM in de regio VS - west:

Set-AzVMExtension -ResourceGroupName "myResourceGroup" -Location "westus" -VMName "myVM" -ExtensionName "HpcVmDrivers" -Publisher "Microsoft.HpcCompute" -Type "HpcVmDrivers" -TypeHandlerVersion "1.1"

Zie Extensies en functies van virtuele machines voor Windows voor meer informatie.

Het RDMA-netwerk ondersteunt MPI-verkeer (Message Passing Interface) voor toepassingen die worden uitgevoerd met Microsoft MPI of Intel MPI 5.x.

Volgende stappen

  • Ontwikkelaars die gpu-versnelde toepassingen bouwen voor de NVIDIA Tesla GPU's kunnen ook de nieuwste CUDA Toolkit downloaden en installeren. Zie de CUDA-installatiehandleiding voor meer informatie.