NVIDIA GPU-stuurprogramma's installeren op VM's uit de N-serie waarop Windows wordt uitgevoerd

Van toepassing op: ✔️ Virtuele Linux-machines voor Windows-VM's ✔️ ✔️ Flexibele schaalsets

Als u wilt profiteren van de GPU-mogelijkheden van VM's uit de Azure N-serie die worden ondersteund door NVIDIA GPU's, moet u NVIDIA GPU-stuurprogramma's installeren. De NVIDIA GPU-stuurprogrammaextensie installeert de juiste NVIDIA CUDA- of GRID-stuurprogramma's op een VM uit de N-serie. Installeer of beheer de extensie met behulp van Azure Portal of hulpprogramma's zoals Azure PowerShell of Azure Resource Manager-sjablonen. Zie de documentatie over de extensie voor NVIDIA GPU-stuurprogramma's voor ondersteunde besturingssystemen en implementatiestappen.

Als u NVIDIA GPU-stuurprogramma's handmatig wilt installeren, biedt dit artikel ondersteunde besturingssystemen, stuurprogramma's en stappen voor installatie en verificatie. Informatie over het instellen van handmatige stuurprogramma's is ook beschikbaar voor Linux-VM's.

Zie GPU Windows VM-grootten voor basisspecificaties, opslagcapaciteit en schijfdetails.

Ondersteunde besturingssystemen en stuurprogramma’s

NVIDIA Tesla -stuurprogramma's (CUDA)

Notitie

De Azure NVads A10 v5-VM's ondersteunen alleen vGPU 16.x(536.25) of een hogere stuurprogrammaversie. Het vGPU-stuurprogramma voor de A10-SKU is een geïntegreerd stuurprogramma dat ondersteuning biedt voor zowel grafische als rekenworkloads.

NVIDIA Tesla-stuurprogramma's (CUDA) voor alle VM's uit de NC*- en ND-serie (optioneel voor NV-serie) zijn algemeen en niet specifiek voor Azure. Ga naar de NVIDIA-website voor de nieuwste stuurprogramma's.

Tip

Als alternatief voor handmatige installatie van CUDA-stuurprogramma's op een Windows Server-VM kunt u een installatiekopie van azure Datawetenschap virtual machine implementeren. De DSVM-edities voor Windows Server 2016 installeren NVIDIA CUDA-stuurprogramma's, de CUDA Deep Neural Network Library en andere hulpprogramma's.

NVIDIA GRID/vGPU-stuurprogramma's

Notitie

Voor Azure NVads A10 v5-VM's raden we klanten aan altijd de nieuwste stuurprogrammaversie te gebruiken. De nieuwste NVIDIA-hoofdstuurprogrammavertakking(n) is alleen achterwaarts compatibel met de vorige primaire vertakking (n-1). VGPU 17.x is bijvoorbeeld alleen compatibel met vGPU 16.x. Vm's die nog steeds n-2 of lager worden uitgevoerd, kunnen stuurprogrammafouten zien wanneer de meest recente stationsvertakking wordt geïmplementeerd naar Azure-hosts.

NVs_v3 VM's ondersteunen alleen vGPU 16 of lagere stuurprogrammaversie.

Windows Server 2016-ondersteuning gaat weg van vGPU 17.x en hoger.

Microsoft herdistribueert NVIDIA GRID-stuurprogrammainstallatieprogramma's voor NV, NVv3 en NVads A10 v5-serie vm's die worden gebruikt als virtuele werkstations of voor virtuele toepassingen. Installeer alleen deze GRID-stuurprogramma's op VM's uit de Azure NV-serie, alleen op de besturingssystemen die in de volgende tabel worden vermeld. Deze stuurprogramma's omvatten licenties voor VIRTUELE GRID GPU-software in Azure. U hoeft geen NVIDIA vGPU-softwarelicentieserver in te stellen.

De GRID-stuurprogramma's die door Azure worden gedistribueerd, werken niet op VM's uit de niet-NV-serie, zoals NCv2, NCv3, ND en VM's uit de NDv2-serie. De ene uitzondering is de NCas_T4_V3 VM-serie waarbij de GRID-stuurprogramma's de grafische functies mogelijk maken die vergelijkbaar zijn met de NV-serie.

De Nvidia-extensie installeert altijd het nieuwste stuurprogramma.

Voor Windows 11 tot en met 23H2, Windows 10 tot en met 22H2, Server 2019/2022:

• RASTER 17.3 (552.74) (.exe)

De volgende koppelingen naar eerdere versies worden geboden ter ondersteuning van afhankelijkheden van oudere stuurprogrammaversies.

Voor Windows Server 2016 1607, 1709:

• GRID 14.1 (512.78) (.exe) is het laatst ondersteunde stuurprogramma van NVIDIA. De nieuwere versie 15.x en hoger bieden geen ondersteuning voor Windows Server 2016.

Voor Windows Server 2012 R2:

• RASTER 13.1 (472.39) (.exe)
• RASTER 13 (471,68) (.exe)

Ga naar GitHub voor koppelingen naar alle eerdere nvidia GRID-stuurprogrammaversies.

Installatie van stuurprogramma's

1. Maak via Extern bureaublad verbinding met elke VM uit de N-serie.

2. Download, extraheer en installeer het ondersteunde stuurprogramma voor uw Windows-besturingssysteem.

Nadat het GRID-stuurprogramma op een VIRTUELE machine is geïnstalleerd, is opnieuw opstarten vereist. Na de installatie van het CUDA-stuurprogramma is opnieuw opstarten niet vereist.

Installatie van stuurprogramma controleren

Houd er rekening mee dat het Nvidia-configuratiescherm alleen toegankelijk is met de installatie van het GRID-stuurprogramma. Als u CUDA-stuurprogramma's hebt geïnstalleerd, is het Nvidia-configuratiescherm niet zichtbaar.

U kunt de installatie van stuurprogramma's controleren in Apparaatbeheer. In het volgende voorbeeld ziet u een geslaagde configuratie van de Tesla K80-kaart op een Azure NC-VM.

Als u een query wilt uitvoeren op de status van het GPU-apparaat, voert u het opdrachtregelprogramma nvidia-smi uit dat is geïnstalleerd met het stuurprogramma.

1. Open een opdrachtprompt en ga naar de map C:\Program Files\NVIDIA Corporation\NVSMI .

2. Voer nvidia-smi uit. Als het stuurprogramma is geïnstalleerd, ziet u uitvoer die er ongeveer als volgt uitziet. De GPU-Util toont 0% tenzij u momenteel een GPU-workload op de VIRTUELE machine uitvoert. De versie van uw stuurprogramma en GPU-gegevens kunnen afwijken van de weergegeven versies.

RDMA-netwerkverbinding

RDMA-netwerkconnectiviteit kan worden ingeschakeld op VM's uit de N-serie die geschikt zijn voor RDMA, zoals NC24r die zijn geïmplementeerd in dezelfde beschikbaarheidsset of in één plaatsingsgroep in een virtuele-machineschaalset. De HpcVmDrivers-extensie moet worden toegevoegd om Windows-netwerkapparaatstuurprogramma's te installeren die RDMA-connectiviteit mogelijk maken. Als u de VM-extensie wilt toevoegen aan een VM uit de N-serie met RDMA, gebruikt u Azure PowerShell-cmdlets voor Azure Resource Manager.

Als u de nieuwste versie 1.1 HpcVMDrivers-extensie wilt installeren op een bestaande RDMA-compatibele VM met de naam myVM in de regio VS - west:

Set-AzVMExtension -ResourceGroupName "myResourceGroup" -Location "westus" -VMName "myVM" -ExtensionName "HpcVmDrivers" -Publisher "Microsoft.HpcCompute" -Type "HpcVmDrivers" -TypeHandlerVersion "1.1"

Zie Extensies en functies van virtuele machines voor Windows voor meer informatie.

Het RDMA-netwerk ondersteunt MPI-verkeer (Message Passing Interface) voor toepassingen die worden uitgevoerd met Microsoft MPI of Intel MPI 5.x.

Volgende stappen

• Ontwikkelaars die gpu-versnelde toepassingen bouwen voor de NVIDIA Tesla GPU's kunnen ook de nieuwste CUDA Toolkit downloaden en installeren. Zie de CUDA-installatiehandleiding voor meer informatie.