De virtuele machine (VM) uit de NDm A100 v4-serie is een nieuwe vlaggenschip-toevoeging aan de Azure GPU-serie. Deze grootten zijn ontworpen voor geavanceerde Deep Learning-training en nauw gekoppelde HPC-workloads voor omhoog schalen en uitschalen.
De NDm A100 v4-serie begint met één VM en acht NVIDIA Ampere A100 80 GB Tensor Core GPU's. Op NDm A100 v4 gebaseerde implementaties kunnen worden geschaald naar duizenden GPU's met een bandbreedte van 1,6 TB/s met onderling verbonden bandbreedte per VM. Elke GPU binnen de VM wordt geleverd met een eigen, toegewezen topologie-agnostische 200 GB/s NVIDIA Mellanox HDR InfiniBand-verbinding. Deze verbindingen worden automatisch geconfigureerd tussen VM's die dezelfde virtuele-machineschaalset van Azure bezetten en ondersteunen GPU Direct RDMA.
Elke GPU beschikt over NVLINK 3.0-connectiviteit voor communicatie binnen de VIRTUELE machine met 96 fysieke 2e generatie AMD Epyc™ 7V12 (Rome) CPU-kernen daarachter.
Deze exemplaren bieden uitstekende prestaties voor veel AI-, ML- en analysehulpprogramma's die ondersteuning bieden voor GPU-versnelling 'out-of-the-box', zoals TensorFlow, Pytorch, Caffe, RAPIDS en andere frameworks. Daarnaast ondersteunt de uitschaalbare InfiniBand-interconnect een grote set bestaande AI- en HPC-hulpprogramma's die zijn gebouwd op DE NCCL2-communicatiebibliotheken van NVIDIA voor naadloze clustering van GPU's.
Hostspecificaties
| Onderdeel |
Hoeveelheid
Aantal eenheden |
Specificaties
SKU-id, prestatie-eenheden, enzovoort. |
| Verwerker |
96 vCPU's |
AMD EPYC 7V12 (Rome) [x86-64] |
| Geheugen |
1900 GiB |
|
| Lokale opslag |
1 schijf |
6400 GiB |
| Externe opslag |
32 schijven |
80000 IOPS
800 MBps |
| Netwerk |
8 NIC's |
24000 Mbps |
| Versnellers |
8 GPU's |
Nvidia A100 GPU (80 GB) |
Functieondersteuning
Premium Storage: ondersteund
Premium Storage-caching: ondersteund
Livemigratie: niet ondersteund
Updates met geheugenbehoud: niet ondersteund
VM's van de tweede generatie: ondersteund
VM's van de eerste generatie: niet ondersteund
Versneld netwerken: ondersteund
Tijdelijke besturingssysteemschijf: ondersteund
Geneste virtualisatie: niet ondersteund
Grootten in reeks
vCPU's (qty.) en geheugen voor elke grootte
| Groottenaam |
vCPU's (qty.) |
Geheugen (GB) |
| Standard_ND96amsr_A100_v4 |
96 |
1900 |
Basisinformatie over VM's
Lokale (tijdelijke) opslaggegevens voor elke grootte
| Groottenaam |
Max Temp Storage Disks (qty.) |
Tijdelijke schijfgrootte (GiB) |
| Standard_ND96amsr_A100_v4 |
1 |
6400 |
Opslagresources
Tabeldefinities
-
1Tijdelijke schijfsnelheid verschilt vaak tussen RR-bewerkingen (Random Read) en RW (Random Write). RR-bewerkingen zijn doorgaans sneller dan RW-bewerkingen. De RW-snelheid is meestal trager dan de RR-snelheid op serie waarbij alleen de RR-snelheidswaarde wordt vermeld.
- De opslagcapaciteit wordt weergegeven in GiB-eenheden of 1024^3 bytes. Wanneer u schijven vergelijkt die zijn gemeten in GB (1000^3 bytes) met schijven die zijn gemeten in GiB (1024^3), moet u er rekening mee houden dat capaciteitsnummers in GiB kleiner kunnen lijken. Bijvoorbeeld 1023 GiB = 1098,4 GB.
- De schijfdoorvoer wordt gemeten in I/O-bewerkingen per seconde (IOPS) en MBps, waarbij MBps = 10^6 bytes per seconde.
- Zie de prestaties van virtuele machines en schijven voor meer informatie over de beste opslagprestaties voor uw VM's.
Externe (niet-in cache opgeslagen) opslaggegevens voor elke grootte
| Groottenaam |
Max. Externe opslagschijven (kwy.) |
IOPS voor schijf zonder cache |
Schijfsnelheid zonder cache (MBps) |
| Standard_ND96amsr_A100_v4 |
32 |
80.000 |
800 |
Opslagresources
Tabeldefinities
-
1Sommige grootten ondersteunen bursting om de schijfprestaties tijdelijk te verhogen. Burst-snelheden kunnen maximaal 30 minuten tegelijk worden bijgehouden.
-
2Speciale opslag verwijst naar Ultra Disk of Premium SSD v2-opslag .
- De opslagcapaciteit wordt weergegeven in GiB-eenheden of 1024^3 bytes. Wanneer u schijven vergelijkt die zijn gemeten in GB (1000^3 bytes) met schijven die zijn gemeten in GiB (1024^3), moet u er rekening mee houden dat capaciteitsnummers in GiB kleiner kunnen lijken. Bijvoorbeeld 1023 GiB = 1098,4 GB.
- De schijfdoorvoer wordt gemeten in I/O-bewerkingen per seconde (IOPS) en MBps, waarbij MBps = 10^6 bytes per seconde.
- Gegevensschijven kunnen in de modus met of zonder caching werken. Voor schijfbewerkingen met gegevenscaching is de cachemodus van de host ingesteld op ReadOnly of ReadWrite. Voor schijfbewerkingen zonder gegevenscaching is de cachemodus van de host ingesteld op Geen.
- Zie de prestaties van virtuele machines en schijven voor meer informatie over de beste opslagprestaties voor uw VM's.
Netwerkinterface-informatie voor elke grootte
| Groottenaam |
Maximum aantal NIC's (qty.) |
Maximale bandbreedte (Mbps) |
| Standard_ND96amsr_A100_v4 |
8 |
24000 |
Netwerkresources
Tabeldefinities
- Verwachte netwerkbandbreedte is de maximale geaggregeerde bandbreedte die per VM-type is toegewezen voor alle NIC's, voor alle bestemmingen. Zie De netwerkbandbreedte van de virtuele machine voor meer informatie
- Maximumlimieten worden niet gegarandeerd. Limieten bieden richtlijnen voor het selecteren van het juiste VM-type voor de beoogde toepassing. De werkelijke netwerkprestaties zijn afhankelijk van verschillende factoren, waaronder netwerkcongestie, toepassingsbelastingen en netwerkinstellingen. Zie Netwerkdoorvoer optimaliseren voor virtuele Azure-machines voor meer informatie over het optimaliseren van netwerkdoorvoer.
- Als u de verwachte netwerkprestaties in Linux of Windows wilt bereiken, moet u mogelijk een specifieke versie selecteren of uw VIRTUELE machine optimaliseren. Zie Bandbreedte/doorvoer testen (NTTTCP) voor meer informatie.
Accelerator -gegevens (GPU's, FPGA's, enzovoort) voor elke grootte
| Groottenaam |
Accelerators (kwy.) |
Accelerator-Memory (GB) |
| Standard_ND96amsr_A100_v4 |
8 |
80 |
Lijst met alle beschikbare grootten: Grootten
Prijscalculator: Prijscalculator
Informatie over schijftypen: schijftypen
Volgende stappen
Profiteer van de nieuwste prestaties en functies die beschikbaar zijn voor uw workloads door de grootte van een virtuele machine te wijzigen.
Gebruik de intern ontworpen ARM-processors van Microsoft met Azure Cobalt-VM's.
Meer informatie over het bewaken van virtuele Azure-machines.