De virtuele machine (VM) uit de ND A100 v4-serie is een nieuwe vlaggenschip-toevoeging aan de Azure GPU-serie. Deze grootten zijn ontworpen voor geavanceerde Deep Learning-training en nauw gekoppelde HPC-workloads voor omhoog schalen en uitschalen.
De ND A100 v4-serie begint met één VM en acht NVIDIA Ampere A100 40 GB Tensor Core GPU's. Op ND A100 v4 gebaseerde implementaties kunnen omhoog worden geschaald naar duizenden GPU's met een bandbreedte van 1,6 TB/s met onderling verbonden bandbreedte per VM. Elke GPU binnen de VM wordt geleverd met een eigen, toegewezen topologie-agnostische 200 GB/s NVIDIA Mellanox HDR InfiniBand-verbinding. Deze verbindingen worden automatisch geconfigureerd tussen VM's die dezelfde virtuele-machineschaalset van Azure bezetten en ondersteunen GPU Direct RDMA.
Elke GPU beschikt over NVLINK 3.0-connectiviteit voor communicatie binnen de VIRTUELE machine met 96 fysieke 2e generatie AMD Epyc™ 7V12 (Rome) CPU-kernen daarachter.
Deze exemplaren bieden uitstekende prestaties voor veel AI-, ML- en analysehulpprogramma's die ondersteuning bieden voor GPU-versnelling 'out-of-the-box', zoals TensorFlow, Pytorch, Caffe, RAPIDS en andere frameworks. Daarnaast ondersteunt de uitschaalbare InfiniBand-interconnect een grote set bestaande AI- en HPC-hulpprogramma's die zijn gebouwd op DE NCCL2-communicatiebibliotheken van NVIDIA voor naadloze clustering van GPU's.
1Tijdelijke schijfsnelheid verschilt vaak tussen RR-bewerkingen (Random Read) en RW (Random Write). RR-bewerkingen zijn doorgaans sneller dan RW-bewerkingen. De RW-snelheid is meestal trager dan de RR-snelheid op serie waarbij alleen de RR-snelheidswaarde wordt vermeld.
De opslagcapaciteit wordt weergegeven in GiB-eenheden of 1024^3 bytes. Wanneer u schijven vergelijkt die zijn gemeten in GB (1000^3 bytes) met schijven die zijn gemeten in GiB (1024^3), moet u er rekening mee houden dat capaciteitsnummers in GiB kleiner kunnen lijken. Bijvoorbeeld 1023 GiB = 1098,4 GB.
De schijfdoorvoer wordt gemeten in I/O-bewerkingen per seconde (IOPS) en MBps, waarbij MBps = 10^6 bytes per seconde.
1Sommige grootten ondersteunen bursting om de schijfprestaties tijdelijk te verhogen. Burst-snelheden kunnen maximaal 30 minuten tegelijk worden bijgehouden.
De opslagcapaciteit wordt weergegeven in GiB-eenheden of 1024^3 bytes. Wanneer u schijven vergelijkt die zijn gemeten in GB (1000^3 bytes) met schijven die zijn gemeten in GiB (1024^3), moet u er rekening mee houden dat capaciteitsnummers in GiB kleiner kunnen lijken. Bijvoorbeeld 1023 GiB = 1098,4 GB.
De schijfdoorvoer wordt gemeten in I/O-bewerkingen per seconde (IOPS) en MBps, waarbij MBps = 10^6 bytes per seconde.
Gegevensschijven kunnen in de modus met of zonder caching werken. Voor schijfbewerkingen met gegevenscaching is de cachemodus van de host ingesteld op ReadOnly of ReadWrite. Voor schijfbewerkingen zonder gegevenscaching is de cachemodus van de host ingesteld op Geen.
Verwachte netwerkbandbreedte is de maximale geaggregeerde bandbreedte die per VM-type is toegewezen voor alle NIC's, voor alle bestemmingen. Zie De netwerkbandbreedte van de virtuele machine voor meer informatie
Maximumlimieten worden niet gegarandeerd. Limieten bieden richtlijnen voor het selecteren van het juiste VM-type voor de beoogde toepassing. De werkelijke netwerkprestaties zijn afhankelijk van verschillende factoren, waaronder netwerkcongestie, toepassingsbelastingen en netwerkinstellingen. Zie Netwerkdoorvoer optimaliseren voor virtuele Azure-machines voor meer informatie over het optimaliseren van netwerkdoorvoer.
Als u de verwachte netwerkprestaties in Linux of Windows wilt bereiken, moet u mogelijk een specifieke versie selecteren of uw VIRTUELE machine optimaliseren. Zie Bandbreedte/doorvoer testen (NTTTCP) voor meer informatie.
Accelerator -gegevens (GPU's, FPGA's, enzovoort) voor elke grootte