serien NDasrA100_v4 storlekar

Den virtuella datorn (VM) i ND A100 v4-serien är ett nytt flaggskeppstillägg till Azure GPU-familjen. Dessa storlekar är utformade för avancerad djupinlärningsträning och nära kopplade arbetsbelastningar för uppskalning och utskalning av HPC.

ND A100 v4-serien börjar med en enda virtuell dator och åtta NVIDIA Ampere A100 40GB Tensor Core GPU:er. ND A100 v4-baserade distributioner kan skala upp till tusentals GPU:er med en bandbredd på 1,6 TB per virtuell dator. Varje GPU på den virtuella datorn tillhandahålls med en egen dedikerad, topologi-agnostisk 200 GB/s NVIDIA Mellanox HDR InfiniBand-anslutning. Dessa anslutningar konfigureras automatiskt mellan virtuella datorer som upptar samma Azure Virtual Machine Scale Set och har stöd för GPU Direct RDMA.

Varje GPU har NVLINK 3.0-anslutning för kommunikation inom den virtuella datorn med 96 fysiska AMD Epyc™ 7V12-processorkärnor i andra generationen (Rom) bakom sig.

Dessa instanser ger utmärkta prestanda för många AI-, ML- och analysverktyg som stöder GPU-acceleration "out-of-the-box", till exempel TensorFlow, Pytorch, Caffe, RAPIDS och andra ramverk. Dessutom stöder den utskalade InfiniBand-anslutningen en stor uppsättning befintliga AI- och HPC-verktyg som bygger på NVIDIA:s NCCL2-kommunikationsbibliotek för sömlös klustring av GPU:er.

Värdspecifikationer

Delvis	Kvantitet Antal enheter	Glasögon SKU-ID, prestandaenheter osv.
Processor	96 vCPU:er	AMD EPYC 7V12 (Rom) [x86-64]
Minne	900 GiB
Lokal lagring	1 disk	6000 GiB
Fjärrlagring	32 diskar	80000 IOPS 800 Mbit/s
Nätverk	8 nätverkskort	24 000 Mbit/s
Acceleratorer	8 GPU:er	Nvidia A100 GPU (40 GB)

Funktionsstöd

Premium Storage: Stöds
Cachelagring i Premium Storage: Stöds
Direktmigrering: Stöds inte
Minnesbevarande uppdateringar: Stöds inte
Virtuella datorer i generation 2: Stöds
Virtuella datorer i generation 1: Stöds inte
Accelererat nätverk: Stöds
Tillfälliga OS-diskar: Stöds
Kapslad virtualisering: Stöds inte

Storlekar i serie

Grunder

vCPU:er (Qty.) och Minne för varje storlek

Storleksnamn	vCPU:er (Qty.)	Minne (GB)
Standard_ND96asr_v4	96	900

Grundläggande resurser för virtuella datorer

• Kontrollera vCPU-kvoter

Lokal lagring

Lokal (temp) lagringsinformation för varje storlek

Storleksnamn	Maximalt antal temporära lagringsdiskar (Qty.)	Temporär Diskstorlek (GiB)
Standard_ND96asr_v4	1	6000

Lagringsresurser

• Introduktion till Azure-hanterade diskar
• Azure-hanterade disktyper
• Dela en Hanterad Azure-disk

Tabelldefinitioner

• ¹Temp diskhastigheten skiljer sig ofta mellan RR-åtgärder (slumpmässig läsning) och RW-åtgärder (slumpmässig skrivning). RR-åtgärder är vanligtvis snabbare än RW-åtgärder. RW-hastigheten är vanligtvis långsammare än RR-hastigheten i serien där endast RR-hastighetsvärdet anges.
• Lagringskapaciteten visas i GiB, eller 1 024^3 byte. När du jämför diskar som mäts i GB (1 000^3 byte) med diskar som mäts i GiB (1024^3) kommer du ihåg att kapacitetsnumren som anges i GiB kan verka mindre. Till exempel 1023 GiB = 1098,4 GB.
• Diskgenomflödet mäts i indata-/utdataåtgärder per sekund (IOPS) och Mbit/s där Mbit/s = 10^6 byte/sek.
• Information om hur du får bästa lagringsprestanda för dina virtuella datorer finns i Virtuell dator och diskprestanda.

Fjärrlagring

Fjärrlagringsinformation (ej tillgänglig) för varje storlek

Storleksnamn	Maximalt antal fjärrlagringsdiskar (Qty.)	Oanvänd disk-IOPS	Okopplad diskhastighet (Mbit/s)
Standard_ND96asr_v4	32	80000	800

Lagringsresurser

• Introduktion till Azure-hanterade diskar
• Azure-hanterade disktyper
• Dela en Hanterad Azure-disk

Tabelldefinitioner

• ¹Vissa storlekar stöder bursting för att tillfälligt öka prestandan på disken. Bursthastigheter kan upprätthållas i upp till 30 minuter åt gången.
• ²Speciallagring avser antingen Ultra Disk eller Premium SSD v2-lagring.
• Lagringskapaciteten visas i GiB, eller 1 024^3 byte. När du jämför diskar som mäts i GB (1 000^3 byte) med diskar som mäts i GiB (1024^3) kommer du ihåg att kapacitetsnumren som anges i GiB kan verka mindre. Till exempel 1023 GiB = 1098,4 GB.
• Diskgenomflödet mäts i indata-/utdataåtgärder per sekund (IOPS) och Mbit/s där Mbit/s = 10^6 byte/sek.
• Datadiskar kan köras i cachelagrat eller icke cachelagrat läge. För diskåtgärder med cachelagrade data anges cacheläget till ReadOnly eller ReadWrite. För diskåtgärder med icke cachelagrade data anges cacheläget till Inget.
• Information om hur du får bästa lagringsprestanda för dina virtuella datorer finns i Virtuell dator och diskprestanda.

Nätverk

Information om nätverksgränssnitt för varje storlek

Storleksnamn	Maximalt antal nätverkskort (Qty.)	Maximal bandbredd (Mbit/s)
Standard_ND96asr_v4	8	24000

Nätverksresurser

• Virtuella nätverk och virtuella datorer i Azure
• Bandbredd för virtuella datorer

Tabelldefinitioner

• Förväntad nätverksbandbredd är den maximala aggregerade bandbredden som allokeras per VM-typ för alla nätverkskort för alla mål. Mer information finns i Nätverksbandbredd för virtuella datorer
• Övre gränser garanteras inte. Begränsningar ger vägledning för att välja rätt typ av virtuell dator för det avsedda programmet. Den faktiska nätverksprestandan beror på flera faktorer som nätverksbelastning, programbelastning och nätverksinställningar. Information om hur du optimerar nätverkets dataflöde finns i Optimera nätverkets dataflöde för virtuella Azure-datorer.
• För att uppnå den förväntade nätverksprestandan i Linux eller Windows kan du behöva välja en viss version eller optimera den virtuella datorn. Mer information finns i Bandbredds-/dataflödestestning (NTTTCP).

Acceleratorer

Acceleratorinformation (GPU:er, FPGA:er osv.) för varje storlek

Storleksnamn	Acceleratorer (Qty.)	Acceleratorminne (GB)
Standard_ND96asr_v4	8	320

Annan storleksinformation

Lista över alla tillgängliga storlekar: Storlekar

Priskalkylator: Priskalkylator

Information om disktyper: Disktyper

Nästa steg

Dra nytta av de senaste prestanda och funktioner som är tillgängliga för dina arbetsbelastningar genom att ändra storleken på en virtuell dator.

Använd Microsofts egendesignade ARM-processorer med virtuella Azure Cobalt-datorer.

Lär dig hur du övervakar virtuella Azure-datorer.