ND A100 v4-serien

  • Artikel

Gäller för: ✔️ Virtuella Linux-datorer ✔️ – flexibla skalningsuppsättningar ✔️ Enhetliga skalningsuppsättningar.

Den virtuella datorn (VM) i ND A100 v4-serien är ett nytt flaggskeppstillägg till Azure GPU-familjen. Den är utformad för avancerad djupinlärningsträning och nära kopplade arbetsbelastningar för uppskalning och utskalning av HPC.

ND A100 v4-serien börjar med en enda virtuell dator och åtta NVIDIA Ampere A100 40GB Tensor Core GPU:er. ND A100 v4-baserade distributioner kan skala upp till tusentals GPU:er med en bandbredd på 1,6 TB per virtuell dator. Varje GPU på den virtuella datorn tillhandahålls med en egen dedikerad, topologi-agnostisk 200 GB/s NVIDIA Mellanox HDR InfiniBand-anslutning. Dessa anslutningar konfigureras automatiskt mellan virtuella datorer som upptar samma VM-skalningsuppsättning och stöder GPUDirect RDMA.

Varje GPU har NVLINK 3.0-anslutning för kommunikation inom den virtuella datorn, och instansen backas upp av 96 fysiska AMD Epyc™ 7V12-processorkärnor i andra generationen (Rom).

Dessa instanser ger utmärkta prestanda för många AI-, ML- och analysverktyg som stöder GPU-acceleration "out-of-the-box", till exempel TensorFlow, Pytorch, Caffe, RAPIDS och andra ramverk. Dessutom stöds den utskalade InfiniBand-anslutningen av en stor uppsättning befintliga AI- och HPC-verktyg som bygger på NVIDIA:s NCCL2-kommunikationsbibliotek för sömlös klustring av GPU:er.

Viktigt!

Om du vill komma igång med virtuella ND A100 v4-datorer läser du konfiguration och optimering av HPC-arbetsbelastningar för steg, inklusive drivrutins- och nätverkskonfiguration. På grund av ökat GPU-minnes-I/O-fotavtryck kräver ND A100 v4 användning av virtuella datorer i generation 2 och marketplace-avbildningar.

Azure stöder Ubuntu 20.04/22.04, RHEL 7.9/8.7/9.3, AlmaLinux 8.8/9.2 och SLES 15 för virtuella ND A100 v4-datorer. På Azure Marketplace finns det erbjudanden om optimerade och förkonfigurerade virtuella Linux-avbildningar för HPC/AI-arbetsbelastningar med en mängd olika HPC-verktyg och bibliotek installerade, och därför rekommenderas de starkt. För närvarande stöds Ubuntu-HPC 20.04/22.04 och AlmaLinux-HPC 8.6/8.7 VM-avbildningar.


Premium Storage: Stöds
Cachelagring i Premium Storage: Stöds
Ultra Diskar: Stöds (Läs mer om tillgänglighet, användning och prestanda)
Direktmigrering: Stöds inte
Minnesbevarande Uppdateringar: Stöds inte
Stöd för VM-generation: Generation 2
Accelererat nätverk: Stöds
Tillfälliga OS-diskar: Stöds
InfiniBand: Stöds, GPUDirect RDMA, 8 x 200 Gigabit HDR
NVIDIA NVLink Interconnect: Stöds
Kapslad virtualisering: Stöds inte

Storlek vCPU Minne: GiB Temp Storage (SSD): GiB GPU GPU-minne: GiB Maximalt antal datadiskar Maximalt icke cachelagrat diskgenomflöde: IOPS / Mbit/s Maximal nätverksbandbredd Maximalt antal nätverkskort
Standard_ND96asr_A100_v4 96 900 6000 8 A100 40 GB GPU:er (NVLink 3.0) 320 32 80,000 / 800 24 000 Mbit/s 8

Definitioner för storlekstabellen

  • Lagringskapaciteten visas i GiB, eller 1 024^3 byte. När du jämför diskar som mäts i GB (1 000^3 byte) med diskar som mäts i GiB (1024^3) kommer du ihåg att kapacitetsnumren som anges i GiB kan verka mindre. Till exempel 1023 GiB = 1098,4 GB.

  • Diskgenomflödet mäts i indata-/utdataåtgärder per sekund (IOPS) och Mbit/s där Mbit/s = 10^6 byte/sek.

  • Datadiskar kan köras i cachelagrat eller icke cachelagrat läge. För diskåtgärder med cachelagrade data anges cacheläget till ReadOnly eller ReadWrite. För diskåtgärder med icke cachelagrade data anges cacheläget till Inget.

  • Information om hur du får bästa lagringsprestanda för dina virtuella datorer finns i Virtuell dator och diskprestanda.

  • Förväntad nätverksbandbredd är den maximala aggregerade bandbredden som allokeras per VM-typ för alla nätverkskort för alla mål. Mer information finns i Nätverksbandbredd för virtuella datorer.

    Övre gränser garanteras inte. Begränsningar ger vägledning för att välja rätt typ av virtuell dator för det avsedda programmet. Den faktiska nätverksprestandan beror på flera faktorer som nätverksbelastning, programbelastning och nätverksinställningar. Information om hur du optimerar nätverkets dataflöde finns i Optimera nätverkets dataflöde för virtuella Azure-datorer. För att uppnå den förväntade nätverksprestandan i Linux eller Windows kan du behöva välja en viss version eller optimera den virtuella datorn. Mer information finns i Bandbredds-/dataflödestestning (NTTTCP).

Andra storlekar och information

Priskalkylator: Priskalkylator

Mer information om disktyper finns i Vilka disktyper är tillgängliga i Azure?

Nästa steg

Läs mer om hur Azure-beräkningsenheter (ACU) kan hjälpa dig att jämföra beräkningsprestanda mellan Azure-SKU:er.