NC A100 v4-serien

  • Artikel

Varning

Den här artikeln refererar till CentOS, en Linux-distribution som närmar sig EOL-status (End Of Life). Överväg att använda och planera i enlighet med detta. Mer information finns i CentOS End Of Life-vägledningen.

Gäller för: ✔️ Virtuella Linux-datorer ✔️ med virtuella Windows-datorer ✔️ – flexibla skalningsuppsättningar ✔️ Enhetliga skalningsuppsättningar

Den virtuella datorn I NC A100 v4-serien (VM) är ett nytt tillägg till Azure GPU-serien. Du kan använda den här serien för verkliga arbetsbelastningar för Azure Applied AI-utbildning och batchinferens.

NC A100 v4-serien drivs av NVIDIA A100 PCIe GPU och tredje generationens AMD EPYC™ 7V13-processorer (Milano). De virtuella datorerna har upp till 4 NVIDIA A100 PCIe GPU:er med 80 GB minne vardera, upp till 96 icke-flertrådade AMD EPYC Milan-processorkärnor och 880 GiB systemminne. Dessa virtuella datorer är idealiska för verkliga tillämpade AI-arbetsbelastningar, till exempel:

  • GPU-accelererad analys och databaser
  • Batch-slutsatsdragning med tung för- och efterbearbetning
  • Självbestämmandemodellträning
  • Simulering av olje- och gasreservoarer
  • Utveckling av maskininlärning (ML)
  • Videobearbetning
  • AI/ML-webbtjänster

Funktioner som stöds

Om du vill komma igång med virtuella NC A100 v4-datorer läser du konfiguration och optimering av HPC-arbetsbelastningar för steg, inklusive drivrutins- och nätverkskonfiguration.

På grund av ökat GPU-minnes-I/O-fotavtryck kräver NC A100 v4 användning av virtuella datorer i generation 2 och marketplace-avbildningar. Azure HPC-avbildningarna rekommenderas, men Azure HPC Ubuntu 20.04 och Azure HPC CentOS 7.9, RHEL 8.8, RHEL 9.2, Windows Server 2019 och Windows Server 2022 stöds.

Storlek vCPU Minne (GiB) Temp Disk1 (GiB) NVMe-diskar2 GPU3 GPU-minne (GiB) Maximalt antal datadiskar Maximalt oanvänd diskdataflöde (IOPS/MBIT/s) Maximal nätverkskort/nätverksbandbredd (Mbit/s)
Standard_NC24ads_A100_v4 24 220 64 960 GB 1 80 8 30000/1000 2/20,000
Standard_NC48ads_A100_v4 48 440 128 2x960 GB 2 160 16 60000/2000 4/40,000
Standard_NC96ads_A100_v4 96 880 256 4x960 GB 4 320 32 120000/4000 8/80,000

1 virtuella datorer i NC A100 v4-serien har en SCSI-baserad temporär resursdisk för användning av växlings-/växlingsfil i operativsystemet. Detta säkerställer att NVMe-enheterna kan vara helt dedikerade till programanvändning. Den här disken är tillfällig och alla data går förlorade vid stopp/frigöring.

2 Lokala NVMe-diskar är tillfälliga, data går förlorade på dessa diskar om du stoppar/frigör den virtuella datorn. Den lokala NVMe-disken kommer som RAM-minne och måste formateras manuellt i den nyligen distribuerade virtuella datorn.

31 GPU = ett A100 80GB PCIe GPU-kort

Definitioner för storlekstabellen

  • Lagringskapaciteten visas i GiB, eller 1 024^3 byte. När du jämför diskar som mäts i GB (1 000^3 byte) med diskar som mäts i GiB (1024^3) kommer du ihåg att kapacitetsnumren som anges i GiB kan verka mindre. Till exempel 1023 GiB = 1098,4 GB.

  • Diskgenomflödet mäts i indata-/utdataåtgärder per sekund (IOPS) och Mbit/s där Mbit/s = 10^6 byte/sek.

  • Datadiskar kan köras i cachelagrat eller icke cachelagrat läge. För diskåtgärder med cachelagrade data anges cacheläget till ReadOnly eller ReadWrite. För diskåtgärder med icke cachelagrade data anges cacheläget till Inget.

  • Information om hur du får bästa lagringsprestanda för dina virtuella datorer finns i Virtuell dator och diskprestanda.

  • Förväntad nätverksbandbredd är den maximala aggregerade bandbredden som allokeras per VM-typ för alla nätverkskort för alla mål. Mer information finns i Nätverksbandbredd för virtuella datorer.

    Övre gränser garanteras inte. Begränsningar ger vägledning för att välja rätt typ av virtuell dator för det avsedda programmet. Den faktiska nätverksprestandan beror på flera faktorer som nätverksbelastning, programbelastning och nätverksinställningar. Information om hur du optimerar nätverkets dataflöde finns i Optimera nätverkets dataflöde för virtuella Azure-datorer. För att uppnå den förväntade nätverksprestandan i Linux eller Windows kan du behöva välja en viss version eller optimera den virtuella datorn. Mer information finns i Bandbredds-/dataflödestestning (NTTTCP).

Andra storlekar och information

Du kan använda priskalkylatorn för att uppskatta dina kostnader för virtuella Azure-datorer.

Mer information om disktyper finns i Vilka disktyper är tillgängliga i Azure?

Gå vidare