Dela via

NCads H100 v5-serien

  • Artikel

Gäller för: ✔️ Virtuella Linux-datorer ✔️ med virtuella Windows-datorer ✔️ – flexibla skalningsuppsättningar ✔️ Enhetliga skalningsuppsättningar

Virtuella datorer i NCads H100 v5-serien (VM) är ett nytt tillägg till Azure GPU-familjen. Du kan använda den här serien för verkliga arbetsbelastningar för Azure Applied AI-utbildning och batchinferens. De virtuella datorerna i NCads H100 v5-serien drivs av NVIDIA H100 NVL GPU och 4:e generationens AMD EPYC™ Genoa-processorer. De virtuella datorerna har upp till 2 NVIDIA H100 NVL GPU:er med 94 GB minne vardera, upp till 96 icke-flertrådade AMD EPYC Genoa-processorkärnor och 640 GiB systemminne. Dessa virtuella datorer är idealiska för verkliga tillämpade AI-arbetsbelastningar, till exempel:

  • GPU-accelererad analys och databaser
  • Batch-slutsatsdragning med tung för- och efterbearbetning
  • Självbestämmandemodellträning
  • Simulering av olje- och gasreservoarer
  • Utveckling av maskininlärning (ML)
  • Videobearbetning
  • AI/ML-webbtjänster

Funktioner som stöds

Om du vill komma igång med virtuella NCads H100 v5-datorer läser du konfiguration och optimering av HPC-arbetsbelastningar för steg, inklusive drivrutins- och nätverkskonfiguration.

På grund av ökat GPU-minnes-I/O-fotavtryck kräver NCads H100 v5 användning av virtuella datorer i generation 2 och marketplace-avbildningar. Följ anvisningarna i Azure HPC-avbildningar för konfiguration.

Storlek vCPU Minne (GiB) Temp Disk NVMe (GiB) GPU GPU-minne (GiB) Maximalt antal datadiskar Maximalt oanvänd diskdataflöde (IOPS/MBIT/s) Maximal nätverkskort/nätverksbandbredd (Mbit/s)
Standard_NC40ads_H100_v5 40 320 3576 1 94 8 100000/3000 2/40,000
Standard_NC80adis_H100_v5 80 640 7152 2 188 16 240000/7000 4/80,000

1 1 GPU = ett H100-kort
2 Lokala NVMe-diskar är tillfälliga. Data går förlorade på dessa diskar om du stoppar/frigör den virtuella datorn. Lokala NVMe-diskar krypteras inte av Azure Storage-kryptering, även om du aktiverar kryptering på värden.

Definitioner för storlekstabellen

  • Lagringskapaciteten visas i GiB, eller 1 024^3 byte. När du jämför diskar som mäts i GB (1 000^3 byte) med diskar som mäts i GiB (1024^3) kommer du ihåg att kapacitetsnumren som anges i GiB kan verka mindre. Till exempel 1023 GiB = 1098,4 GB.

  • Diskgenomflödet mäts i indata-/utdataåtgärder per sekund (IOPS) och Mbit/s där Mbit/s = 10^6 byte/sek.

  • Datadiskar kan köras i cachelagrat eller icke cachelagrat läge. För diskåtgärder med cachelagrade data anges cacheläget till ReadOnly eller ReadWrite. För diskåtgärder med icke cachelagrade data anges cacheläget till Inget.

  • Information om hur du får bästa lagringsprestanda för dina virtuella datorer finns i Virtuell dator och diskprestanda.

  • Förväntad nätverksbandbredd är den maximala aggregerade bandbredden som allokeras per VM-typ för alla nätverkskort för alla mål. Mer information finns i Nätverksbandbredd för virtuella datorer.

    Övre gränser garanteras inte. Begränsningar ger vägledning för att välja rätt typ av virtuell dator för det avsedda programmet. Den faktiska nätverksprestandan beror på flera faktorer som nätverksbelastning, programbelastning och nätverksinställningar. Information om hur du optimerar nätverkets dataflöde finns i Optimera nätverkets dataflöde för virtuella Azure-datorer. För att uppnå den förväntade nätverksprestandan i Linux eller Windows kan du behöva välja en viss version eller optimera den virtuella datorn. Mer information finns i Bandbredds-/dataflödestestning (NTTTCP).

Andra storlekar och information

Du kan använda priskalkylatorn för att uppskatta dina kostnader för virtuella Azure-datorer.

Mer information om disktyper finns i Vilka disktyper är tillgängliga i Azure?

Gå vidare