Sdílet prostřednictvím

NCads H100 v5-series

  • Článek

Platí pro: ✔️ Virtuální počítače s Windows s Linuxem ✔️ ✔️ – Flexibilní škálovací sady Uniform Scale Sets ✔️

Virtuální počítače řady NCads H100 v5 jsou novým doplňkem řady Azure GPU. Tuto řadu můžete použít pro reálné Aplikace Azure trénování AI a dávkové odvozování úloh. Virtuální počítače řady NCads H100 v5 využívají GPU NVIDIA H100 NVL a procesory AMD EPYC™ Genoa 4. generace. Virtuální počítače mají až 2 grafické procesory NVIDIA H100 NVL s pamětí 94 GB, až 96 bez vícevláknových procesorů AMD EPYC Genoa a 640 GiB systémové paměti. Tyto virtuální počítače jsou ideální pro úlohy použité umělé inteligence z reálného světa, například:

  • Akcelerované analýzy a databáze GPU
  • Dávkové odvozování s těžkým předzpracováním a po zpracování
  • Trénování modelu autonomy
  • Simulace zásobníku ropy a plynu
  • Vývoj strojového učení (ML)
  • Zpracování videa
  • Webové služby AI/ML

Podporované funkce

Pokud chcete začít pracovat s virtuálními počítači NCads H100 v5, projděte si postup konfigurace a optimalizace úloh HPC, včetně konfigurace ovladačů a sítě.

Kvůli zvýšenému využití vstupně-výstupních operací paměti GPU vyžaduje NCads H100 v5 použití virtuálních počítačů generace 2 a imagí z marketplace. Postupujte podle pokynů k imagím Azure HPC pro konfiguraci.

Velikost Virtuální procesory Paměť (GiB) Dočasné disk NVMe (GiB) GPU Paměť GPU (GiB) Max. datových disků Maximální propustnost disku bez mezipaměti (IOPS nebo MB/s) Maximální šířka pásma síťových adaptérů a šířky pásma sítě (MB/s)
Standard_NC40ads_H100_v5 40 320 3576 0 94 8 100000/3000 2/40,000
Standard_NC80adis_H100_v5 80 640 7152 2 188 16 240000/7000 4/80,000

1 1 GPU = jedna karta H100
2 Místní disky NVMe jsou dočasné. Pokud virtuální počítač zastavíte nebo uvolníte, dojde ke ztrátě dat na těchto discích. Místní disky NVMe nejsou šifrováním služby Azure Storage šifrované, i když povolíte šifrování na hostiteli.

Definice tabulky velikostí

  • Kapacita úložiště je v jednotkách GiB, tj. 1024^3 bajtů. Při porovnávání disků měřených v GB (1000^3 bajtů) s disky měřenými v GiB (1024^3) nezapomeňte, že čísla kapacity uvedená v GiB mohou být menší. Například 1023 GiB = 1098,4 GB.

  • Propustnost disku se měří v počtu V/V operací za sekundu (IOPS) a v MB/s, kde 1 MB/s = 10^6 bajtů/s.

  • Disky pro ukládání dat můžou fungovat v režimu s mezipamětí, nebo bez ní. Pro diskové operace s mezipamětí je možné nastavit mezipaměť na hostiteli jen na čtení nebo na čtení i zápis. Pro diskové operace bez mezipaměti je mezipaměť na hostiteli nastavená na žádná.

  • Informace o tom, jak získat nejlepší výkon úložiště pro virtuální počítače, najdete v tématu Výkon virtuálního počítače a disku.

  • Očekávaná šířka pásma sítě je maximální agregovaná šířka pásma přidělená jednotlivým typům virtuálních počítačů pro všechny síťové karty pro všechny cíle. Další informace najdete v tématu Šířka pásma sítě virtuálních počítačů.

    Horní limity nejsou zaručeny. Omezení nabízejí pokyny pro výběr správného typu virtuálního počítače pro zamýšlenou aplikaci. Skutečný výkon sítě bude záviset na několika faktorech, včetně zahlcení sítě, zatížení aplikace a nastavení sítě. Informace o optimalizaci propustnosti sítě najdete v tématu Optimalizace propustnosti sítě pro virtuální počítače Azure. Abyste dosáhli očekávaného výkonu sítě v Linuxu nebo Windows, možná budete muset vybrat konkrétní verzi nebo optimalizovat virtuální počítač. Další informace najdete v tématu Testování šířky pásma a propustnosti (NTTTCP).

Další velikosti a informace

K odhadu nákladů na virtuální počítače Azure můžete použít cenovou kalkulačku .

Další informace otypech

Další krok