NC A100 v4-series

  • Článek

Upozornění

Tento článek odkazuje na CentOS, linuxovou distribuci, která se blíží stavu Konec životnosti (EOL). Zvažte své použití a odpovídajícím způsobem naplánujte. Další informace najdete v doprovodných materiálech CentOS End Of Life.

Platí pro: ✔️ Virtuální počítače s Windows s Linuxem ✔️ ✔️ – Flexibilní škálovací sady Uniform Scale Sets ✔️

Virtuální počítač řady NC A100 v4 je novým doplňkem řady Azure GPU. Tuto řadu můžete použít pro reálné Aplikace Azure trénování AI a dávkové odvozování úloh.

Řada NC A100 v4 je poháněna procesory NVIDIA A100 PCIe GPU a třetí generace procesorů AMD EPYC™ 7V13 (Milán). Virtuální počítače mají až 4 grafické procesory PCIe A100 PCIe s pamětí 80 GB až 96 bez vícevláknového procesoru AMD EPYC Milan a 880 GiB systémové paměti. Tyto virtuální počítače jsou ideální pro úlohy použité umělé inteligence z reálného světa, například:

  • Akcelerované analýzy a databáze GPU
  • Dávkové odvozování s těžkým předzpracováním a po zpracování
  • Trénování modelu autonomy
  • Simulace zásobníku ropy a plynu
  • Vývoj strojového učení (ML)
  • Zpracování videa
  • Webové služby AI/ML

Podporované funkce

Pokud chcete začít s virtuálními počítači NC A100 v4, projděte si postup konfigurace a optimalizace úloh HPC, včetně konfigurace ovladačů a sítě.

Kvůli zvýšenému využití vstupně-výstupních operací paměti GPU vyžaduje NC A100 v4 použití virtuálních počítačů generace 2 a imagí z marketplace. I když se doporučuje image Azure HPC , podporují se image Azure HPC Ubuntu 20.04 a Azure HPC CentOS 7.9, RHEL 8.8, RHEL 9.2, Windows Server 2019 a Windows Server 2022.

Velikost Virtuální procesory Paměť (GiB) Dočasný disk1 (GiB) DiskyNVMe 2 GPU3 Paměť GPU (GiB) Max. datových disků Maximální propustnost disku bez mezipaměti (IOPS nebo MB/s) Maximální šířka pásma síťových adaptérů a šířky pásma sítě (MB/s)
Standard_NC24ads_A100_v4 24 220 64 960 GB 0 80 8 30000/1000 2/20,000
Standard_NC48ads_A100_v4 48 440 128 2x960 GB 2 160 16 60000/2000 4/40,000
Standard_NC96ads_A100_v4 96 880 256 4x960 GB 4 320 32 120000/4000 8/80,000

Virtuální počítače řady 1 NC A100 v4 mají standardní disk dočasného prostředku založeného na standardu SCSI pro stránkování/prohození souborů operačního systému. Tím se zajistí, že jednotky NVMe mohou být plně vyhrazené pro použití aplikace. Tento disk je dočasný a všechna data budou ztracena při zastavení nebo zrušení přidělení.

2 Místní disky NVMe jsou dočasné, data na těchto discích budou ztracena, pokud virtuální počítač zastavíte nebo uvolníte. Místní disk NVMe přichází jako paměť RAM a musí být ručně naformátovaný v nově nasazených virtuálních počítačích.

31 GPU = jedna karta A100 80 GB PCIe GPU

Definice tabulky velikostí

  • Kapacita úložiště je v jednotkách GiB, tj. 1024^3 bajtů. Při porovnávání disků měřených v GB (1000^3 bajtů) s disky měřenými v GiB (1024^3) nezapomeňte, že čísla kapacity uvedená v GiB mohou být menší. Například 1023 GiB = 1098,4 GB.

  • Propustnost disku se měří v počtu V/V operací za sekundu (IOPS) a v MB/s, kde 1 MB/s = 10^6 bajtů/s.

  • Disky pro ukládání dat můžou fungovat v režimu s mezipamětí, nebo bez ní. Pro diskové operace s mezipamětí je možné nastavit mezipaměť na hostiteli jen na čtení nebo na čtení i zápis. Pro diskové operace bez mezipaměti je mezipaměť na hostiteli nastavená na žádná.

  • Informace o tom, jak získat nejlepší výkon úložiště pro virtuální počítače, najdete v tématu Výkon virtuálního počítače a disku.

  • Očekávaná šířka pásma sítě je maximální agregovaná šířka pásma přidělená jednotlivým typům virtuálních počítačů pro všechny síťové karty pro všechny cíle. Další informace najdete v tématu Šířka pásma sítě virtuálních počítačů.

    Horní limity nejsou zaručeny. Omezení nabízejí pokyny pro výběr správného typu virtuálního počítače pro zamýšlenou aplikaci. Skutečný výkon sítě bude záviset na několika faktorech, včetně zahlcení sítě, zatížení aplikace a nastavení sítě. Informace o optimalizaci propustnosti sítě najdete v tématu Optimalizace propustnosti sítě pro virtuální počítače Azure. Abyste dosáhli očekávaného výkonu sítě v Linuxu nebo Windows, možná budete muset vybrat konkrétní verzi nebo optimalizovat virtuální počítač. Další informace najdete v tématu Testování šířky pásma a propustnosti (NTTTCP).

Další velikosti a informace

K odhadu nákladů na virtuální počítače Azure můžete použít cenovou kalkulačku .

Další informace otypech

Další krok