Řada velikostí ND-H100-v5
Virtuální počítač ŘADY ND H100 v5 je novým vlajkovým doplňkem řady Azure GPU. Tato řada je navržená pro komplexní trénování hlubokého učení a úzce propojené úlohy s vertikálním navýšením kapacity a horizontálním navýšením kapacity generování AI a prostředí HPC.
Řada ND H100 v5 začíná jedním virtuálním počítačem a osmi grafickými procesory NVIDIA H100 Tensor Core. Nasazení založená na ND H100 v5 můžou vertikálně navýšit kapacitu až na tisíce GPU s 3,2 TB/s šířkou pásma pro propojení na virtuální počítač. Každý GPU v rámci virtuálního počítače je k dispozici s vlastním vyhrazeným topologií nezávislou na 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand. Tato připojení se mezi virtuálními počítači, které zabírají stejnou škálovací sadu virtuálních počítačů, automaticky konfigurují a podporují přímý přístup RDMA gpu.
Každý GPU nabízí připojení NVLINK 4.0 pro komunikaci v rámci virtuálního počítače a instance má 96 fyzických čtvrtých jader procesorů Intel Xeon Scalable.
Tyto instance poskytují vynikající výkon pro mnoho nástrojů pro AI, ML a analýzy, které podporují akceleraci GPU", jako jsou TensorFlow, Pytorch, Caffe, RAPIDS a další architektury. Kromě toho interconnect InfiniBand se škálováním na více systémů podporuje velkou sadu stávajících nástrojů AI a HPC, které jsou založené na komunikačních knihovnách NCCL společnosti NVIDIA pro bezproblémové clusterování gpu.
Specifikace hostitele
| Část | Množství Počet jednotek |
Specifikace ID skladové položky, jednotky výkonu atd. |
|---|---|---|
| Procesor | 96 vCPU | Intel Xeon (Sapphire Rapids) [x86-64] |
| Memory (Paměť) | 1900 GiB | |
| Lokální úložiště | 1 Disk | 28000 GiB |
| Vzdálené úložiště | 32Disky | |
| Síť | 8 síťových adaptérů | |
| Akcelerátory | 8 GPU | Gpu Nvidia H100 (80 GB) |
Podpora funkcí
Premium Storage: Podporováno
Ukládání do mezipaměti Premium Storage: Podporováno
Migrace za provozu: Nepodporuje se
Aktualizace pro zachování paměti: Nepodporováno
Virtuální počítače generace 2: Podporované
Virtuální počítače generace 1: Nepodporováno
Akcelerované síťové služby: Podporováno
Dočasný disk s operačním systémem: Podporováno
Vnořená virtualizace: Nepodporuje se
Infiniband: Podporováno
Důležité
Pokud chcete začít s virtuálními počítači ND H100 v5, projděte si postup konfigurace a optimalizace úloh HPC, včetně konfigurace ovladače a sítě. Kvůli zvýšenému využití vstupně-výstupních operací paměti GPU vyžaduje ND H100 v5 použití virtuálních počítačů generace 2 a imagí z marketplace.
podpora Azure s Ubuntu 20.04/22.04, RHEL 7.9/8.7/9.3, AlmaLinux 8.8/9.2 a SLES 15 pro virtuální počítače ND H100 v5. V současné době jsou podporované image virtuálních počítačů Ubuntu-HPC 20.4/22.04 a AlmaLinux-HPC 8.6/8.7.
Existují nabídky optimalizovaných a předem nakonfigurovaných imagí virtuálních počítačů s Linuxem pro úlohy PROSTŘEDÍ HPC/AI s nainstalovanými různými nástroji a knihovnami prostředí HPC, a proto se důrazně doporučují.
Pokud si chcete stáhnout image, přejděte na Azure Marketplace.
Velikosti v řadách
vCPU (Qty.) a paměť pro každou velikost
| Název velikosti | vCPU (Qty.) | Paměť (GB) |
|---|---|---|
| Standard_ND96isr_H100_v5 | 96 | 1900 |
Základní prostředky virtuálních počítačů
Další informace o velikosti
Seznam všech dostupných velikostí: Velikosti
Cenová kalkulačka: Cenová kalkulačka
Informace o typech disků: Typy disků
Další kroky
Přečtěte si další informace o tom, jak vám výpočetní jednotky Azure (ACU) můžou pomoct porovnat výkon výpočetních prostředků napříč skladovými jednotkami Azure.
Podívejte se na službu Azure Dedicated Hosts, kde jsou fyzické servery schopné hostovat jeden nebo více virtuálních počítačů přiřazených k jednomu předplatnému Azure.
Naučte se monitorovat virtuální počítače Azure.