Řada akcelerovaných velikostí virtuálních počítačů v podřetědě ND

Článek
06/13/2024

Platí pro: ✔️ Virtuální počítače s Windows s Linuxem ✔️ ✔️ – Flexibilní škálovací sady Uniform Scale Sets ✔️

Řada velikostí virtuálních počítačů ND je jednou z instancí virtuálních počítačů akcelerovaných gpu v Azure. Jsou navržené pro hloubkové učení, výzkum AI a úlohy vysokovýkonného výpočetního prostředí, které využívají výhod výkonné akcelerace GPU. Virtuální počítače ŘADY ND vybavené grafickými procesory NVIDIA nabízejí specializované možnosti pro trénování a odvozování složitých modelů strojového učení, což usnadňuje rychlejší výpočty a efektivní zpracování velkých datových sad. Díky tomu jsou obzvláště vhodné pro akademické a komerční aplikace ve vývoji a simulaci umělé inteligence, kde špičkové technologie GPU jsou klíčové pro dosažení rychlých a přesných výsledků zpracování neurální sítě a dalších výpočetních úloh.

Úlohy a případy použití

AI a hluboké učení: Virtuální počítače ŘADY ND jsou ideální pro trénování a nasazování složitých modelů hlubokého učení. Jsou vybaveny výkonnými grafickými procesory NVIDIA, poskytují výpočetní výkon potřebný pro zpracování rozsáhlého trénování neurálních sítí s velkými datovými sadami, což výrazně snižuje dobu trénování.

Vysokovýkonné výpočetní prostředí (HPC): Virtuální počítače ŘADY ND jsou vhodné pro aplikace HPC, které vyžadují akceleraci GPU. Pole, jako je vědecký výzkum, inženýrské simulace (např. výpočetní dynamika tekutin) a genomické zpracování, můžou těžit z výpočetních schopností ND-series.

Vykreslování grafiky: Grafické procesory ND-řady jsou skvělou volbou pro úlohy náročné na grafiku, včetně vykreslování v reálném čase pro animaci a produkci videa a také vysoce věrné simulace pro prostředí virtuální reality.

Vzdálená vizualizace: Virtuální počítače ŘADY ND se dají použít pro vzdálenou vizualizaci úloh náročných na data, kde jsou k zpracování a vykreslení složitých vizualizací přes cloud nezbytné funkce gpu vysoké úrovně, což usnadňuje přístup z méně výkonných klientských počítačů.

Řada v rodině

Řada ND V1

Virtuální počítače řady ND jsou novým doplňkem řady GPU určených pro úlohy umělé inteligence a hlubokého učení. Nabízejí vynikající výkon pro trénování a odvozování. Instance ND využívají gpu NVIDIA Tesla P40 a procesory Intel Xeon E5-2690 v4 (Broadwell). Tyto instance poskytují vynikající výkon pro operace s plovoucí desetinnou čárkou s jednou přesností, pro úlohy AI využívající sadu Microsoft Cognitive Toolkit, TensorFlow, Caffe a další architektury. Řada ND-Series také nabízí mnohem větší paměť GPU (24 GB) a umožňuje zpracovat mnohem větší modely neuronových sítí. Stejně jako řady NC-series nabízí řada ND konfiguraci se sekundární sítí s nízkou latencí, vysokou propustností prostřednictvím RDMA a připojením InfiniBand, abyste mohli spouštět rozsáhlé trénovací úlohy, které pokrývají mnoho GPU.

Zobrazte celou stránku řady ND.

Část	Množství ^{Počet ^jednotek}	Specifikace ^{ID skladové položky, jednotky^výkonuatd.}
Procesor	6 – 24^{virtuálních jader}	Intel® Xeon® E5-2690 v4 (Broadwell)
Memory (Paměť)	112 - 448^GiB
Datové disky	12 – 32^disků	20000 - 80000^IOPS / 200 - 800^MB/s
Síť	4– 8^{síťových adaptérů}
Akcelerátory	1 – 4^GPU	NVIDIA Tesla P40 24^GiB 24 – 96^GiB na virtuální počítač

Řada NDv2

Virtuální počítač řady NDv2 je novým doplňkem řady GPU navržených pro potřeby nejnáročnějších úloh AI, strojového učení, simulace a úloh PROSTŘEDÍ HPC. NDv2 je poháněn 8 NVIDIA Tesla V100 NVLINK připojených GPU, z nichž každý má 32 GB paměti GPU. Každý virtuální počítač NDv2 má také 40 jader Intel Xeon Platinum 8168 (Skylake) a 672 GiB systémové paměti. Instance NDv2 poskytují vynikající výkon pro úlohy PROSTŘEDÍ HPC a AI s využitím výpočetních jader optimalizovaných pro CUDA GPU a mnoha analytických nástrojů AI, ML a analytických nástrojů, které podporují "out-of-box" akceleraci GPU, jako jsou TensorFlow, Pytorch, Caffe, RAPIDS a další architektury. Kriticky je NDv2 sestavená pro výpočetně intenzivní vertikální navýšení kapacity (využití 8 GPU na virtuální počítač) a horizontální navýšení kapacity (využití více virtuálních počítačů pracujících společně). Řada NDv2 teď podporuje back-endové sítě EDR 100-Gigabit InfiniBand EDR, podobně jako u řady HB virtuálních počítačů HPC, které umožňují vysoce výkonné clustering pro paralelní scénáře, včetně distribuovaného trénování pro AI a ML. Tato back-endová síť podporuje všechny hlavní protokoly InfiniBand, včetně těch, které používají knihovny NCCL2 společnosti NVIDIA, což umožňuje bezproblémové clusterování gpu.

Zobrazení celé stránky řady NDv2

Část	Množství ^{Počet ^jednotek}	Specifikace ^{ID skladové položky, jednotky^výkonuatd.}
Procesor	40^{virtuálních jader}	Intel® Xeon® Platinum 8168 (Skylake)
Memory (Paměť)	672^GiB
Datové disky	32^disků	80000^IOPS / 800^MB/s
Síť	8^{síťových adaptérů}	24000^Mb/s
Akcelerátory	8^GPU	NVIDIA V100 (NVLink) 32^GiB 256^GiB na virtuální počítač

řada ND_A100_v4

Virtuální počítač ŘADY ND A100 v4 je novým vlajkovým doplňkem řady Azure GPU. Je navržená pro komplexní trénování hlubokého učení a úzce propojené úlohy HPC s vertikálním navýšením kapacity a horizontálním navýšením kapacity. Řada ND A100 v4 začíná jedním virtuálním počítačem a osmi grafickými procesory NVIDIA Ampere A100 40 GB Tensor Core GPU. Nasazení založená na ND A100 v4 můžou vertikálně navýšit kapacitu až na tisíce GPU s šířkou pásma 1,6 TB/s propojování na virtuální počítač. Každý GPU v rámci virtuálního počítače má vlastní vyhrazené topologie nezávislé na 200 GB/s NVIDIA Mellanox HDR InfiniBand. Tato připojení se mezi virtuálními počítači, které zabírají stejnou škálovací sadu virtuálních počítačů, automaticky konfigurují a podporují RDMA s GPUDirect. Každý GPU nabízí připojení NVLINK 3.0 pro komunikaci v rámci virtuálního počítače a instance je podporována 96 fyzickými jádry procesoru AMD Epyc™ 7V12 (Řím). Tyto instance poskytují vynikající výkon pro mnoho nástrojů pro AI, ML a analýzy, které podporují akceleraci GPU", jako jsou TensorFlow, Pytorch, Caffe, RAPIDS a další architektury. Kromě toho je propojení InfiniBand se škálováním na více systémů podporováno velkou sadou stávajících nástrojů AI a HPC, které jsou založené na komunikačních knihovnách NCCL2 společnosti NVIDIA pro bezproblémové clusterování gpu.

Zobrazte celou stránku ND_A100_v4 řad.

Část	Množství ^{Počet ^jednotek}	Specifikace ^{ID skladové položky, jednotky^výkonuatd.}
Procesor	96^{virtuálních jader}	AMD Epyc™ 7V12 (Řím)
Memory (Paměť)	900^GiB
Datové disky	32^disků	80000^IOPS / 800^MB/s
Síť	8 ^{síťových adaptérů}	24000^Mb/s
Akcelerátory	8^GPU	NVIDIA A100 (NVLink) 40^GiB 320^GiB na virtuální počítač

řada NDm_A100_v4

Virtuální počítač řady NDm A100 v4 je novým vlajkovým doplňkem řady Azure GPU. Je navržená pro komplexní trénování hlubokého učení a úzce propojené úlohy HPC s vertikálním navýšením kapacity a horizontálním navýšením kapacity. Řada NDm A100 v4 začíná jedním virtuálním počítačem a osmi grafickými procesory NVIDIA Ampere A100 80GB Tensor Core GPU. Nasazení založená na NDm A100 v4 můžou vertikálně navýšit kapacitu až na tisíce GPU s šířkou pásma 1,6 TB/s propojování na virtuální počítač. Každý GPU v rámci virtuálního počítače má vlastní vyhrazené topologie nezávislé na 200 GB/s NVIDIA Mellanox HDR InfiniBand. Tato připojení se mezi virtuálními počítači, které zabírají stejnou škálovací sadu virtuálních počítačů, automaticky konfigurují a podporují RDMA s GPUDirect. Každý GPU nabízí připojení NVLINK 3.0 pro komunikaci v rámci virtuálního počítače a instance je podporována 96 fyzickými jádry procesoru AMD Epyc™ 7V12 (Řím). Tyto instance poskytují vynikající výkon pro mnoho nástrojů pro AI, ML a analýzy, které podporují akceleraci GPU", jako jsou TensorFlow, Pytorch, Caffe, RAPIDS a další architektury. Kromě toho je propojení InfiniBand se škálováním na více systémů podporováno velkou sadou stávajících nástrojů AI a HPC, které jsou založené na komunikačních knihovnách NCCL2 společnosti NVIDIA pro bezproblémové clusterování gpu.

Zobrazit celou stránku řady NDm_A100_v4.

Část	Množství ^{Počet ^jednotek}	Specifikace ^{ID skladové položky, jednotky^výkonuatd.}
Procesor	96^{virtuálních jader}	AMD Epyc™ 7V12 (Řím)
Memory (Paměť)	900^GiB
Datové disky	32^disků	80000^IOPS / 800^MB/s
Síť	8^{síťových adaptérů}	24000^Mb/s
Akcelerátory	8^GPU	NVIDIA A100 (NVLink) 80^GiB 640^GiB na virtuální počítač

řada ND_H100_v5

Virtuální počítač ŘADY ND H100 v5 je novým vlajkovým doplňkem řady Azure GPU. Je navržená pro vysoce komplexní trénování hlubokého učení a úzce svázané úlohy s vertikálním navýšením kapacity a horizontálním navýšením kapacity generující AI a prostředí HPC. Řada ND H100 v5 začíná jedním virtuálním počítačem a osmi grafickými procesory NVIDIA H100 Tensor Core. Nasazení založená na ND H100 v5 můžou vertikálně navýšit kapacitu až na tisíce GPU s 3,2 TB/s šířky pásma propojení na virtuální počítač. Každý GPU v rámci virtuálního počítače je k dispozici s vlastním vyhrazeným topologií nezávislou na 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand. Tato připojení se mezi virtuálními počítači, které zabírají stejnou škálovací sadu virtuálních počítačů, automaticky konfigurují a podporují RDMA s GPUDirect. Každý GPU nabízí připojení NVLINK 4.0 pro komunikaci v rámci virtuálního počítače a instance je podporována 96 fyzickými 4. generacemi procesorů Intel Xeon Scalable. Tyto instance poskytují vynikající výkon pro mnoho nástrojů pro AI, ML a analýzy, které podporují akceleraci GPU", jako jsou TensorFlow, Pytorch, Caffe, RAPIDS a další architektury. Kromě toho je propojení InfiniBand se škálováním na více systémů podporováno velkou sadou stávajících nástrojů AI a HPC, které jsou založené na komunikačních knihovnách NCCL společnosti NVIDIA pro bezproblémové clusterování gpu.

Zobrazit celou stránku řady ND_H100_v5.

Část	Množství ^{Počet ^jednotek}	Specifikace ^{ID skladové položky, jednotky^výkonuatd.}
Procesor	96^{virtuálních jader}	Intel® Xeon® Scalable (Sapphire Rapids)
Memory (Paměť)	1900^GiB
Datové disky	32^disků	40800^IOPS / 612^MB/s
Síť	8^{síťových adaptérů}	80000^Mb/s
Akcelerátory	8^GPU	NVIDIA H100 (NVLink) 80^GiB 640^GiB na virtuální počítač

řada ND_MI300X_v5

Virtuální počítač ŘADY ND MI300X v5 je novým vlajkovým doplňkem řady Azure GPU. Byla navržena pro komplexní trénování hlubokého učení a úzce svázané úlohy s vertikálním navýšením kapacity a škálováním na více instancí generující AI a PROSTŘEDÍ HPC.

Virtuální počítač řady ND MI300X v5 začíná osmi grafickými procesory AMD Instinct MI300 a dvěma čtvrtými procesory Intel Xeon Scalable pro celkem 96 fyzických jader. Každý GPU v rámci virtuálního počítače se pak připojí k sobě prostřednictvím propojení 4. generace AMD Infinity Fabric s šířkou pásma 128 GB/s na GPU a agregovanou šířkou pásma 896 GB/s.

Nasazení ND MI300X v5 můžou vertikálně navýšit kapacitu až na tisíce GPU s 3,2 TB/s šířky pásma pro propojení na virtuální počítač. Každý GPU v rámci virtuálního počítače je k dispozici s vlastním vyhrazeným topologií nezávislou na 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand. Tato připojení se mezi virtuálními počítači, které zabírají stejnou škálovací sadu virtuálních počítačů, automaticky konfigurují a podporují RDMA s GPUDirect.

Tyto instance poskytují vynikající výkon pro mnoho nástrojů pro AI, ML a analýzy, které podporují akceleraci GPU", například TensorFlow, Pytorch a další architektury. Kromě toho interconnect infiniBand se škálováním na více systémů podporuje velkou sadu stávajících nástrojů AI a HPC, které jsou založené na knihovně ROCm Communication Collectives Library (RCCL) AMD pro bezproblémové clusterování grafických procesorů.

Zobrazte celou stránku ND_MI300X_v5 řad.

Část	Množství Počet jednotek	Specifikace ID skladové položky, jednotky výkonu atd.
Procesor	96 virtuálních jader	Intel® Xeon® Scalable (Sapphire Rapids)
Memory (Paměť)	1850 GiB
Lokální úložiště	1 Disk	1000 GiB
Vzdálené disky	32 disků	40800 IOPS 612 MB/s
Síť	8 síťových adaptérů	80000 Mb/s
Akcelerátory	8 GPU	AMD MI300X 192 GiB 1535 GiB na virtuální počítač

Řada rodin ND předchozí generace

U starších velikostí se podívejte na velikosti předchozí generace.

Další informace o velikosti

Seznam všech dostupných velikostí: Velikosti

Cenová kalkulačka: Cenová kalkulačka

Informace o typech disků: Typy disků

Další kroky

Přečtěte si další informace o tom, jak vám výpočetní jednotky Azure (ACU) můžou pomoct porovnat výkon výpočetních prostředků napříč skladovými jednotkami Azure.

Podívejte se na službu Azure Dedicated Hosts, kde jsou fyzické servery schopné hostovat jeden nebo více virtuálních počítačů přiřazených k jednomu předplatnému Azure.

Naučte se monitorovat virtuální počítače Azure.

Sdílet prostřednictvím