Sdílet prostřednictvím


Řada velikostí virtuálních počítačů akcelerovaných pomocí GPU v podrodině ND

Platí pro: ✔️ Virtuální počítače s Linuxem ✔️ Virtuální počítače s Windows ✔️ Flexibilní škálovací sady ✔️ Jednotné škálovací sady

Řada velikostí virtuálních počítačů 'ND' je jednou z GPU-akcelerovaných instancí virtuálních počítačů v Azure. Jsou navržené pro hloubkové učení, výzkum AI a úlohy vysokovýkonného výpočetního prostředí, které využívají výhod výkonné akcelerace GPU. Virtuální počítače ŘADY ND vybavené grafickými procesory NVIDIA nabízejí specializované možnosti pro trénování a odvozování složitých modelů strojového učení, což usnadňuje rychlejší výpočty a efektivní zpracování velkých datových sad. Díky tomu jsou obzvláště vhodné pro akademické a komerční aplikace ve vývoji a simulaci umělé inteligence, kde špičkové technologie GPU jsou klíčové pro dosažení rychlých a přesných výsledků zpracování neurální sítě a dalších výpočetních úloh.

Úlohy a případy použití

AI a hluboké učení: Virtuální počítače ND-family jsou ideální pro trénování a nasazování složitých modelů hlubokého učení. Jsou vybaveny výkonnými grafickými procesory NVIDIA, poskytují výpočetní výkon potřebný pro zpracování rozsáhlého trénování neurálních sítí s velkými datovými sadami, což výrazně snižuje dobu trénování.

High-Performance Computing (HPC): Virtuální počítače ŘADY ND jsou vhodné pro aplikace HPC, které vyžadují akceleraci GPU. Pole, jako je vědecký výzkum, inženýrské simulace (například výpočetní dynamika tekutin) a genomické zpracování, mohou využít vysoký výpočetní výkon ND-série.

Seriály v rodině

Řada ND V1

Virtuální počítače řady ND jsou novým doplňkem řady GPU určených pro úlohy umělé inteligence a hlubokého učení. Nabízejí vynikající výkon pro trénování a odvozování. Instance ND využívají gpu NVIDIA Tesla P40 a procesory Intel Xeon E5-2690 v4 (Broadwell). Tyto instance poskytují vynikající výkon pro operace s plovoucí desetinnou čárkou s jednoduchou přesností, pro úlohy AI využívající nástroj Microsoft Cognitive Toolkit, TensorFlow, Caffe a další frameworky. Řada ND-Series také nabízí mnohem větší paměť GPU (24 GB) a umožňuje zpracovat mnohem větší modely neuronových sítí. Stejně jako řady NC-series nabízí řada ND konfiguraci se sekundární sítí s nízkou latencí, vysokou propustností prostřednictvím RDMA a připojením InfiniBand, abyste mohli spouštět rozsáhlé trénovací úlohy, které pokrývají mnoho GPU.

Zobrazte celou stránku řady ND.

Část Množství
Počet jednotek
Specifikace
ID skladové položky, jednotky výkonu atd.
Procesor 6 – 24 virtuálních procesorů Intel Xeon E5-2690 v4 (Broadwell) [x86-64]
Memory (Paměť) 112 - 448 GiB
Lokální úložiště Jeden disk 736 - 2948 GiB
Vzdálené úložiště 12 – 32 disků 20000 – 80000 IOPS
200 – 800 MB/s
Síť 4– 8 síťových adaptérů
Akcelerátory 1 – 4 GPU Nvidia Tesla P40 GPU (24 GB)

Řada NDv2

Virtuální počítač řady NDv2 je novým doplňkem řady GPU navržených pro potřeby nejnáročnějších úloh AI, strojového učení, simulace a úloh PROSTŘEDÍ HPC.

NDv2 je poháněn 8 NVIDIA Tesla V100 NVLINK připojených GPU, z nichž každý má 32 GB paměti GPU. Každý virtuální počítač NDv2 má také 40 jader Intel Xeon Platinum 8168 (Skylake) a 672 GiB systémové paměti.

Instance NDv2 poskytují vynikající výkon pro úlohy HPC a AI s využitím výpočetních jader optimalizovaných pro CUDA GPU a mnoha nástrojů pro AI, ML a analýzy, které podporují akceleraci GPU ihned po nasazení, jako jsou TensorFlow, Pytorch, Caffe, RAPIDS a další frameworky.

NDv2 je vytvořeno k tomu, aby kriticky podporovalo jak výpočetně intenzivní scale-up úlohy (využití 8 GPU na virtuální počítač), tak scale-out úlohy (využití více virtuálních počítačů pracujících společně). Řada NDv2 nyní podporuje 100-Gigabit sítě InfiniBand EDR, podobně jako u řady HB virtuálních počítačů HPC, což umožňuje clustering s vysokým výkonem pro paralelní scénáře, včetně distribuovaného školení pro umělou inteligenci (AI) a strojové učení (ML). Tato back-endová síť podporuje všechny hlavní protokoly InfiniBand, včetně těch, které používají knihovny NCCL2 společnosti NVIDIA, což umožňuje bezproblémové clusterování gpu.

Zobrazení celé stránky řady NDv2

Část Množství
Počet jednotek
Specifikace
ID skladové položky, jednotky výkonu atd.
Procesor 40 vCPUů Intel Xeon Platinum 8168 (Skylake) [x86-64]
Memory (Paměť) 672 GiB
Lokální úložiště Jeden disk 2948 GiB
Vzdálené úložiště 32 disků 80000 IOPS
800 MB/s
Síť 8 síťových adaptérů 24000 Mb/s
Akcelerátory 8

řada ND_A100_v4

Virtuální počítač ŘADY ND A100 v4 je novým vlajkovým doplňkem řady Azure GPU. Tyto velikosti jsou navrženy pro špičkové trénování hlubokého učení a úzce propojené úlohy HPC s vertikálním a horizontálním navýšením kapacity.

Řada ND A100 v4 začíná jedním virtuálním počítačem a osmi grafickými procesory NVIDIA Ampere A100 40 GB Tensor Core GPU. Nasazení založená na ND A100 v4 mohou škálovat až na tisíce GPU s šířkou pásma 1,6 TB/s pro propojení na každý virtuální počítač. Každá GPU uvnitř virtuálního počítače má vlastní vyhrazené a na topologii nezávislé připojení NVIDIA Mellanox HDR InfiniBand s rychlostí 200 GB/s. Tato připojení se automaticky konfigurují mezi virtuálními počítači ve stejné škálovací sadě virtuálních počítačů Azure a podporují GPU Direct RDMA.

Každý GPU nabízí připojení NVLINK 3.0 pro komunikaci v rámci virtuálního počítače s 96 fyzickými jádry PROCESORu AMD Epyc™ 7V12 (Řím) za nimi.

Tyto instance poskytují vynikající výkon pro mnoho nástrojů pro AI, ML a analýzy, které podporují akceleraci GPU, jako jsou TensorFlow, Pytorch, Caffe, RAPIDS a další frameworky. Kromě toho škálovatelný InfiniBand propojovací systém podporuje velkou sadu existujících nástrojů pro AI a HPC, které jsou založených na komunikačních knihovnách NVIDIA NCCL2 pro bezproblémovou integraci do clusterů GPU.

Zobrazte si celou stránku ND_A100_v4-series.

Část Množství
Počet jednotek
Specifikace
ID skladové položky, jednotky výkonu atd.
Procesor 96 vCPU AMD EPYC 7V12 (Řím) [x86-64]
Memory (Paměť) 900 GiB
Lokální úložiště Jeden disk 6000 GiB
Vzdálené úložiště 32 disků 80000 IOPS
800 MB/s
Síť 8 síťových adaptérů 24000 Mb/s
Akcelerátory 8 GPU Gpu Nvidia A100 (40 GB)

řada NDm_A100_v4

Virtuální počítač řady NDm A100 v4 je novým vlajkovým doplňkem řady Azure GPU. Tyto velikosti jsou navrženy pro špičkové trénování hlubokého učení a úzce propojené úlohy HPC s vertikálním a horizontálním navýšením kapacity.

Řada NDm A100 v4 začíná jedním virtuálním počítačem a osmi grafickými procesory NVIDIA Ampere A100 80GB Tensor Core GPU. Nasazení založené na NDm A100 v4 mohou škálovat až na tisíce GPU s přenosovou rychlostí 1,6 TB/s propojovací šířky pásma na virtuálních počítačů. Každá GPU uvnitř virtuálního počítače má vlastní vyhrazené a na topologii nezávislé připojení NVIDIA Mellanox HDR InfiniBand s rychlostí 200 GB/s. Tato připojení se automaticky konfigurují mezi virtuálními počítači ve stejné škálovací sadě virtuálních počítačů Azure a podporují GPU Direct RDMA.

Každý GPU nabízí připojení NVLINK 3.0 pro komunikaci v rámci virtuálního počítače s 96 fyzickými jádry PROCESORu AMD Epyc™ 7V12 (Řím) za nimi.

Tyto instance poskytují vynikající výkon pro mnoho nástrojů pro AI, ML a analýzy, které podporují akceleraci GPU, jako jsou TensorFlow, Pytorch, Caffe, RAPIDS a další frameworky. Kromě toho škálovatelný InfiniBand propojovací systém podporuje velkou sadu existujících nástrojů pro AI a HPC, které jsou založených na komunikačních knihovnách NVIDIA NCCL2 pro bezproblémovou integraci do clusterů GPU.

Zobrazte celou stránku série NDm_A100_v4.

Část Množství
Počet jednotek
Specifikace
ID skladové položky, jednotky výkonu atd.
Procesor 96 vCPU AMD EPYC 7V12 (Řím) [x86-64]
Memory (Paměť) 1900 GiB
Lokální úložiště Jeden disk 6400 GiB
Vzdálené úložiště 32 disků 80000 IOPS
800 MB/s
Síť 8 síťových adaptérů 24000 Mb/s
Akcelerátory 8 GPU Gpu Nvidia A100 (80 GB)

řada ND_H100_v5

Virtuální počítač ŘADY ND H100 v5 je novým vlajkovým doplňkem řady Azure GPU. Tato řada je navržena pro špičkový trénink hlubokého učení a úzce propojené úlohy s vertikálním škálováním a horizontálním škálováním generativní umělé inteligence a vysokovýkonných výpočtů (HPC).

Řada ND H100 v5 začíná jedním virtuálním počítačem a osmi grafickými procesory NVIDIA H100 Tensor Core. Nasazení založená na ND H100 v5 mohou škálovat až na tisíce GPU s 3,2 Tbps šířkou pásma propojení v rámci jednoho virtuálního počítače. Každá GPU ve virtuálním stroji je vybavena vlastním vyhrazeným 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand připojením nezávislým na topologii. Tato připojení se automaticky konfigurují mezi virtuálními počítači ve stejné škálovací sadě virtuálních počítačů a podporují přímý přístup RDMA přes GPU.

Každý GPU nabízí připojení NVLINK 4.0 pro komunikaci v rámci virtuálního počítače a instance má 96 fyzických čtvrtých jader procesorů Intel Xeon Scalable.

Tyto instance poskytují vynikající výkon pro mnoho nástrojů pro AI, ML a analýzy, které podporují akceleraci GPU ihned po rozbalení, jako jsou TensorFlow, Pytorch, Caffe, RAPIDS a další frameworky. Kromě toho interconnect InfiniBand pro škálování podporuje širokou škálu stávajících nástrojů AI a HPC, které jsou založeny na komunikačních knihovnách NCCL společnosti NVIDIA pro bezproblémové clusterování GPU.

Zobrazte si celou stránku ND_H100_v5-series.

Část Množství
Počet jednotek
Specifikace
ID skladové položky, jednotky výkonu atd.
Procesor 96 vCPU Intel Xeon (Sapphire Rapids) [x86-64]
Memory (Paměť) 1900 GiB
Lokální úložiště Jeden disk 28000 GiB
Vzdálené úložiště 32Disky
Síť 8 síťových adaptérů
Akcelerátory 8 GPU Gpu Nvidia H100 (80 GB)

řada ND_MI300X_v5

Virtuální počítač ŘADY ND MI300X v5 je novým vlajkovým doplňkem řady Azure GPU. Byla navržena pro špičkový trénink hlubokého učení a úzce svázané škálování nahoru a ven pro generativní AI a pracovní úlohy HPC.

Virtuální počítač řady ND MI300X v5 začíná osmi grafickými procesory AMD Instinct MI300 a dvěma čtvrtými procesory Intel Xeon Scalable pro celkem 96 fyzických jader. Každý GPU v rámci virtuálního počítače se pak připojí k sobě prostřednictvím propojení 4. generace AMD Infinity Fabric s šířkou pásma 128 GB/s na GPU a agregovanou šířkou pásma 896 GB/s.

Nasazení ND MI300X v5 můžou vertikálně navýšit kapacitu až na tisíce GPU s 3,2 TB/s šířky pásma pro propojení na virtuální počítač. Každá GPU ve virtuálním stroji je vybavena vlastním vyhrazeným 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand připojením nezávislým na topologii. Tato připojení se automaticky konfigurují mezi virtuálními počítači v rámci stejné škálovatelné sady virtuálních počítačů a podporují GPUDirect RDMA.

Tyto instance poskytují vynikající výkon pro mnoho nástrojů pro AI, ML a analytiku, které podporují akceleraci na GPU, například TensorFlow, Pytorch a další frameworky. Kromě toho škálovatelný Interconnect InfiniBand podporuje širokou škálu stávajících AI a HPC nástrojů, které jsou postaveny na knihovně ROCm Communication Collectives Library (RCCL) od AMD pro plynulé seskupování GPU.

Zobrazte celou stránku řady ND_MI300X_v5.

Část Množství
Počet jednotek
Specifikace
ID skladové položky, jednotky výkonu atd.
Procesor 96 vCPU Intel Xeon (Sapphire Rapids) [x86-64]
Memory (Paměť) 1850 GiB
Lokální úložiště 1 Dočasný disk
8 disků NVMe
Dočasný disk 1000 GiB
28000 Disků GiB NVMe
Vzdálené úložiště 16 disků 80000 IOPS
1200 MB/s
Síť 8 síťových adaptérů
Akcelerátory 8 GPU AMD Instinct MI300X GPU (192 GB)

Řada ND předchozí generace

U starších velikostí se podívejte na velikosti předchozí generace.

Další informace o velikosti

Seznam všech dostupných velikostí: Velikosti

Kalkulačka cen: Cenová kalkulačka

Informace o typech disků: Typy disků

Další kroky

Využijte nejnovější výkon a funkce dostupné pro vaše úlohy změnou velikosti virtuálního počítače.

Využijte interní procesory ARM od Microsoftu s virtuálními počítači Azure Cobalt.

Naučte se monitorovat virtuální počítače Azure.