Poznámka:
Přístup k této stránce vyžaduje autorizaci. Můžete se zkusit přihlásit nebo změnit adresáře.
Přístup k této stránce vyžaduje autorizaci. Můžete zkusit změnit adresáře.
S tím, jak jsou výkonnější GPU dostupné na marketplace a v datacentrech Microsoft Azure, doporučujeme znovu posoudit výkon vašich úloh a zvážit migraci na novější gpu.
Z stejného důvodu i zachování vysoce kvalitní a spolehlivé nabídky služeb Azure pravidelně vyřadí hardware, který využívá starší velikosti virtuálních počítačů. První skupina produktů GPU, které se mají vyřadit z Azure, jsou původní virtuální počítače NC, NC v2 a ND-series, které využívají akcelerátory GPU NVIDIA Tesla K80, P100 a P40 datacentra. Tyto produkty budou vyřazeny 31. srpna 2023 a nejstarší virtuální počítače v této sérii byly spuštěny v roce 2016.
Od té doby grafické procesory vytvořily neuvěřitelné kroky spolu s celým odvětvím hlubokého učení a prostředí HPC, které obvykle překračují zdvojnásobení výkonu mezi generacemi. Od uvedení grafického procesoru NVIDIA K80, P40 a P100 se Azure dodává několik novějších generací a kategorií produktů virtuálních počítačů, které jsou zaměřené na akcelerované výpočetní prostředky GPU a umělé inteligence založené na procesorech NVIDIA T4, V100 a A100 a odlišují se od volitelných funkcí, jako jsou interconnect fabric založené na InfiniBandu. To jsou všechny možnosti, které doporučujeme zákazníkům prozkoumat jako cesty migrace.
Ve většině případů dramatický nárůst výkonu nabízený novějšími generacemi grafických procesorů snižuje celkové náklady na vlastnictví snížením doby trvání úlohy nebo počtu virtuálních počítačů s podporou GPU potřebných k pokrytí poptávky po výpočetních prostředcích s pevnou velikostí, i když se náklady na GPU každou hodinu můžou lišit. Kromě těchto výhod můžou zákazníci zlepšit čas na řešení prostřednictvím virtuálních počítačů s vyšším výkonem a zlepšit stav a možnosti podpory svého řešení přijetím novějšího softwaru, modulu runtime CUDA a verzí ovladačů.
Migrace vs. optimalizace
Azure uznává, že zákazníci mají velké množství požadavků, které můžou diktovat výběr konkrétního produktu virtuálního počítače s GPU, včetně aspektů architektury GPU, propojení, celkových nákladů na vlastnictví, čas na řešení a regionální dostupnosti na základě požadavků na lokalitu dodržování předpisů nebo latence– a některé z nich se dokonce v průběhu času mění.
Akcelerace GPU je zároveň novou a rychle se vyvíjející oblastí.
Neexistuje tedy žádný skutečný univerzální návod pro tuto oblast produktu a migrace je ideální doba k opětovnému vyhodnocení potenciálně dramatických změn úlohy, jako je přechod z modelu clusterovaného nasazení na jeden velký virtuální počítač s 8 GPU nebo naopak, využití datových typů s nižší přesností, přijetí funkcí, jako je GPU s více instancemi a mnoho dalšího.
Tyto úvahy, když jsou zohledněny v kontextu již dramatických nárůstů výkonu GPU mezi generacemi, kde funkce jako přidání TensorCores může zvýšit výkon o řád, jsou velmi specifické pro úlohy.
Kombinace migrace s opětovnou architekturou aplikací může přinést obrovskou hodnotu a zlepšení nákladů a času na řešení.
Tyto druhy vylepšení jsou však nad rámec tohoto dokumentu, jehož cílem je zaměřit se na přímé třídy ekvivalence pro generalizované úlohy, které mohou dnes zákazníci spouštět, aby identifikovaly nejvíce podobné možnosti virtuálních počítačů v cenách i výkonu na GPU stávajícím rodinám virtuálních počítačů, které procházejí vyřazením z provozu.
Tento dokument tedy předpokládá, že uživatel nemusí mít žádný přehled ani kontrolu nad vlastnostmi specifickými pro úlohy, jako je počet požadovaných instancí virtuálních počítačů, GPU, propojení a další.
Doporučené cesty upgradu
NC-Series virtuálních počítačů s grafickými procesory NVIDIA K80
Virtuální počítače řady NC (v1) jsou nejstarším typem výpočetních virtuálních počítačů v Azure akcelerovaných pomocí GPU, které používají 1 až 4 akcelerátory GPU NVIDIA Tesla K80 ve spojení s procesory Intel Xeon E5-2690 v3 (Haswell). Jako vlajkový typ virtuálního počítače pro náročné aplikace AI, ML a HPC zůstaly oblíbenou volbou pozdě v životním cyklu produktu (zejména prostřednictvím propagačních cen řady NC) pro uživatele, kteří preferovali velmi nízké absolutní náklady za hodinu na GPU oproti GPU s vyšším výkonem za dolar.
Vzhledem k relativně nízkému výpočetnímu výkonu stárnoucí platformy GPU NVIDIA K80 oproti řadě virtuálních počítačů s novějšími gpu je oblíbeným případem použití pro řadu NC-series odvozování a analytických úloh v reálném čase, kdy musí být akcelerovaný virtuální počítač dostupný v stabilním stavu, aby bylo možné obsloužit požadavky z aplikací při jejich doručení. V těchto případech může být objem nebo velikost dávky požadavků nedostatečná, aby bylo možné využívat výkonnější gpu. Virtuální počítače NC jsou také populární u vývojářů a studentů, kteří se učí, vyvíjejí pro nebo experimentují s GPU akcelerací, a potřebují levnou cloudovou platformu pro nasazení CUDA, na které mohou iterativně pracovat a která nemusí splňovat produkční úroveň výkonu.
Obecně platí, že zákazníci NC-Series by měli zvážit přímý přechod z velikostí NC na velikosti NC T4 v3, což je nová platforma Azure akcelerovaná pomocí GPU pro lehké úlohy využívající NVIDIA Tesla T4 GPU.
| Aktuální velikost virtuálního počítače | Cílová velikost VM | Rozdíl ve specifikaci |
|---|---|---|
| Standard_NC6 Standard_NC6_Promo |
Standard_NC4as_T4_v3 nebo Standard_NC8as_T4 |
CPU: Intel Haswell vs AMD Řím Počet GPU: 1 (stejné) Generace GPU: NVIDIA Keppler vs. Turing (+2 generace, ~2x FP32 FLOPs) Paměť GPU (GiB na GPU): 16 (+4) vCPU: 4 (-2) nebo 8 (+2) GiB paměti: 16 (-40) nebo 56 (stejné) Dočasné úložiště (SSD) GiB: 180 (-160) nebo 360 (+20) Maximální počet datových disků: 8 (-4) nebo 16 (+4) Akcelerované síťové služby: Ano (+) Premium Storage: Ano (+) |
| Standard_NC12 Standard_NC12_Promo |
Standard_NC16as_T4_v3 | CPU: Intel Haswell vs AMD Řím Počet GPU: 1 (-1) Generace GPU: NVIDIA Keppler vs. Turing (+2 generace, ~2x FP32 FLOPs) Paměť GPU (GiB na GPU): 16 (+4) vCPU: 16 (+4) Paměť GiB: 110 (-2) Dočasné úložiště (SSD) GiB: 360 (-320) Maximální počet datových disků: 48 (+16) Akcelerované síťové služby: Ano (+) Premium Storage: Ano (+) |
| Standard_NC24 Standard_NC24_Promo |
Standard_NC64as_T4_v3* | CPU: Intel Haswell vs AMD Řím Počet GPU: 4 (stejné) Generace GPU: NVIDIA Keppler vs. Turing (+2 generace, ~2x FP32 FLOPs) Paměť GPU (GiB na GPU): 16 (+4) vCPU: 64 (+40) Paměť GiB: 440 (+216) Dočasné úložiště (SSD) GiB: 2880 (+1440) Maximální počet datových disků: 32 (-32) Akcelerované síťové služby: Ano (+) Premium Storage: Ano (+) |
| Standard_NC24r Standard_NC24r_Promo |
Standard_NC64as_T4_v3* | CPU: Intel Haswell vs AMD Řím Počet GPU: 4 (stejné) Generace GPU: NVIDIA Keppler vs. Turing (+2 generace, ~2x FP32 FLOPs) Paměť GPU (GiB na GPU): 16 (+4) vCPU: 64 (+40) Paměť GiB: 440 (+216) Dočasné úložiště (SSD) GiB: 2880 (+1440) Maximální počet datových disků: 32 (-32) Akcelerované síťové služby: Ano (+) Premium Storage: Ano (+) InfiniBand interconnect: Ne |
Virtuální počítače NC v2-Series s grafickými procesory NVIDIA Tesla P100
Virtuální počítače řady NC v2 jsou vlajkovou platformou, která byla původně navržena pro úlohy umělé inteligence a hlubokého učení. Nabízejí vynikající výkon pro trénování hlubokého učení s výkonem na GPU přibližně 2x z původního NC-Series a využívají procesory NVIDIA Tesla P100 GPU a Intel Xeon E5-2690 v4 (Broadwell). Stejně jako nc a ND -Series nabízí NC v2-Series konfiguraci se sekundární sítí s nízkou latencí, vysokou propustností prostřednictvím RDMA a připojením InfiniBand, abyste mohli spouštět rozsáhlé trénovací úlohy, které pokrývají mnoho GPU.
Obecně platí, že zákazníci NCv2-Series by měli zvážit přímý přechod na velikosti NC A100 v4, novou platformu Azure s akcelerací pomocí GPU NVIDIA Ampere A100 PCIe.
| Aktuální velikost virtuálního počítače | Cílová velikost VM | Rozdíl ve specifikaci |
|---|---|---|
| Standard_NC6s_v2 | Standard_NC24ads_A100_v4 | Procesor: Intel Broadwell vs. AMD Milan Počet GPU: 1 (stejné) Generování GPU: NVIDIA Pascal vs. Ampere (+2 generace) Paměť GPU (GiB na GPU): 80 (+64) vCPU: 24 (+18) Paměť GiB: 220 (+108) Dočasné úložiště (SSD) GiB: 1123 (+387) Maximální počet datových disků: 12 (stejné) Akcelerované síťové služby: Ano (+) Premium Storage: Ano (+) |
| Standard_NC12s_v2 | Standard_NC48ads_A100_v4 | Procesor: Intel Broadwell proti AMD Milan Počet GPU: 2 (stejné) Generování GPU: NVIDIA Pascal vs. Ampere (+2 generace) Paměť GPU (GiB na GPU): 80 (+64) vCPU: 48 (+36) Paměť GiB: 440 (+216) Dočasné úložiště (SSD) GiB: 2246 (+772) Maximální počet datových disků: 24 (stejné) Akcelerované síťové služby: Ano (+) Premium Storage: Ano (+) |
| Standard_NC24s_v2 | Standard_NC96ads_A100_v4 | Procesor: Intel Broadwell proti AMD Milan Počet GPU: 4 (stejné) Generování GPU: NVIDIA Pascal vs. Ampere (+2 generace) Paměť GPU (GiB na GPU): 80 (+64) vCPU: 96 (+72) Paměť GiB: 880 (+432) Dočasné úložiště (SSD) GiB: 4492 (+1544) Maximální počet datových disků: 32 (stejné) Akcelerované síťové služby: Ano (+) Premium Storage: Ano (+) |
| Standard_NC24rs_v2 | Standard_NC96ads_A100_v4 | CPU: Intel Broadwell vs AMD Milan Počet GPU: 4 (stejné) Generování GPU: NVIDIA Pascal vs. Ampere (+2 generace) Paměť GPU (GiB na GPU): 80 (+64) vCPU: 96 (+72) Paměť GiB: 880 (+432) Dočasné úložiště (SSD) GiB: 4492 (+1544) Maximální počet datových disků: 32 (stejné) Akcelerované síťové služby: Ano (+) Premium Storage: Ano (+) Interconnect InfiniBand: Ne (-) |
ND-Series virtuálních počítačů s grafickými procesory NVIDIA Tesla P40
Virtuální počítače ŘADY ND jsou střední platforma původně navržená pro úlohy umělé inteligence a hlubokého učení. Nabízejí vynikající výkon pro dávkové odvozování prostřednictvím vylepšených operací s plovoucí desetinnou čárkou s jednoduchou přesností oproti svým předchůdcům a jsou poháněny procesory NVIDIA Tesla P40 a procesory Intel Xeon E5-2690 v4 (Broadwell). Stejně jako nc a NC v2-Series nabízí ND-Series konfiguraci se sekundární sítí s nízkou latencí, vysokou propustností prostřednictvím RDMA a připojením InfiniBand, abyste mohli spouštět rozsáhlé trénovací úlohy, které pokrývají mnoho GRAFICKÝch procesorů.
| Aktuální velikost virtuálního počítače | Cílová velikost VM | Rozdíl ve specifikaci |
|---|---|---|
| Standard_ND6 | Standard_NC4as_T4_v3 nebo Standard_NC8as_T4_v3 |
CPU: Intel Broadwell vs AMD Rome Počet GPU: 1 (stejné) Generování GPU: NVIDIA Pascal vs. Turing (+1 generace) Paměť GPU (GiB na GPU): 16 (-8) vCPU: 4 (-2) nebo 8 (+2) Paměť GiB: 16 (-40) nebo 56 (-56) Dočasné úložiště (SSD) GiB: 180 (-552) nebo 360 (-372) Maximální počet datových disků: 8 (-4) nebo 16 (+4) Akcelerované síťové služby: Ano (+) Premium Storage: Ano (+) |
| Standard_ND12 | Standard_NC16as_T4_v3 | CPU: Intel Broadwell vs AMD Rome Počet GPU: 1 (-1) Generace GPU: NVIDIA Pascal vs. Turing (+1 generace) Paměť GPU (GiB na GPU): 16 (-8) vCPU: 16 (+4) Paměť GiB: 110 (-114) Dočasné úložiště (SSD) GiB: 360 (-1 114) Maximální počet datových disků: 48 (+16) Akcelerované síťové služby: Ano (+) Premium Storage: Ano (+) |
| Standard_ND24 | Standard_NC64as_T4_v3* | CPU: Intel Broadwell vs AMD Rome Počet GPU: 4 (stejné) Generace GPU: NVIDIA Pascal vs. Turing (+1 generace) Paměť GPU (GiB na GPU): 16 (-8) vCPU: 64 (+40) Paměť GiB: 440 (stejné) Dočasné úložiště (SSD) GiB: 2880 (stejné) Maximální počet datových disků: 32 (stejné) Akcelerované síťové služby: Ano (+) Premium Storage: Ano (+) |
| Standard_ND24r | Standard_ND96amsr_A100_v4 | CPU: Intel Broadwell vs AMD Rome Počet GPU: 8 (+4) Generování GPU: NVIDIA Pascal vs. Ampere (+2 generace) Paměť GPU (GiB na GPU): 80 (+56) vCPU: 96 (+72) Paměť GiB: 1900 (+1452) Dočasné úložiště (SSD) GiB: 6400 (+3452) Maximální počet datových disků: 32 (stejné) Akcelerované síťové služby: Ano (+) Premium Storage: Ano (+) Interconnect InfiniBand: Ano (stejné) |
NP-Series virtuální počítače
Důležité
Velikosti NP-řad (Standard_NP10s, Standard_NP20s, Standard_NP40s) jsou naplánovány na ukončení provozu 31. května 2027. Po tomto datu se zbývající virtuální počítače řady NP-series automaticky uvolní, přestanou fungovat, přestanou účtovat poplatky a už nemají smlouvu SLA ani podporu. Data spravovaných disků se zachovají.
Odkupování rezervovaných instancí: Nákupy 1leté a 3leté rezervované instance virtuálních počítačů Azure pro řadu NP-series skončily dne 2. dubna 2026. Zákazníci s plánováním kapacity spojeným s rezervovanými instancemi by měli migrovat nebo příslušným způsobem upravit rezervace.
Virtuální počítače řady NP-series využívají AMD Xilinx Alveo U250 FPGA a používají se pro vlastní úlohy akcelerované FPGA, jako jsou odvozování ML, překódování videa a vyhledávání a analýzy databází. Na rozdíl od řad virtuálních počítačů založených na GPU používají np-series akceleraci FPGA prostřednictvím nástrojů Xilinx XRT/Vitis. Migrace na alternativy založené na GPU vyžaduje přenos úloh z architektur založených na FPGA na architektury založené na GPU, jako je CUDA.
Doporučené cíle migrace na základě charakteristik úloh:
- NCasT4_v3 (NVIDIA T4) – nejvhodnější pro odvozování, interaktivní grafiku a úlohy citlivé na náklady.
- NDv2 (NVIDIA V100 s NVLinkem) – nejvhodnější pro trénování AI akcelerované pomocí GPU a úlohy HPC vyžadující velkou paměť GPU a propojovací kapacitu.
- NCads_H100_v5 (NVIDIA H100) – Nejvhodnější pro moderní trénování AI a dávkové odvozování v nejnovější generaci GPU.
| Aktuální velikost virtuálního počítače | Cílová velikost VM | GPU | Počet GPU | Generování GPU | vCPU (virtuální procesory) | Paměť (GiB) |
|---|---|---|---|---|---|---|
| Standard_NP10s | Standard_NC4as_T4_v3 | NVIDIA T4 | 1 | Turing | 4 | 28 |
| Standard_NP20s | Standard_NC16as_T4_v3 nebo Standard_ND40rs_v2 (trénink) |
NVIDIA T4 nebo V100 | 1 nebo 8 | Turing nebo Volta | 16 nebo 40 | 110 nebo 672 |
| Standard_NP40s | Standard_NC64as_T4_v3 nebo Standard_NC24ads_A100_v4 (špičkový) |
NVIDIA T4 nebo H100 | 4 nebo 1 | Turing nebo Hopper | 64 nebo 24 | 440 nebo 220 |
Postup migrace
Obecné změny
Zvolte řadu a velikost pro migraci. Využijte cenovou kalkulačku pro další přehledy.
Získání kvóty pro řadu cílových virtuálních počítačů
Změňte velikost aktuálního virtuálního počítače řady N* na cílovou velikost. Může to být také vhodná doba k aktualizaci operačního systému používaného imagí virtuálního počítače nebo přijetí jedné z imagí prostředí HPC s předinstalovanými ovladači jako výchozím bodem.
Důležité
Vaše image virtuálního počítače mohla být vytvořena se starší verzí modulu runtime CUDA, ovladače NVIDIA a (v závislosti na tom, jak velké jsou velikosti povolené pro RDMA) ovladačů Mellanox OFED, než vyžaduje nová řada vašich virtuálních počítačů GPU, kterou můžete aktualizovat podle pokynů v dokumentaci Azure.
Zásadní změny
Výběr cílové velikosti pro migraci
Po posouzení aktuálního využití rozhodněte, jaký typ virtuálního počítače GPU potřebujete. V závislosti na požadavcích na úlohy máte několik různých možností.
Note
Osvědčeným postupem je vybrat velikost virtuálního počítače na základě nákladů i výkonu. Doporučení v této příručce jsou založena na specifickém porovnání metrik výkonu one-to-one a nejbližším ekvivalentu v jiné řadě virtuálních počítačů. Než se rozhodnete o správné velikosti, získejte porovnání nákladů pomocí cenové kalkulačky Azure.
Zákazníci řady NP:Při výběru alternativ k virtuálním počítačům řady NP-series zvažte náklady i výkon. Novější generace GPU (T4, V100, H100) můžou výrazně zkrátit dobu řešení pro úlohy umělé inteligence a analýz. Podrobné pokyny k migraci řady NP-series najdete v části NP-Series virtuálních počítačů výše.
Důležité
Všechny starší velikosti NC, NC v2 a ND-Series jsou k dispozici ve velikostech s více GPU, včetně velikostí s 4-GPU, s volitelným interconnectem InfiniBand pro horizontální škálování a úzce propojené úlohy, které vyžadují větší výpočetní výkon než jeden virtuální počítač se 4 GPU, nebo než může dodávat jedna GPU K80, P40 nebo P100. I když výše uvedená doporučení nabízejí jednoduchou cestu vpřed, uživatelé těchto velikostí by měli zvážit dosažení svých výkonnostních cílů s výkonnější řadou virtuálních počítačů založených na GPU NVIDIA V100, jako jsou nc v3-Series a ND v2-series, což obvykle umožňuje stejnou úroveň výkonu úloh s nižšími náklady a lepší možností správy tím, že poskytuje výrazně vyšší výkon na GPU a na virtuální počítač před tím, než se vyžaduje konfigurace s více GPU a více uzly, v pořadí.
Získání kvóty pro cílovou řadu virtuálních počítačů
Postupujte podle pokynů a požádejte o navýšení kvóty virtuálních procesorů podle rodiny virtuálních počítačů. Vyberte cílovou velikost virtuálního počítače, kterou jste vybrali pro migraci.
Změna velikosti aktuálního virtuálního počítače
Můžete změnit velikost virtuálního stroje.
Další kroky
Úplný seznam velikostí virtuálních počítačů s podporou GPU najdete v tématu GPU – přehled akcelerovaných výpočetních prostředků.