Jaké jsou cílové výpočetní objekty v Azure Machine Learning?

Cílový výpočetní objekt je určený výpočetní prostředek nebo prostředí, ve kterém spouštíte trénovací skript nebo hostujete nasazení služby. Toto umístění může představovat váš lokální počítač nebo cloudový výpočetní prostředek. Pomocí cílových výpočetních prostředků můžete později snadno změnit výpočetní prostředí beze změny kódu.

Azure Machine Learning podporuje různé cílové výpočetní objekty. V typickém životním cyklu vývoje modelu můžete:

  1. Začněte vývojem a experimentováním s malým množstvím dat. V této fázi jako cíl výpočetních prostředků použijte místní prostředí, jako je místní počítač nebo cloudový virtuální počítač.
  2. Zvyšte kapacitu pro větší objem dat nebo proveďte distribuované školení pomocí jednoho z těchto výpočetních cílů pro školení.
  3. Jakmile je model připravený, nasaďte ho do webhostingového prostředí pomocí jednoho z těchto cílových výpočetních prostředků pro nasazení.

Připojte výpočetní prostředky, které použijete pro cílové výpočetní objekty, k pracovnímu prostoru. Uživatelé pracovního prostoru sdílejí jiné výpočetní prostředky než místní počítač.

Trénink výpočetních cílů

Jak škálujete vaše tréninky na větších datových sadách nebo provádíte distribuované trénování, použijte Azure Machine Learning výpočet k vytvoření clusteru jednoho uzlu nebo víc uzlů, který se automaticky přizpůsobí pokaždé, když zadáte úlohu. Můžete také připojit vlastní výpočetní prostředek, i když se podpora pro různé scénáře může lišit.

Výpočetní cíle můžete znovu použít z jedné trénovací úlohy na další. Například po připojení vzdáleného virtuálního počítače k pracovnímu prostoru ho můžete znovu použít pro více úloh.

Pro trénovací cílový výpočetní objekt pro většinu úloh můžete použít libovolný z následujících prostředků. Ne všechny prostředky se dají použít pro automatizované strojové učení, kanály strojového učení nebo návrháře. Azure Databricks lze použít jako výukový zdroj pro místní běhy a kanály strojového učení, ale ne jako vzdálený cíl pro jiné účely školení.

Cíle trénování Automatizované strojové učení Kanály strojového učení Návrhář služby Azure Machine Learning
výpočetní cluster Azure Machine Learning Ano Ano Ano
Bezserverové výpočetní prostředky Azure Machine Learning Ano Ano Ano
Azure Machine Learning výpočetní jednotka Ano (prostřednictvím sady SDK) Ano Ano
Azure Machine Learning Kubernetes Ano Ano
Vzdálený virtuální počítač Ano Ano  
Pooly Apache Spark (Náhled) Ano (pouze místní režim sady SDK) Ano  
Azure Databricks Ano (pouze místní režim sady SDK) Ano  
Azure Data Lake Analytics   Ano  
Azure HDInsight   Ano  
Azure Batch   Ano  

Návod

Výpočetní instance má 120GB disk s operačním systémem. Pokud vám dojde místo na disku, před zastavením nebo restartováním výpočetní instance pomocí terminálu vymažte alespoň 1 až 2 GB.

Výpočetní cíle pro inferenci

Při odvozování Azure Machine Learning vytvoří kontejner Dockeru, který je hostitelem modelu a přidružených prostředků potřebných k jeho použití. Tento kontejner použijete v cílovém výpočetním objektu.

Cílový výpočetní objekt, který používáte k hostování modelu, ovlivňuje náklady a dostupnost nasazeného koncového bodu. Tato tabulka slouží k výběru vhodného cílového výpočetního objektu.

Cílový výpočetní objekt Použití Podpora GPU Popis
koncové body Azure Machine Learning Odvození v reálném čase

Dávkové odvozování		 Ano Plně spravované výpočetní prostředky pro výpočet v reálném čase (spravované online koncové body) a dávkové vyhodnocování na výpočetních prostředcích bez serveru (dávkové koncové body).
Azure Machine Learning Kubernetes Odvození v reálném čase

Dávkové odvozování		 Ano Spouštění úloh odvození v místních clusterech, cloudech a hraničních clusterech Kubernetes

Poznámka:

Při výběru konfigurace clusteru nejprve navyšte kapacitu a poté rozdělte zátěž. Začněte s počítačem, který má 150 % paměti RAM potřebné pro váš model, analyzujte výsledek a najděte počítač s požadovaným výkonem. Jakmile se to naučíte, zvyšte počet počítačů tak, aby vyhovoval vaší potřebě pro souběžné odvozování.

Nasaďte a vyhodnoťte model strojového učení pomocí online koncového bodu.

Azure Machine Learning vypočet (spravovaný)

Azure Machine Learning vytváří a spravuje spravované výpočetní prostředky. Tento typ výpočetních prostředků je optimalizovaný pro úlohy strojového učení. Azure Machine Learning výpočetních clusterů, serverless compute a compute instance jsou jedinými spravovanými výpočetními prostředky.

Nemusíte vytvářet bezserverové výpočetní prostředky. Můžete vytvořit výpočetní instance nebo výpočetní clustery Azure Machine Learning:

Poznámka:

Místo vytváření výpočetního clusteru použijte bezserverové výpočetní prostředky k přesměrování správy životního cyklu výpočetního cyklu na Azure Machine Learning.

Při vytváření těchto výpočetních prostředků se automaticky stanou součástí vašeho pracovního prostoru, na rozdíl od jiných typů cílových výpočetních prostředků.

Schopnost Výpočetní klastr Výpočetní instance
Cluster s jedním uzlem nebo více uzly ✓ Cluster s jedním uzlem
Automatické škálování při každém odeslání úlohy ✓
Automatická správa clusteru a plánování úloh ✓ ✓
Podpora zdrojů CPU i GPU ✓ ✓

Poznámka:

Abyste se vyhnuli poplatkům za nečinnost výpočetních prostředků:

  • V případě výpočetního clusteru se ujistěte, že je minimální počet uzlů nastavený na 0, nebo použijte bezserverové výpočetní prostředky.
  • U výpočetní instance povolte vypnutí při nečinnosti. Přestože zastavení výpočetní instance zastaví fakturaci za výpočetní hodiny, nicméně stále platíte za disk, veřejnou IP adresu a standardní nástroj pro vyrovnávání zatížení.

Podporované řady a velikosti virtuálních počítačů

Důležité

Pokud jsou vaše výpočetní instance nebo výpočetní clustery založené na některé z těchto řad, vytvořte znovu jinou velikost virtuálního počítače.

Tyto série byly vyřazeny 31. srpna 2023:

Tyto série byly vyřazeny 31. srpna 2024:

Tyto série byly vyřazeny 30. září 2025:

Když v Azure Machine Learning vyberete velikost uzlu spravovaného výpočetního prostředku, můžete si vybrat z vybraných velikostí virtuálních počítačů dostupných v Azure. Azure nabízí řadu velikostí pro Linux a Windows pro různé úlohy. Další informace najdete v tématu Typy a velikosti virtuálních počítačů.

Při výběru velikosti virtuálního počítače platí několik výjimek a omezení:

  • Azure Machine Learning nepodporuje některé řady virtuálních počítačů.
  • Některé řady virtuálních počítačů, jako jsou GPU a jiné speciální skladové položky, se nemusí zpočátku zobrazovat v seznamu dostupných virtuálních počítačů. Přesto je ale můžete použít, jakmile požádáte o změnu kvóty. Další informace o vyžádání kvót najdete v tématu Žádost o navýšení kvóty a limitu.

Více informací o podporovaných řadách najdete v následující tabulce.

Podporovaná řada virtuálních počítačů Kategorie Podporováno
Av2 Obecné účely Výpočetní clustery a instance
DDSv4 Obecné účely Výpočetní clustery a instance
Dv2 Obecné účely Výpočetní clustery a instance
Dv3 Obecné účely Výpočetní clustery a instance
DSv2 Obecné účely Výpočetní clustery a instance
DSv3 Obecné účely Výpočetní clustery a instance
EAv4 Optimalizace paměti Výpočetní clustery a instance
Ev3 Optimalizace paměti Výpočetní clustery a instance
ESv3 Optimalizace paměti Výpočetní clustery a instance
FSv2 Optimalizované pro výpočty Výpočetní clustery a instance
Trh zahraničních měn Optimalizované pro výpočty Výpočetní clustery
H Vysokovýkonné výpočetní prostředí Výpočetní clustery a instance
HB Vysokovýkonné výpočetní prostředí Výpočetní clustery a instance
HBv2 Vysokovýkonné výpočetní prostředí Výpočetní clustery a instance
HBv3 Vysokovýkonné výpočetní prostředí Výpočetní clustery a instance
HC Vysokovýkonné výpočetní prostředí Výpočetní clustery a instance
LSv2 Úložiště optimalizováno Výpočetní clustery a instance
M Optimalizace paměti Výpočetní clustery a instance
NC GPU (K80) Výpočetní clustery a instance
NC Promo GPU (K80) Výpočetní clustery a instance
NCv2 GPU (P100) Výpočetní clustery a instance
NCv3 GPU (V100) Výpočetní clustery a instance
ND GPU (P40) Výpočetní clustery a instance
NDv2 GPU (V100) Výpočetní clustery a instance
NV GPU (M60) Výpočetní clustery a instance
NVv3 GPU (M60) Výpočetní clustery a instance
NCasT4_v3 GPU (T4) Výpočetní clustery a instance
NCads_A100_v4 GPU (A100) Výpočetní clustery a instance
NDasrA100_v4 GPU (A100) Výpočetní clustery a instance
NCads_H100_v5 GPU (H100) Výpočetní clustery a instance
ND-H100-v5 GPU (H100) Výpočetní clustery a instance
ND-H200-v5 GPU (H200) Výpočetní clustery a instance

I když Azure Machine Learning tyto řady virtuálních počítačů podporuje, nemusí být dostupné ve všech Azure oblastech. Pokud chcete zkontrolovat, jestli jsou řady virtuálních počítačů dostupné, podívejte se na produkty dostupné v jednotlivých oblastech.

Poznámka:

Azure Machine Learning nepodporuje všechny velikosti virtuálních počítačů, které Azure Compute podporuje. Pokud chcete zobrazit seznam dostupných velikostí virtuálních počítačů podporovaných konkrétními typy výpočetních virtuálních počítačů, použijte jednu z následujících metod:

Pokud používáte cílové výpočetní objekty s podporou GPU, ujistěte se, že je v trénovacím prostředí nainstalované správné ovladače CUDA. Pomocí následující tabulky určete správnou verzi CUDA, která se má použít:

Architektura GPU řada virtuálních počítačů Azure Podporované verze CUDA
Hopper NCadsH100_v5, ND-H100-v5, ND-H200-v5 12.0+
Ampér NDA100_v4, NCA100_v4 11.0+
Turing NCT4_v3 10.0+
Volta NCv3, NDv2 9.0+
Pascal NCv2, ND 9.0+
Maxwell NV, NVv3 9.0+
Kepler NC, NC Akce 9.0+

Kromě zajištění kompatibility verze a hardwaru CUDA se také ujistěte, že je verze CUDA kompatibilní s verzí architektury strojového učení, kterou používáte:

Výpočetní izolace

Výpočetní prostředí Azure Machine Learning poskytuje velikosti virtuálních počítačů, které jsou izolované od konkrétního typu hardwaru a vyhrazené pro jednoho zákazníka. Velikosti izolovaných virtuálních počítačů fungují nejlépe pro úlohy, které vyžadují vysokou míru izolace od úloh jiných zákazníků, například když potřebujete splnit požadavky na dodržování předpisů a zákonné požadavky. Pokud používáte izolovanou velikost, je váš virtuální počítač jediným spuštěným na této konkrétní instanci serveru.

Mezi aktuální nabídky izolovaných virtuálních počítačů patří:

  • Standard_M128ms
  • Standard_F72s_v2
  • Standard_NC24s_v3
  • Standard_NC24rs_v3 (s podporou RDMA)

Další informace o izolaci najdete v tématu Solation ve veřejném cloudu Azure.

Nespravované výpočetní prostředky

Azure Machine Learning nespravuje neřízený cílový výpočetní objekt. Tento typ cílového výpočetního objektu vytvoříte mimo Azure Machine Learning a pak ho připojíte k pracovnímu prostoru. Možná budete muset provést další kroky k údržbě nespravovaných výpočetních prostředků nebo ke zlepšení výkonu úloh strojového učení.

Azure Machine Learning podporuje následující nespravované výpočetní typy:

  • Vzdálené virtuální počítače
  • Azure HDInsight
  • Azure Databricks
  • Azure Data Lake Analytics
  • Kubernetes

Další informace najdete v tématu Správa výpočetních prostředků.

Související obsah

  • Last updated on