Mik a számítási célok az Azure Machine Learningben?

A számítási cél egy kijelölt számítási erőforrás vagy környezet, ahol futtatja a betanítási szkriptet, vagy üzemelteti a szolgáltatás üzembe helyezését. Ez a hely lehet a helyi gép vagy egy felhőalapú számítási erőforrás. A számítási célok használata megkönnyíti a számítási környezet későbbi módosítását anélkül, hogy módosítania kellene a kódot.

Az Azure Machine Learning különböző támogatással rendelkezik a különböző számítási célokhoz. Egy tipikus modellfejlesztési életciklusban a következőt teheti:

1. Első lépésként dolgozzon ki és kísérletezzen kis mennyiségű adaton. Ebben a szakaszban használja a helyi környezetet, például egy helyi számítógépet vagy egy felhőalapú virtuális gépet (VM) számítási célként.
2. Vertikális felskálázás nagyobb adatokra, vagy elosztott betanítások elvégzése ezen betanítási számítási célok egyikével.
3. Miután a modell elkészült, helyezze üzembe egy web hosting környezetben ezen üzembehelyezési számítási célok egyikével.

A számítási célokhoz használt számítási erőforrások egy munkaterülethez vannak csatolva. A helyi gépen kívüli számítási erőforrásokat a munkaterület felhasználói osztják meg.

Számítási célok betanítása

Amikor nagyobb adathalmazokon skálázza fel a betanítást, vagy elosztott betanítást végez, az Azure Machine Learning Compute használatával létrehozhat egy egy- vagy többcsomópontos fürtöt, amely minden feladat elküldésekor automatikusan skáláz. Saját számítási erőforrást is csatolhat, bár a különböző forgatókönyvek támogatása eltérő lehet.

A számítási célok az egyik betanítási feladattól a következőig újra felhasználhatók. Ha például távoli virtuális gépet csatol a munkaterülethez, több feladathoz is felhasználhatja. Gépi tanulási folyamatok esetén minden számítási célhoz használja a megfelelő folyamatlépést .

Az alábbi erőforrások bármelyikét használhatja a legtöbb feladat betanítási számítási céljához. Nem minden erőforrás használható automatizált gépi tanuláshoz, gépi tanulási folyamatokhoz vagy tervezőkhöz. Az Azure Databricks használható betanítási erőforrásként helyi futtatásokhoz és gépi tanulási folyamatokhoz, de nem távoli célként más betanításokhoz.

Képzési célok	Automatizált gépi tanulás	Gépi tanulási folyamatok	Azure Machine Learning-tervező
Helyi számítógép	Igen
Azure Machine Learning számítási fürt	Igen	Igen	Igen
Kiszolgáló nélküli Azure Machine Learning-számítás	Igen	Igen	Igen
Azure Machine Learning számítási példány	Igen (SDK-n keresztül)	Igen	Igen
Azure Machine Learning Kubernetes		Igen	Igen
Távoli virtuális gép	Igen	Igen
Apache Spark-készletek (előzetes verzió)	Igen (csak helyi SDK-mód)	Igen
Azure Databricks	Igen (csak helyi SDK-mód)	Igen
Azure Data Lake Analytics		Igen
Azure HDInsight		Igen
Azure Batch		Igen

Tipp.

A számítási példány 120 GB-os operációsrendszer-lemezzel rendelkezik. Ha elfogy a lemezterület, a terminál használatával töröljön legalább 1–2 GB-ot, mielőtt leállítja vagy újraindítaná a számítási példányt.

Számítási célok következtetéshez

A következtetés végrehajtásakor az Azure Machine Learning létrehoz egy Docker-tárolót, amely a modell és a használathoz szükséges kapcsolódó erőforrásokat tárolja. Ezt a tárolót ezután egy számítási célban használja a rendszer.

A modell üzemeltetéséhez használt számítási cél hatással van az üzembe helyezett végpont költségeire és rendelkezésre állására. Ezzel a táblával válasszon ki egy megfelelő számítási célt.

Számítási cél	Alkalmazási cél	GPU-támogatás	Leírás
Azure Machine Learning-végpontok	Valós idejű következtetés Batch-következtetés	Igen	Teljes körűen felügyelt számítások valós idejű (felügyelt online végpontokhoz) és kötegelt pontozáshoz (kötegelt végpontokhoz) a kiszolgáló nélküli számításban.
Azure Machine Learning Kubernetes	Valós idejű következtetés Batch-következtetés	Igen	Következtetési számítási feladatok futtatása helyszíni, felhőbeli és peremhálózati Kubernetes-fürtökön.

Feljegyzés

Fürt termékváltozatának kiválasztásakor először vertikális felskálázást, majd vertikális felskálázást kell végezni. Kezdje egy olyan géppel, amely a modell által igényelt RAM 150%-ával rendelkezik, profilozza az eredményt, és keressen egy olyan gépet, amely rendelkezik a szükséges teljesítménnyel. Ha ezt megtanulta, növelje a gépek számát, hogy megfeleljen az egyidejű következtetés szükségletének.

Gépi tanulási modell üzembe helyezése és pontszáma online végpont használatával.

Azure Machine Learning-számítás (felügyelt)

Az Azure Machine Learning létrehozza és kezeli a felügyelt számítási erőforrásokat. Ez a számítási típus gépi tanulási számítási feladatokhoz van optimalizálva. Az Azure Machine Learning számítási fürtöi, a kiszolgáló nélküli számítási és számítási példányok az egyetlen felügyelt számítás.

Nincs szükség kiszolgáló nélküli számítás létrehozására. Azure Machine Learning számítási példányokat vagy számítási fürtöket az alábbiakból hozhat létre:

• Azure Machine Learning Studio
• A Python SDK és az Azure CLI:
  • Számítási példány
  • Számítási fürt
• Egy Azure Resource Manager-sablon. Példasablon : Azure Machine Learning számítási fürt létrehozása.

Feljegyzés

Számítási fürt létrehozása helyett használjon kiszolgáló nélküli számítást a számítási életciklus felügyeletének az Azure Machine Learningbe való kiszervezéséhez.

Létrehozásukkor ezek a számítási erőforrások automatikusan a munkaterület részét képezik, más számítási céloktól eltérően.

Funkció	Számítási fürt	Számítási példány
Egy- vagy többcsomópontos fürt	✓	Egycsomópontos fürt
Automatikus skálázás minden feladat elküldésekor	✓
Automatikus fürtkezelés és feladatütemezés	✓	✓
Cpu- és GPU-erőforrások támogatása	✓	✓

Feljegyzés

A díjak elkerülése, ha a számítás tétlen:

• Számítási fürt esetén győződjön meg arról, hogy a csomópontok minimális száma 0, vagy kiszolgáló nélküli számítást használ.
• Számítási példány esetén engedélyezze az inaktív leállítást.

Támogatott virtuálisgép-sorozatok és -méretek

Fontos

Ha a számítási példány vagy számítási fürtök ezen sorozatok bármelyikén alapulnak, a szolgáltatáskimaradás elkerülése érdekében hozza létre újra a virtuálisgép-méretet egy másik virtuálisgép-mérettel a kivonási dátum előtt.

Ezek a sorozatok 2023. augusztus 31-én visszavonulnak:

• Azure NC-sorozat
• Azure NCv2-sorozat
• Azure ND-sorozat
• Azure NV- és NV_Promo sorozat

Ezek a sorozatok 2024. augusztus 31-én visszavonulnak:

• Azure Av1-sorozat
• Azure HB-sorozat

Ha egy felügyelt számítási erőforrás csomópontméretét választja ki az Azure Machine Learningben, választhat az Azure-ban elérhető virtuálisgép-méretek közül. Az Azure számos méretet kínál Linuxhoz és Windowshoz különböző számítási feladatokhoz. További információkért tekintse meg a virtuális gépek típusait és méretét.

A virtuálisgép-méret kiválasztásának néhány kivétele és korlátozása van:

• Egyes virtuálisgép-sorozatok nem támogatottak az Azure Machine Learningben.
• Előfordulhat, hogy egyes virtuálisgép-sorozatok, például GPU-k és más speciális termékváltozatok kezdetben nem jelennek meg az elérhető virtuális gépek listájában. A kvótamódosítás kérése után azonban továbbra is használhatja őket. A kvóták kéréséről további információt a Kvóta kérése és a korlátnövelés című témakörben talál. A támogatott sorozatokkal kapcsolatos további információkért tekintse meg az alábbi táblázatot.

Támogatott virtuálisgép-sorozat	Kategória	Támogatja:
DDSv4	Általános célú	Számítási fürtök és példányok
Dv2	Általános célú	Számítási fürtök és példányok
Dv3	Általános célú	Számítási fürtök és példányok
DSv2	Általános célú	Számítási fürtök és példányok
DSv3	Általános célú	Számítási fürtök és példányok
EAv4	Memóriaoptimalizált	Számítási fürtök és példányok
Ev3	Memóriaoptimalizált	Számítási fürtök és példányok
ESv3	Memóriaoptimalizált	Számítási fürtök és példányok
FSv2	Számításoptimalizált	Számítási fürtök és példányok
FX	Számításoptimalizált	Számítási fürtök
H	Nagy teljesítményű számítás	Számítási fürtök és példányok
HB	Nagy teljesítményű számítás	Számítási fürtök és példányok
HBv2	Nagy teljesítményű számítás	Számítási fürtök és példányok
HBv3	Nagy teljesítményű számítás	Számítási fürtök és példányok
HC	Nagy teljesítményű számítás	Számítási fürtök és példányok
LSv2	Tároptimalizált	Számítási fürtök és példányok
M	Memóriaoptimalizált	Számítási fürtök és példányok
NC	GPU	Számítási fürtök és példányok
NC Promo	GPU	Számítási fürtök és példányok
NCv2	GPU	Számítási fürtök és példányok
NCv3	GPU	Számítási fürtök és példányok
ND	GPU	Számítási fürtök és példányok
NDv2	GPU	Számítási fürtök és példányok
NV	GPU	Számítási fürtök és példányok
NVv3	GPU	Számítási fürtök és példányok
NCasT4_v3	GPU	Számítási fürtök és példányok
NDasrA100_v4	GPU	Számítási fürtök és példányok

Bár az Azure Machine Learning támogatja ezeket a virtuálisgép-sorozatokat, előfordulhat, hogy nem minden Azure-régióban érhetők el. A virtuálisgép-sorozatok elérhetőségének ellenőrzéséhez tekintse meg a régiónként elérhető termékeket.

Feljegyzés

Az Azure Machine Learning nem támogatja az Azure Compute által támogatott összes virtuálisgép-méretet. Az egyes számítási virtuálisgép-típusok által támogatott virtuálisgép-méretek listázásához használja az alábbi módszerek egyikét:

• REST API
• Az Azure CLI 2.0-s bővítménye gépi tanuláshoz , az ml számítási lista méretei.

Ha GPU-kompatibilis számítási célokat használ, fontos, hogy a megfelelő CUDA-illesztőprogramok legyenek telepítve a betanítási környezetben. A következő táblázat segítségével állapítsa meg a megfelelő CUDA-verziót:

GPU-architektúra	Azure-beli virtuálisgép-sorozat	Támogatott CUDA-verziók
Amper	NDA100_v4	11.0+
Turing	NCT4_v3	10.0+
Volta	NCv3, NDv2	9.0+
Pascal	NCv2, ND	9.0+
Maxwell	NV, NVv3	9.0+
Kepler	NC, NC Promo	9.0+

A CUDA-verzió és a hardver kompatibilitásának biztosítása mellett győződjön meg arról is, hogy a CUDA-verzió kompatibilis a használt gépi tanulási keretrendszer verziójával:

• A PyTorch esetében a pytorch korábbi verzióinak lapján ellenőrizheti a kompatibilitást.
• A Tensorflow esetében a Tensorflow buildjének forrásoldalról való megtekintésével ellenőrizheti a kompatibilitást.

Izolált számítási kapacitás

Az Azure Machine Learning Compute olyan virtuálisgép-méreteket kínál, amelyek egy adott hardvertípushoz vannak elkülönítve, és egyetlen ügyfél számára vannak dedikáltak. Az izolált virtuálisgép-méretek olyan számítási feladatokhoz ideálisak, amelyek magas fokú elkülönítést igényelnek más ügyfelek számítási feladataitól a megfelelőségi és szabályozási követelményeknek való megfelelés érdekében. Az elkülönített méret használata garantálja, hogy a virtuális gép az egyetlen, amely az adott kiszolgálópéldányon fut.

A jelenlegi izolált virtuálisgép-ajánlatok a következők:

• Standard_M128ms
• Standard_F72s_v2
• Standard_NC24s_v3
• Standard_NC24rs_v3 (RDMA-kompatibilis)

Az elkülönítésről további információt az Elkülönítés az Azure nyilvános felhőben című témakörben talál.

Nem felügyelt számítás

Az Azure Machine Learning nem kezeli a nem felügyelt számítási célokat. Ezt a számításicél-típust az Azure Machine Learningen kívül hozza létre, majd csatolja a munkaterülethez. A nem felügyelt számítási erőforrások további lépéseket igényelhetnek a gépi tanulási számítási feladatok teljesítményének fenntartásához vagy javításához.

Az Azure Machine Learning az alábbi nem felügyelt számítási típusokat támogatja:

• Távoli virtuális gépek
• Azure HDInsight
• Azure Databricks
• Azure Data Lake Analytics

• Kubernetes

További információ: Számítási erőforrások kezelése.

Következő lépés

• Gépi tanulási modell üzembe helyezése és pontszáma online végpont használatával