Azure Machine Learning işlem hedefleri nelerdir?

İşlem hedefi, eğitim betiğinizi çalıştırdığınız veya hizmet dağıtımınızı barındırdığınız belirlenmiş bir işlem kaynağı veya ortamıdır. Bu konum yerel makineniz veya bulut tabanlı işlem kaynağınız olabilir. İşlem hedeflerini kullanarak daha sonra kodunuzu değiştirmeden işlem ortamınızı kolayca değiştirebilirsiniz.

Azure Machine Learning farklı işlem hedeflerini destekler. Tipik bir model geliştirme yaşam döngüsünde şunları yapın:

  1. Başlangıç olarak az miktarda veri geliştirip üzerinde denemeler yapın. Bu aşamada, işlem hedefi olarak yerel bilgisayar veya bulut tabanlı sanal makine (VM) gibi yerel ortamınızı kullanın.
  2. Daha büyük verilere ölçeklendirin veya bu eğitim işlem hedeflerinden birini kullanarak dağıtılmış eğitim yapın.
  3. Modeliniz hazır olduktan sonra, bu dağıtım işlem hedeflerinden birini kullanarak bir web barındırma ortamına dağıtın.

İşlem hedefleriniz için kullandığınız işlem kaynaklarını bir çalışma alanına ekleyin. Çalışma alanının kullanıcıları yerel makine dışındaki işlem kaynaklarını paylaşır.

Hesaplama hedeflerini eğitme

Daha büyük veri kümeleri üzerinde eğitiminizi ölçeklendirdikçe veya dağıtılmış eğitim gerçekleştirdiğinizde, her iş gönderdiğinizde otomatik ölçeklenen tek düğümlü ya da çok düğümlü bir küme oluşturmak için Azure Machine Learning işlem kaynağını kullanın. Farklı senaryolara yönelik destek farklılık gösterse de kendi işlem kaynağınızı da ekleyebilirsiniz.

İşlem hedeflerini bir eğitim işinden diğerine yeniden kullanabilirsiniz. Örneğin, çalışma alanınıza uzak bir VM ekledikten sonra, bunu birden çok iş için yeniden kullanabilirsiniz.

Makine öğrenmesi işlem hatları için her işlem hedefi için uygun işlem hattı adımını kullanın.

Çoğu iş için eğitim işlem hedefi için aşağıdaki kaynaklardan herhangi birini kullanabilirsiniz. Otomatik makine öğrenmesi, makine öğrenmesi işlem hatları veya tasarımcı için tüm kaynaklar kullanılamaz. Azure Databricks, yerel çalıştırmalar ve makine öğrenmesi işlem hatları için eğitim kaynağı olarak kullanılabilir, ancak diğer eğitimler için uzak hedef olarak kullanılamaz.

Eğitim hedefleri Otomatik makine öğrenmesi Makine öğrenmesi işlem hatları Azure Machine Learning tasarımcısı
Azure Machine Learning işlem kümesi Evet Evet Evet
Azure Machine Learning sunucusuz işlem Evet Evet Evet
Azure Machine Learning işlem örneği Evet (SDK aracılığıyla) Evet Evet
Azure Machine Learning Kubernetes Evet Evet
Uzak Sanal Makine (VM) Evet Evet  
Apache Spark havuzları (önizleme) Evet (yalnızca SDK yerel modu) Evet  
Azure Databricks Evet (yalnızca SDK yerel modu) Evet  
Azure Data Lake Analytics   Evet  
Azure HDInsight   Evet  
Azure Batch   Evet  
Eğitim hedefleri Otomatik makine öğrenmesi Makine öğrenmesi işlem hatları Azure Machine Learning tasarımcısı
Yerel bilgisayar Evet    
Azure Machine Learning işlem kümesi Evet Evet Evet
Azure Machine Learning işlem örneği Evet (SDK aracılığıyla) Evet Evet
Azure Machine Learning Kubernetes Evet Evet
Uzak Sanal Makine (VM) Evet Evet  
Apache Spark havuzları (önizleme) Evet (yalnızca SDK yerel modu) Evet  
Azure Databricks Evet (yalnızca SDK yerel modu) Evet  
Azure HDInsight   Evet  
Azure Batch   Evet  

İpucu

İşlem örneğinin 120 GB işletim sistemi diski vardır. Disk alanınız tükenirse, işlem örneğini durdurmadan veya yeniden başlatmadan önce en az 1-2 GB temizlemek için terminali kullanın.

Çıkarım için işlem hedefleri

Çıkarım gerçekleştirdiğinizde, Azure Machine Learning modeli ve bunu kullanmak için gereken ilişkili kaynakları barındıran bir Docker kapsayıcısı oluşturur. Bu kapsayıcıyı bir hesaplama hedefinde kullanırsınız.

Modelinizi barındırmak için kullandığınız işlem hedefi, dağıtılan uç noktanızın maliyetini ve kullanılabilirliğini etkiler. Uygun bir işlem hedefi seçmek için bu tabloyu kullanın.

Hesaplama hedefi Kullanım amaçları GPU desteği Açıklama
Azure Machine Learning uç noktaları Gerçek zamanlı çıkarım

Toplu çıkarım		 Evet Sunucusuz hesaplama üzerinde gerçek zamanlı (yönetimli çevrimiçi uç noktalar) ve toplu puanlama (toplu uç noktalar) için tam olarak yönetilen hesaplamalar.
Azure Machine Learning Kubernetes Gerçek zamanlı çıkarım

Toplu çıkarım		 Evet Şirket içi, bulut ve uç Kubernetes kümelerinde çıkarım iş yüklerini çalıştırın.
Hesaplama hedefi Kullanım amaçları GPU desteği Açıklama
Yerel web hizmeti Test/hata ayıklama   Sınırlı test ve sorun giderme için kullanın. Donanım hızlandırma, yerel sistemdeki kitaplıkların kullanımına bağlıdır.
Azure Machine Learning Kubernetes Gerçek zamanlı çıkarım Evet Çıkarım iş yüklerini bulutta çalıştırın.
Azure Container Instances Gerçek zamanlı çıkarım

Yalnızca geliştirme/test amacıyla önerilir.		   48 GB'tan az RAM gerektiren düşük ölçekli CPU tabanlı iş yükleri için kullanın. Kümeyi yönetmeniz gerekmez.

Yalnızca boyutu 1 GB'tan küçük modeller için uygundur.

Tasarımcıda desteklenir.

Not

Küme SKU'su seçerken önce ölçeği artırın ve sonra yatay genişletme yapın. Modelinizin gerektirdiği RAM'in %150'sine sahip bir makineyle başlayın, sonucu analiz edin ve ihtiyacınız olan performansa sahip bir makine bulun. Bunu öğrendikte, eşzamanlı çıkarım gereksiniminize uyacak şekilde makine sayısını artırın.

Çevrimiçi uç nokta kullanarak makine öğrenmesi modelini dağıtma ve puanlandırma.

Makine öğrenmesi modellerini Azure olarak dağıtabilirsiniz.

Azure Machine Learning hesaplama (yönetilen)

Azure Machine Learning yönetilen işlem kaynaklarını oluşturur ve yönetir. Bu işlem türü makine öğrenmesi iş yükleri için iyileştirilmiştir. Azure Machine Learning işlem kümeleri, sunucusuz işlem ve bilgisayar örnekleri yönetilen tek işlemdir.

Sunucusuz işlem oluşturmanız gerekmez. Azure Machine Learning işlem örnekleri veya işlem kümeleri oluşturabilirsiniz:

Not

İşlem kümesi oluşturmak yerine, işlem yaşam döngüsü yönetimini Azure Machine Learning boşaltmak için sunucusuz işlem kullanın.

Bu işlem kaynaklarını oluşturduğunuzda, diğer işlem hedeflerinden farklı olarak otomatik olarak çalışma alanınızın bir parçası olur.

Yetkinlik İşlem kümesi Hesaplama örneği
Tek düğümlü veya çok düğümlü küme ✓ Tek düğüm kümesi
Her iş gönderdiğinizde otomatik ölçeklenir ✓
Otomatik küme yönetimi ve iş zamanlaması ✓ ✓
Hem CPU hem de GPU kaynakları için destek ✓ ✓

Not

Hesaplama birimi boşta olduğunda ücretlerden kaçınmak için:

  • İşlem kümesi için en az düğüm sayısının 0 olarak ayarlandığından emin olun veya sunucusuz işlem kullanın.
  • Hesaplama örneği için boşta kapatma modunu etkinleştirin. İşlem örneğinin durdurulması işlem saatleri için faturalandırmayı durdururken, disk, genel IP ve standart yük dengeleyici için ödeme yapmaya devam edersiniz.

Desteklenen VM serisi ve boyutları

Önemli

İşlem örneğiniz veya işlem kümeleriniz bu serilerden herhangi birini temel alırsa, başka bir VM boyutuyla yeniden oluşturun.

Bu seriler 31 Ağustos 2023'te kullanımdan kaldırıldı:

Bu seri 31 Ağustos 2024'te kullanımdan kaldırıldı:

Bu seri 30 Eylül 2025'te kullanımdan kaldırıldı:

Azure Machine Learning'da yönetilen işlem kaynağı için bir düğüm boyutu seçtiğinizde, Azure'de kullanılabilen vm boyutlarını seçebilirsiniz. Azure, Linux için çeşitli boyutlar ve farklı iş yükleri için Windows sunar. Daha fazla bilgi için bkz. VM türleri ve boyutları.

VM boyutu seçtiğinizde birkaç özel durum ve sınırlama uygulanır:

  • Azure Machine Learning bazı VM serilerini desteklemez.
  • GPU'lar ve diğer özel SKU'lar gibi bazı VM serileri başlangıçta kullanılabilir VM'ler listenizde görünmeyebilir. Ancak, kota değişikliği isteğinde bulunduktan sonra bunları kullanmaya devam edebilirsiniz. Kotaların talep edilmesi hakkında daha fazla bilgi için Kota ve limit artışlarını talep etme başlığına bakın.

Desteklenen seriler hakkında daha fazla bilgi edinmek için aşağıdaki tabloya bakın.

Desteklenen VM serisi Kategori Destekleyen:
Av2 Genel amaçlı Hesaplama kümeleri ve örnek birimi
DDSv4 Genel amaçlı Hesaplama kümeleri ve örnek birimi
Dv2 Genel amaçlı Hesaplama kümeleri ve örnek birimi
Dv3 Genel amaçlı Hesaplama kümeleri ve örnek birimi
DSv2 Genel amaçlı Hesaplama kümeleri ve örnek birimi
DSv3 Genel amaçlı Hesaplama kümeleri ve örnek birimi
EAv4 Optimize edilmiş bellek Hesaplama kümeleri ve örnek birimi
Ev3 Optimize edilmiş bellek Hesaplama kümeleri ve örnek birimi
ESv3 Optimize edilmiş bellek Hesaplama kümeleri ve örnek birimi
FSv2 Hesaplama için optimize edilmiş Hesaplama kümeleri ve örnek birimi
FX Hesaplama için optimize edilmiş İşlem kümeleri
H Yüksek performanslı işlem Hesaplama kümeleri ve örnek birimi
HB Yüksek performanslı işlem Hesaplama kümeleri ve örnek birimi
HBv2 Yüksek performanslı işlem Hesaplama kümeleri ve örnek birimi
HBv3 Yüksek performanslı işlem Hesaplama kümeleri ve örnek birimi
HC Yüksek performanslı işlem Hesaplama kümeleri ve örnek birimi
LSv2 Depolama Optimizasyonu Hesaplama kümeleri ve örnek birimi
M Optimize edilmiş bellek Hesaplama kümeleri ve örnek birimi
NC GPU (K80) Hesaplama kümeleri ve örnek birimi
NC Promosyonu GPU (K80) Hesaplama kümeleri ve örnek birimi
NCv2 GPU (P100) Hesaplama kümeleri ve örnek birimi
NCv3 GPU (V100) Hesaplama kümeleri ve örnek birimi
ND GPU (P40) Hesaplama kümeleri ve örnek birimi
NDv2 GPU (V100) Hesaplama kümeleri ve örnek birimi
NV GPU (M60) Hesaplama kümeleri ve örnek birimi
NVv3 GPU (M60) Hesaplama kümeleri ve örnek birimi
NCasT4_v3 GPU (T4) Hesaplama kümeleri ve örnek birimi
NCads_A100_v4 GPU (A100) Hesaplama kümeleri ve örnek birimi
NDasrA100_v4 GPU (A100) Hesaplama kümeleri ve örnek birimi
NCads_H100_v5 GPU (H100) Hesaplama kümeleri ve örnek birimi
ND-H100-v5 GPU (H100) Hesaplama kümeleri ve örnek birimi
ND-H200-v5 GPU (H200) Hesaplama kümeleri ve örnek birimi

Azure Machine Learning bu VM serisini desteklese de, tüm Azure bölgelerde kullanılamayabilir. VM serilerinin kullanılabilir olup olmadığını denetlemek için Bölgeye göre kullanılabilir ürünler kısmına bakın.

Not

Azure Machine Learning, Azure İşlem'in desteklediği tüm VM boyutlarını desteklemez. Kullanılabilir VM boyutlarını listelemek için aşağıdaki yöntemi kullanın:

Not

Azure Machine Learning, Azure İşlem'in desteklediği tüm VM boyutlarını desteklemez. Belirli işlem VM türleri tarafından desteklenen kullanılabilir VM boyutlarını listelemek için aşağıdaki yöntemlerden birini kullanın:

GPU özellikli işlem hedeflerini kullanıyorsanız, eğitim ortamında doğru CUDA sürücülerinin yüklü olduğundan emin olun. Kullanılacak doğru CUDA sürümünü belirlemek için aşağıdaki tabloyu kullanın:

GPU Mimarisi Azure VM serisi Desteklenen CUDA sürümleri
Hopper NCadsH100_v5, ND-H100-v5, ND-H200-v5 12.0+
Amper NDA100_v4, NCA100_v4 11.0+
Torino NCT4_v3 10.0+
Volta NCv3, NDv2 9.0+
Pascal NCv2, ND 9.0+
Maxwell NV, NVv3 9.0+
Kepler NC, NC Promosyonu 9.0+

CUDA sürümü ve donanımının uyumlu olduğundan emin olmanıza ek olarak CUDA sürümünün kullandığınız makine öğrenmesi çerçevesinin sürümüyle uyumlu olduğundan da emin olun:

İşlem yalıtımı

Azure Machine Learning işlem, belirli bir donanım türüne ayrılmış ve tek bir müşteriye ayrılmış VM boyutları sağlar. Yalıtılmış VM boyutları, uyumluluk ve mevzuat gereksinimlerini karşılamanız gerektiği durumlar gibi diğer müşterilerin iş yüklerinden yüksek düzeyde yalıtım gerektiren iş yükleri için en iyi şekilde çalışır. Yalıtılmış bir boyut kullandığınızda, vm'niz söz konusu sunucu örneğinde çalışan tek boyut olur.

Geçerli yalıtılmış VM teklifleri şunlardır:

  • Standard_M128ms
  • Standard_F72s_v2
  • Standard_NC24s_v3
  • Standard_NC24rs_v3 (RDMA özellikli)

Yalıtım hakkında daha fazla bilgi için Azure genel bulutta Yalıtım bölümüne bakın.

Yönetilmeyen hesaplama

Azure Machine Learning unmanaged işlem hedeflerini yönetmez. Bu işlem hedefi türünü Azure Machine Learning dışında oluşturur ve çalışma alanınıza eklersiniz. Yönetilmeyen işlem kaynaklarını korumak veya makine öğrenmesi iş yüklerinin performansını artırmak için ek adımlar uygulamanız gerekebilir.

Azure Machine Learning aşağıdaki yönetilmeyen işlem türlerini destekler:

  • Uzak sanal makineler
  • Azure HDInsight
  • Azure Databricks
  • Azure Data Lake Analytics

Daha fazla bilgi için bkz . İşlem kaynaklarını yönetme.

İlgili içerik

  • Last updated on