Azure Kubernetes Service (AKS) veya Azure Arc etkin Kubernetes kümesinde Azure Machine Learning uzantısı dağıtma

Azure Kubernetes Service (AKS) veya Azure Arc etkin Kubernetes kümenizin eğitim işlerini veya çıkarım iş yüklerini çalıştırmasını sağlamak için önce Azure Machine Learning uzantısını dağıtın. Azure Machine Learning uzantısı, AKS için Standard küme uzantısı ve Azure Arc özellikli Kubernetes için küme uzantısıdır. Azure CLI k8s-extension kullanarak yaşam döngüsünü yönetebilirsiniz.

Bu makalede şunları öğreneceksiniz:

  • Önkoşullar
  • Sınırlamalar
  • Azure Machine Learning uzantısı yapılandırma ayarlarını gözden geçirme
  • Azure Machine Learning uzantısı dağıtım senaryoları
  • Azure Machine Learning uzantısı dağıtımını doğrulama
  • Azure Machine Learning uzantısı bileşenini gözden geçirme
  • Azure Machine Learning uzantısı yönetme

Önkoşullar

  • Azure'da çalışan bir AKS kümesi. Daha önce küme uzantılarını kullanmadıysanız KubernetesConfiguration hizmet sağlayıcısını kaydetmeniz gerekir.
  • Veya çalışır durumda olan Azure Arc özellikli bir Kubernetes kümesi. Mevcut Kubernetes kümesini Azure Arc'a bağlama yönergelerini izleyin.
    • Küme bir Azure Red Hat OpenShift (ARO) Hizmet kümesi veya OpenShift Container Platform (OCP) kümesiyse, Kubernetes kümesini yapılandırma başvurusu makalesinde belirtildiği gibi diğer önkoşul adımlarını karşılamanız gerekir.
  • Üretim amacıyla Kubernetes kümesinin en az 4 vCPU çekirdeği ve 14 GB belleğe sahip olması gerekir. Kaynak ayrıntıları ve küme boyutu önerileri hakkında daha fazla bilgi için bkz . Önerilen kaynak planlaması.
  • Giden proxy sunucusunun veya güvenlik duvarının arkasında çalışan bir küme, ek ağ yapılandırmalarına ihtiyaç duyar.
  • Azure CLI'yi 2.51.0 veya üzeri bir sürüme yükleyin veya yükseltin.
  • Azure CLI uzantısını k8s-extension 1.2.3 veya sonraki bir sürüme yükleyin veya yükseltin.

Sınırlamalar

  • Azure Machine Learning, desteklemezAKS ile bir hizmet sorumlusu kullanmayı. AKS kümesinin bunun yerine yönetilen kimlik kullanması gerekir. Hem sistem tarafından atanan yönetilen kimlik hem de kullanıcı tarafından atanan yönetilen kimlik desteklenir. Daha fazla bilgi için bkz . Azure Kubernetes Service'te yönetilen kimlik kullanma.
    • AKS kümenizi hizmet sorumlusu kullanmaktan yönetilen kimliği kullanmaya dönüştürdüğünüzde, uzantıyı yüklemeden önce tüm düğüm havuzlarını silmeniz ve yeniden oluşturmanız gerekir. Düğüm havuzlarını doğrudan güncelleyemezsiniz.
  • Azure Machine Learning, AKS için yerel hesapların devre dışı bırakılmasını desteklemez. AKS kümesini dağıttığınızda, yerel hesaplar varsayılan olarak etkinleştirilir.
  • AKS kümenizde API sunucusuna erişmek için Authorized IP aralığı etkinleştirildiyse AKS kümesi için Azure Machine Learning denetim düzlemi IP aralıklarını etkinleştirmeniz gerekir. Azure Machine Learning kontrol düzlemi eşleştirilmiş bölgelere dağıtılır. API sunucusuna erişim olmadan makine öğrenimi podları dağıtılamaz. Bir AKS kümesinde IP aralıklarını etkinleştirirken eşleştirilmiş bölgelerin her ikisi için IP aralıklarını kullanın.
  • Azure Machine Learning, AKS kümesi çapraz aboneliği eklemeyi desteklemez. Farklı bir abonelikte AKS kümeniz varsa, önce bunu Azure Arc'a bağlamanız ve Azure Machine Learning çalışma alanınızla aynı abonelikte belirtmeniz gerekir.
  • Azure Machine Learning, AKS'deki tüm önizleme aşaması özellikleri için destek garantisi vermez. Örneğin, Microsoft Entra pod ile yönetilen kimlik (kullanım dışı) desteklenmez. Bunun yerine Microsoft Entra İş Yükü Kimliği kullanın.
  • AKS’nizi bir çıkarım kümesi olarak oluşturmak veya eklemek için Azure Machine Learning AKS v1 belgesindeki adımları izlediyseniz, sonraki adıma geçmeden önce eski azureml-fe ile ilgili kaynakları temizlemek için aşağıdaki bağlantıyı kullanın.
  • Azure Machine Learning uzantısı şu anda ARM64 mimarilerinde desteklenmemektedir. Uzantı için x86_64 (amd64) mimarisine sahip düğüm havuzlarını kullanın. AKS düğüm havuzu ile ARM64 VM SKU'larını karıştıramaz amd64 , bu nedenle desteklenen mimariye sahip düğüm havuzu VM SKU'larını seçin ve aynı düğüm havuzundaki mimarileri birleştirmeyin. Kümenizde karma düğüm havuzları varsa, uzantıyı ve iş yüklerinizi desteklenen mimariye sahip düğümlere hedeflemek için kullanın nodeSelector .

Azure Machine Learning uzantısı yapılandırma ayarlarını gözden geçirme

Azure Machine Learning uzantısını dağıtmak için Azure CLI komutunu az k8s-extension create kullanın. az k8s-extension create komutu, yapılandırma ayarlarını, key=value veya --config parametresi aracılığıyla boşlukla ayrılan --config-protected çiftleri olarak kabul eder. Aşağıdaki tabloda, dağıtım sırasında belirtebileceğiniz kullanılabilir yapılandırma ayarları listelenir.

Yapılandırma Ayarı Anahtar Adı Açıklama Eğitim Çıkarım Eğitim ve Çıkarım
enableTraining True veya False, varsayılan False. Machine Learning modeli eğitimi ve toplu puanlama desteği ile Azure Machine Learning uzantısı dağıtımı için olarak ayarlanmalıdırTrue. ✓ Yok ✓
enableInference True veya False, varsayılan False. Must, Machine Learning çıkarım desteğiyle Azure Machine Learning uzantısı dağıtımı için True değerine ayarlanmalıdır. Yok ✓ ✓
allowInsecureConnections True veya False, varsayılan False. Geliştirme veya test amacıyla çıkarım HTTP uç noktalarını kullanacak şekilde ayarlanabilirTrue. Yok İsteğe bağlı İsteğe bağlı
inferenceRouterServiceType loadBalancer, nodePortveya clusterIP. ise enableInference=True. Yok ✓ ✓
internalLoadBalancerProvider Bu yapılandırma şu anda yalnızca Azure Kubernetes Service (AKS) kümesi için geçerlidir. İç yük dengeleyici kullanarak çıkarım yönlendiricisine izin vermek için azure olarak ayarlayın. Yok İsteğe bağlı İsteğe bağlı
sslSecret azureml ad alanındaki Kubernetes gizlisinin adı. Bu yapılandırma, cert.pem değeri key.pem olarak ayarlandığında çıkarım için HTTPS uç noktası desteği açısından gerekli olan allowInsecureConnections öğesini (PEM kodlu TLS/SSL sertifikası) ve False öğesini (PEM kodlu TLS/SSL anahtarı) depolamak için kullanılır. sslSecret için örnek bir YAML tanımı için bkz. sslSecret'i Yapılandırma. Bu yapılandırmayı veya sslCertPemFile ve sslKeyPemFile korumalı yapılandırma ayarlarının bir kombinasyonunu kullanın. Yok İsteğe bağlı İsteğe bağlı
sslCname Bir TLS/SSL CNAME, çıkarım HTTPS uç noktası tarafından kullanılır. Gerekli ise allowInsecureConnections=False Yok İsteğe bağlı İsteğe bağlı
inferenceRouterHA True veya False, varsayılan True. Varsayılan olarak Azure Machine Learning uzantısı, yüksek kullanılabilirlik için üç çıkarım yönlendiricisi replikası dağıtır; bu da kümede en az üç çalışan düğüm gerektirir. False Kümenizde üçten az çalışan düğümü varsa olarak ayarlanır; bu durumda yalnızca bir çıkarım yönlendiricisi hizmeti dağıtılır. Yok İsteğe bağlı İsteğe bağlı
nodeSelector Varsayılan olarak, dağıtılan kubernetes kaynakları ve makine öğrenmesi iş yükleriniz kümenin bir veya daha fazla düğümüne rastgele dağıtılır ve DaemonSet kaynakları TÜM düğümlere dağıtılır. Uzantı dağıtımını ve eğitim/çıkarım iş yüklerinizi, key1=value1 ve key2=value2 etiketlerine sahip belirli düğümlerle sınırlandırmak istiyorsanız, sırasıyla nodeSelector.key1=value1 ve nodeSelector.key2=value2 kullanın. İsteğe bağlı İsteğe bağlı İsteğe bağlı
installNvidiaDevicePlugin True veya False, varsayılan False. NVIDIA GPU donanımındaki ML iş yükleri için NVIDIA Cihaz Eklentisi gereklidir. Varsayılan olarak, Azure Machine Learning uzantısı dağıtımı Kubernetes kümesiNDE GPU donanımı olup olmadığına bakılmaksızın NVIDIA Cihaz Eklentisi'ni yüklemez. Kullanıcı yüklemek için Truebu ayarı olarak belirtebilir, ancak Önkoşulları yerine getirdiğinden emin olun. İsteğe bağlı İsteğe bağlı İsteğe bağlı
installPromOp True veya False, varsayılan True. Azure Machine Learning uzantısının prometheus'ı yönetmek için prometheus operatörüne ihtiyacı vardır. Mevcut Prometheus operatörünü yeniden kullanmak için False olarak ayarlayın. Mevcut prometheus işlecini yeniden kullanımı hakkında daha fazla bilgi için bkz . prometheus işlecini yeniden kullanımı İsteğe bağlı İsteğe bağlı İsteğe bağlı
installVolcano True veya False, varsayılan True. Azure Machine Learning uzantısının işi zamanlaması için volkan zamanlayıcıya ihtiyacı vardır. Mevcut Volcano zamanlayıcısını yeniden kullanmak için False olarak ayarlayın. Mevcut volkan zamanlayıcısını yeniden kullanımı hakkında daha fazla bilgi için bkz . Volkan zamanlayıcısını yeniden kullanımı İsteğe bağlı Yok İsteğe bağlı
installDcgmExporter True veya False, varsayılan False. Dcgm-exporter, Azure portalda izleyebileceğiniz Azure Machine Learning iş yükleri için GPU ölçümlerini kullanıma sunabilir. dcgm-exporter'ı yüklemek için installDcgmExporter değerini True olarak ayarlayın. Ancak kendi dcgm-exporter’ınızı kullanmak istiyorsanız DCGM exporter bölümüne bakın. İsteğe bağlı İsteğe bağlı İsteğe bağlı
Yapılandırma Korumalı Ayar Anahtarı Adı Açıklama Eğitim Çıkarım Eğitim ve Çıkarım
sslCertPemFile, sslKeyPemFile allowInsecureConnections False olarak ayarlandığında, çıkarım için HTTPS uç noktası desteğine sahip Azure Machine Learning uzantısının dağıtımı için gereken TLS/SSL sertifikası ve anahtar dosyasının (PEM kodlu) yolu. Not Parola ile korunan PEM dosyaları desteklenmez Yok İsteğe bağlı İsteğe bağlı

Yapılandırma ayarları tablosunda görebileceğiniz gibi, farklı yapılandırma ayarlarının bileşimleri farklı ML iş yükü senaryoları için Azure Machine Learning uzantısını dağıtmanıza olanak tanır:

  • Eğitim işi ve toplu çıkarım iş yükü için enableTraining=True belirtin
  • Yalnızca çıkarım iş yükü için enableInference=True belirtin.
  • Her türlü ML iş yükü için hem enableTraining=True hem de enableInference=True belirtin

Gerçek zamanlı çıkarım iş yükü için Azure Machine Learning uzantısını dağıtmayı planlıyorsanız ve belirtmek enableInference=Trueistiyorsanız, gerçek zamanlı çıkarım iş yüküyle ilgili aşağıdaki yapılandırma ayarlarına dikkat edin:

  • azureml-fe yönlendirici hizmeti, gerçek zamanlı çıkarım desteği için gereklidir ve inferenceRouterServiceType için azureml-fe yapılandırma ayarını belirtmeniz gerekir. Yönlendirici, azureml-fe-v2 altında listelenmiş olarak gördüğünüz Kubernetes dağıtımı olarak dağıtılmıştır. azureml-fe aşağıdaki inferenceRouterServiceType seçeneklerinden biriyle dağıtıma alınabilir:
    • loadBalancer yazın. azureml-fe, bir bulut sağlayıcısının yük dengeleyicisini kullanarak dışarıya açar. Bu değeri belirtmek için kümenizin yük dengeleyici sağlamayı desteklediğine emin olun. Çoğu şirket içi Kubernetes kümesinin dış yük dengeleyiciyi desteklemeyebileceğini unutmayın.
    • nodePort yazın. azureml-fe, her düğümün IP adresinde sabit bir bağlantı noktası üzerinden erişime sunar. azureml-fe isteğinde bulunarak, kümenin dışından <NodeIP>:<NodePort> ile iletişim kurabilirsiniz. nodePort kullanmak ayrıca kendi yük dengeleme çözümünüzü ve azureml-fe için TLS/SSL sonlandırmasını yapılandırmanıza olanak tanır. Kendi ingress'inizi yapılandırma hakkında daha fazla bilgi için bkz.: Azure Machine Learning uzantısını HTTP veya HTTPS üzerinden başka bir ingress denetleyicisiyle tümleştirme.
    • clusterIP yazın. azureml-fe küme içi bir IP adresinde erişime açar ve azureml-fe öğesini yalnızca küme içinden erişilebilir hale getirir. azureml-fe öğesinin küme dışından gelen çıkarım isteklerini karşılayabilmesi için, azureml-fe için kendi yük dengeleme çözümünüzü ve TLS/SSL sonlandırmasını ayarlamanız gerekir. Kendi ingress'inizi yapılandırma hakkında daha fazla bilgi için bkz.: Azure Machine Learning uzantısını HTTP veya HTTPS üzerinden başka bir ingress denetleyicisiyle tümleştirme.
  • azureml-fe yönlendirme hizmetinde yüksek kullanılabilirlik sağlamak için Azure Machine Learning uzantısı dağıtımı, varsayılan olarak üç veya daha fazla düğüme sahip kümelerde azureml-fe öğesinin üç çoğaltmasını oluşturur. Kümenizde 3'ten az düğüm varsa değerini ayarlayın inferenceRouterHA=False.
  • Ayrıca model uç noktalarına erişimi kısıtlamak ve istemcilerin gönderdiği verilerin güvenliğini sağlamak için HTTPS kullanmayı da göz önünde bulundurmanız gerekir. Bu amaçla, ya sslSecret yapılandırma ayarını ya da sslKeyPemFile ve sslCertPemFile yapılandırma korumalı ayarlarının birleşimini belirtmeniz gerekir.
  • Varsayılan olarak, Azure Machine Learning uzantısı dağıtımı HTTPS desteği için yapılandırma ayarlarını bekler. Geliştirme veya test amacıyla, HTTP desteği yapılandırma ayarı allowInsecureConnections=Truearacılığıyla kolayca sağlanır.

Azure Machine Learning uzantısı dağıtımı - CLI örnekleri ve Azure portal

CLI kullanarak Azure Machine Learning uzantısını dağıtmak için az k8s-extension create komutunu kullanın ve zorunlu parametreler için değerler sağlayın.

Aşağıdaki listede dört tipik uzantı dağıtım senaryosu açıklanmaktadır. Üretim kullanımınıza yönelik uzantıyı dağıtmak için yapılandırma ayarlarının tam listesini dikkatle okuyun.

  • Eğitim işlerini çalıştırmak veya modelleri çevrimiçi ya da toplu uç noktalar olarak dağıtmak gibi her tür ML iş yükünü çalıştırmak için hızlı bir kavram kanıtı oluşturmak üzere Azure'daki AKS kümesini kullanın

    AKS kümesinde Azure Machine Learning uzantı dağıtımı için managedClusters parametresi için --cluster-type değeri belirtin. Azure Machine Learning uzantısını dağıtmak için aşağıdaki Azure CLI komutunu çalıştırın:

    az k8s-extension create --name <extension-name> --extension-type Microsoft.AzureML.Kubernetes --config enableTraining=True enableInference=True inferenceRouterServiceType=loadBalancer allowInsecureConnections=True inferenceRouterHA=False --cluster-type managedClusters --cluster-name <your-AKS-cluster-name> --resource-group <your-RG-name> --scope cluster

  • Yalnızca eğitim işlerini çalıştırmak için hızlı bir kavram kanıtı için Azure'ın dışında Azure Arc özellikli bir Kubernetes kümesi kullanma

    Azure Arc özellikli Kubernetes kümesinde Azure Machine Learning uzantı dağıtımı için connectedClusters parametresi için --cluster-type değerini belirtin. Azure Machine Learning uzantısını dağıtmak için aşağıdaki Azure CLI komutunu çalıştırın:

    az k8s-extension create --name <extension-name> --extension-type Microsoft.AzureML.Kubernetes --config enableTraining=True --cluster-type connectedClusters --cluster-name <your-connected-cluster-name> --resource-group <your-RG-name> --scope cluster

  • AKS'de bir AKS kümesini üretim eğitimi ve çıkarım iş yükü için Azure'de etkinleştirin AKS'de Azure Machine Learning uzantı dağıtımı için parametresi için değerini belirtin. Kümenizin üçten fazla düğümü olduğunu ve çıkarım iş yükü desteği için azure genel yük dengeleyici ve HTTPS kullandığınız varsayılır. Azure Machine Learning uzantısını dağıtmak için aşağıdaki Azure CLI komutunu çalıştırın:

    az k8s-extension create --name <extension-name> --extension-type Microsoft.AzureML.Kubernetes --config enableTraining=True enableInference=True inferenceRouterServiceType=loadBalancer sslCname=<ssl cname> --config-protected sslCertPemFile=<file-path-to-cert-PEM> sslKeyPemFile=<file-path-to-cert-KEY> --cluster-type managedClusters --cluster-name <your-AKS-cluster-name> --resource-group <your-RG-name> --scope cluster

  • NVIDIA GPU'larını kullanarak üretim eğitimi ve çıkarım iş yükü için Azure Arc özellikli Kubernetes kümesini her yerden etkinleştirme

    Azure Arc özellikli Kubernetes kümesinde Azure Machine Learning uzantı dağıtımı için connectedClusters parametresi için --cluster-type değerini belirtin. Kümenizin üçten fazla düğümü olduğunu varsayarsak, çıkarım iş yükü desteği için bir NodePort hizmet türü ve HTTPS kullanırsınız. Azure Machine Learning uzantısını dağıtmak için aşağıdaki Azure CLI komutunu çalıştırın:

    az k8s-extension create --name <extension-name> --extension-type Microsoft.AzureML.Kubernetes --config enableTraining=True enableInference=True inferenceRouterServiceType=nodePort sslCname=<ssl cname> installNvidiaDevicePlugin=True installDcgmExporter=True --config-protected sslCertPemFile=<file-path-to-cert-PEM> sslKeyPemFile=<file-path-to-cert-KEY> --cluster-type connectedClusters --cluster-name <your-connected-cluster-name> --resource-group <your-RG-name> --scope cluster

Azure Machine Learning uzantısı dağıtımını doğrulama

  1. Azure Machine Learning uzantısı ayrıntılarını denetlemek için geçerli CLI komutunu çalıştırın:

    AKS 

    az k8s-extension show --name <extension-name> --cluster-type managedClusters --cluster-name <your-AKS-cluster-name> --resource-group <resource-group>

    Azure Arc özellikli Kubernetes

    az k8s-extension show --name <extension-name> --cluster-type connectedClusters --cluster-name <your-connected-cluster-name> --resource-group <resource-group>

  2. Yanıtta "name" ve "provisioningState": "Succeeded" öğelerini arayın. İlk birkaç dakika boyunca "provisioningState": "Pending" görünebilir.

  3. provisioningState Succeeded olarak görünüyorsa, azureml ad alanındaki tüm podların Running durumunda olup olmadığını denetlemek için, kümenizi işaret eden kubeconfig dosyasıyla makinenizde aşağıdaki komutu çalıştırın:

     kubectl get pods -n azureml

Azure Machine Learning uzantısı bileşenini gözden geçirme

Azure Machine Learning uzantısı dağıtımı tamamlandığında, kümede oluşturulan kaynakların listesini görmek için kubectl get deployments -n azureml kullanın. Liste genellikle belirttiğiniz yapılandırma ayarlarına bağlı olarak aşağıdaki kaynakların bir alt kümesinden oluşur.

Kaynak adı Kaynak türü Eğitim Çıkarım Eğitim ve Çıkarım Açıklama Bulutla iletişim
geçiş sunucusu Kubernetes dağıtımı ✓ ✓ ✓ Dağıtım, geçiş sunucusunu yalnızca Azure Arc özellikli Kubernetes kümeleri için oluşturur; AKS kümelerinde oluşturmaz. Geçiş sunucusu, bulut hizmetleriyle iletişim kurmak için Azure Relay ile birlikte çalışır. bulut hizmetinden iş oluşturma, model dağıtımı isteğini alma; iş durumunu bulut hizmetiyle eşitleyin.
ağ geçidi Kubernetes dağıtımı ✓ ✓ ✓ Ağ geçidi, iletişim kurmak ve verileri ileri geri göndermek için kullanılır. Düğüm ve küme kaynaklarıyla ilgili bilgileri bulut hizmetlerine gönderin.
aml operatörü Kubernetes dağıtımı ✓ Yok ✓ Eğitim işlerinin yaşam döngüsünü yönetin. Azure Container Registry’nin kimlik doğrulaması ve yetkilendirmesi için bulut belirteci hizmetiyle belirteç değişimi.
metrikler denetleyici yöneticisi Kubernetes dağıtımı ✓ ✓ ✓ Prometheus yapılandırmasını yönetme Yok
{EXTENSION-NAME}-kube-state-metrics Kubernetes dağıtımı ✓ ✓ ✓ Kümeyle ilgili ölçümleri Prometheus'a aktarın. Yok
{EXTENSION-NAME}-prometheus-operator Kubernetes dağıtımı İsteğe bağlı İsteğe bağlı İsteğe bağlı Prometheus ve ilgili izleme bileşenlerinin Kubernetes yerel dağıtımını ve yönetimini sağlayın. Yok
amlarc-identity-controller Kubernetes dağıtımı Yok ✓ ✓ Yönetilen kimlik aracılığıyla Azure Blob/Azure Container Registry belirtecini isteyin ve yenileyin. Çıkarım/model dağıtımı tarafından kullanılan Azure Container Registry ve Azure Blob'un kimlik doğrulaması ve yetkilendirmesi için bulut belirteci hizmetiyle belirteç değişimi.
amlarc-kimlik-ara sunucusu Kubernetes dağıtımı Yok ✓ ✓ Yönetilen kimlik aracılığıyla Azure Blob/Azure Container Registry belirtecini isteyin ve yenileyin. Çıkarım/model dağıtımı tarafından kullanılan Azure Container Registry ve Azure Blob'un kimlik doğrulaması ve yetkilendirmesi için bulut belirteci hizmetiyle belirteç değişimi.
azureml-fe-v2 Kubernetes dağıtımı Yok ✓ ✓ Gelen çıkarım isteklerini dağıtılan hizmetlere yönlendiren ön uç bileşeni. Hizmet günlüklerini Azure Blob'a gönderme.
Önbellek-İşlemci-Kontrol-Yöneticisi Kubernetes dağıtımı Yok ✓ ✓ Çıkarım uç noktalarının yaşam döngüsünü yönetin. Yok
volkana giriş Kubernetes dağıtımı İsteğe bağlı Yok İsteğe bağlı Volkan giriş web kancası. Yok
yanardağ denetleyicileri Kubernetes dağıtımı İsteğe bağlı Yok İsteğe bağlı Azure Machine Learning eğitim işi podlarının yaşam döngüsünü yönetin. Yok
volkan zamanlayıcı Kubernetes dağıtımı İsteğe bağlı Yok İsteğe bağlı Küme içi iş zamanlaması gerçekleştirmek için kullanılır. Yok
fluent-bit Kubernetes DaemonSet ✓ ✓ ✓ Bileşenlerin sistem günlüğünü toplayın. Bileşenlerin sistem günlüğünü buluta yükleyin.
{EXTENSION-NAME}-dcgm-exporter Kubernetes DaemonSet İsteğe bağlı İsteğe bağlı İsteğe bağlı dcgm-exporter, Prometheus için GPU ölçümlerini kullanıma sunar. Yok
nvidia-device-plugin-daemonset Kubernetes DaemonSet İsteğe bağlı İsteğe bağlı İsteğe bağlı nvidia-device-plugin-daemonset, kümenizin her düğümünde GPU'ları kullanıma sunar Yok
prometheus-prom-prometheus Kubernetes StatefulSet (durum bilgisi olan set) ✓ ✓ ✓ İş ölçümlerini toplayın ve buluta gönderin. Cpu/gpu/bellek kullanımı gibi iş ölçümlerini buluta gönderin.

Önemli

  • Azure Relay kaynağı, Arc kümesi kaynağıyla aynı kaynak grubunda yer alır. Kubernetes kümesiyle iletişim kurmak için kullanılır. Bunu değiştirmek bağlı işlem hedeflerini bozar.
  • Varsayılan olarak, dağıtım kaynakları kümenin bir veya daha fazla düğümüne rastgele dağıtılır ve daemonset kaynakları tüm düğümlere dağıtılır. Uzantı dağıtımını belirli düğümlere kısıtlamak için yapılandırma nodeSelector ayarını kullanın.

Not

  • {EXTENSION-NAME}: CLI komutunu kullanarak az k8s-extension create --name belirttiğiniz uzantı adıdır.

Azure Machine Learning uzantısı yönetme

Azure Machine Learning uzantısını güncelleştirin, listeleyin, gösterin ve silin.

Sonraki adımlar

  • Last updated on