Aracılığıyla paylaş

Azure Container Instances web hizmetlerini yönetilen çevrimiçi uç noktalara yükseltme adımları

  • Makale

Yönetilen çevrimiçi uç noktalar , ML modellerinizi anahtar teslimi bir şekilde dağıtmaya yardımcı olur. Yönetilen çevrimiçi uç noktalar Azure'da ölçeklenebilir ve tam olarak yönetilen bir şekilde güçlü CPU ve GPU makineleriyle çalışır. Yönetilen çevrimiçi uç noktalar modellerinizin sunulması, ölçeklendirilmesi, güvenlik altına alınması ve izlenmesiyle ilgilenerek, sizi temel altyapıyı ayarlama ve yönetme yükünden kurtarır. Ayrıntılara çevrimiçi uç nokta kullanarak makine öğrenmesi modelini dağıtma ve puanlandırma sayfasından ulaşabilirsiniz.

Önceki modellerinizle ve ortamlarınızla doğrudan yeni işlem hedefine dağıtabilir veya geçerli hizmetleri dışarı aktarmak için tarafımızdan sağlanan betikleri kullanabilir ve ardından mevcut hizmetlerinizi etkilemeden yeni işlemde dağıtabilirsiniz. Azure Container Instances (ACI) web hizmetlerini düzenli olarak oluşturup silerseniz, betikleri kullanmadan doğrudan dağıtmanızı kesinlikle öneririz.

Önemli

Puanlama URL'si yükseltmeden sonra değiştirilir. Örneğin, ACI web hizmetinin puanlama URL'si şeklindedir http://aaaaaa-bbbbb-1111.westus.azurecontainer.io/score. Yönetilen çevrimiçi uç noktanın puanlama URI'si şöyledir https://endpoint-name.westus.inference.ml.azure.com/score.

Desteklenen senaryolar ve farklılıklar

Kimlik doğrulama modu

Yönetilen çevrimiçi uç nokta için kimlik doğrulaması desteklenmez. Yükseltme betiklerini kullanırsanız anahtar kimlik doğrulamasına dönüştürür. Anahtar kimlik doğrulaması için özgün anahtarlar kullanılır. Belirteç tabanlı kimlik doğrulaması da desteklenir.

TLS

HTTPS ile güvenliği sağlanan ACI hizmeti için artık kendi sertifikalarınızı sağlamanız gerekmez, yönetilen tüm çevrimiçi uç noktalar TLS tarafından korunur.

Özel DNS adı desteklenmez .

Kaynak gereksinimleri

ContainerResourceRequirements desteklenmez, çıkarım için uygun SKU'yu seçebilirsiniz. Yükseltme aracı, CPU/Bellek gereksinimini ilgili SKU ile eşler. CLI/SDK V2 aracılığıyla el ile yeniden dağıtmayı seçerseniz, yeni dağıtımınız için ilgili SKU'yu da öneririz.

CPU isteği GB cinsinden bellek isteği Önerilen SKU
(0, 1] (0, 1.2] DS1 V2
(1, 2] (1.2, 1.7] F2s V2
(1, 2] (1.7, 4.7] DS2 V2
(1, 2] (4.7, 13.7] E2s V3
(2, 4] (0, 5.7] F4s V2
(2, 4] (5.7, 11.7] DS3 V2
(2, 4] (11.7, 16] E4s V3

"(" büyüktür ve "]" küçüktür veya eşittir anlamına gelir. Örneğin, "(0, 1]", "0'dan büyük ve 1'den küçük veya 1'e eşit" anlamına gelir.

Önemli

ACI'dan yükseltme yaparken ücretlendirme yönteminizde bazı değişiklikler olacaktır. İş yükünüz için doğru VM SKU'larını seçmenize yardımcı olacak kabaca maliyet karşılaştırması için blogumuza bakın.

Ağ yalıtımı

Özel çalışma alanı ve sanal ağ senaryoları için bkz. Yönetilen çevrimiçi uç noktalarla ağ yalıtımını kullanma.

Önemli

Çalışma alanınız ve sanal ağınız için birçok ayar olduğundan, betik aracı yerine makine öğrenmesi için Azure CLI uzantısı v2 aracılığıyla yeniden dağıtmanızı kesinlikle öneririz.

Desteklenmez

  • ACI kapsayıcısı için EncryptionProperties desteklenmez.
  • deploy_from_model ve deploy_from_image aracılığıyla dağıtılan ACI web hizmetleri yükseltme aracı tarafından desteklenmez. CLI/SDK V2 aracılığıyla el ile yeniden dağıtabilirsiniz.

Yükseltme adımları

CLI veya SDK ile

Model dosyalarınız ve ortam tanımınızla el ile yeniden dağıtabilirsiniz. Örneklerimizi azureml-examples sayfasında bulabilirsiniz. Bu, özellikle yönetilen çevrimiçi uç nokta için SDK örneğidir.

Yükseltme aracımız ile

Bu araç, mevcut web hizmetlerinize göre otomatik olarak yeni yönetilen çevrimiçi uç nokta oluşturur. Özgün hizmetleriniz etkilenmez. Trafiği yeni uç noktaya güvenli bir şekilde yönlendirebilir ve ardından eskisini silebilirsiniz.

Not

Yükseltme betiği örnek bir betiktir ve hizmet düzeyi sözleşmesi (SLA) olmadan sağlanır.

Betikleri çalıştırmak için aşağıdaki adımları kullanın:

İpucu

Betikler tarafından oluşturulan yeni uç nokta aynı çalışma alanı altında oluşturulur.

  1. Betikleri çalıştırmak için bash kabuğu kullanın. Örneğin, Linux veya Linux için Windows Alt Sistemi (WSL) üzerinde bir terminal oturumu.

  2. Python betiğini çalıştırmak için Python SDK V1'i yükleyin.

  3. Azure CLI'yi yükleyin.

  4. Depoyu yerel deponuza kopyalayın. Örneğin, git clone https://github.com/Azure/azureml-examples.

  5. Dosyada migrate-service.sh aşağıdaki değerleri düzenleyin. değerleri yapılandırmanıza uygulanan değerlerle değiştirin.

    • <SUBSCRIPTION_ID> - Çalışma alanınızı içeren Azure aboneliğinizin abonelik kimliği.
    • <RESOURCEGROUP_NAME> - Çalışma alanınızı içeren kaynak grubu.
    • <WORKSPACE_NAME> - Çalışma alanı adı.
    • <SERVICE_NAME> - Mevcut ACI hizmetinizin adı.
    • <LOCAL_PATH> - Betik tarafından kullanılan kaynakların ve şablonların indirildiği yerel bir yol.
    • <NEW_ENDPOINT_NAME> - Oluşturulacak yeni uç noktanın adı. Yeni uç nokta adının önceki hizmet adından farklı olması önerilir. Aksi takdirde, portalda uç noktalarınızı denetlerseniz özgün hizmet görüntülenmez.
    • <NEW_DEPLOYMENT_NAME> - Yeni uç noktaya dağıtımın adı.

  6. Bash betiğini çalıştırın. Örneğin, ./migrate-service.sh. Yeni dağıtımın tamamlanması yaklaşık 5-10 dakika sürer.

    İpucu

    Betiğin yürütülebilir olmadığını belirten bir hata alırsanız veya betiği çalıştırmayı denediğinizde bir düzenleyici açılırsa, betiği yürütülebilir olarak işaretlemek için aşağıdaki komutu kullanın:

    chmod +x migrate-service.sh

  7. Dağıtım başarıyla tamamlandıktan sonra az ml online-endpoint invoke komutuyla uç noktayı doğrulayabilirsiniz.

Bizimle iletişim kurun

Yükseltme betiğiyle ilgili sorularınız veya geri bildirimleriniz varsa adresinden bizimle moeonboard@microsoft.comiletişime geçin.

Sonraki adımlar