AutoML modelini çevrimiçi uç noktaya dağıtma

ŞUNLAR IÇIN GEÇERLIDIR: Azure CLI ml uzantısı v2 (geçerli)Python SDK azure-ai-ml v2 (geçerli)

Bu makalede, AutoML tarafından eğitilen makine öğrenmesi modelini çevrimiçi (gerçek zamanlı çıkarım) uç noktasına dağıtmayı öğreneceksiniz. Otomatik ml veya AutoML olarak da adlandırılan otomatik makine öğrenmesi, makine öğrenmesi modeli geliştirmenin zaman alan ve yinelemeli görevlerini otomatikleştirme işlemidir. Daha fazla bilgi için bkz . Otomatik makine öğrenmesi (AutoML) nedir?.

Bu makalede, AutoML tarafından eğitilen makine öğrenmesi modelini kullanarak çevrimiçi uç noktalara nasıl dağıtabileceğinizi öğreneceksiniz:

• Azure Machine Learning Studio
• Azure Machine Learning CLI v2
• Azure Machine Learning Python SDK v2

Önkoşullar

AutoML tarafından eğitilen bir makine öğrenmesi modeli. Daha fazla bilgi için bkz. Öğretici: Azure Machine Learning stüdyosu Kod içermeyen AutoML ile sınıflandırma modeli eğitme veya Öğretici: Otomatik makine öğrenmesi ile talebi tahmin etme.

Azure Machine Learning stüdyosu dağıtın ve kod yok

Otomatik ML sayfasından AutoML tarafından eğitilen bir modelin dağıtılması kod içermeyen bir deneyimdir. Yani, puanlama betiği ve ortamı hazırlamanız gerekmez, her ikisi de otomatik olarak oluşturulur.

1. Stüdyoda Otomatik ML sayfasına gidin

2. Denemenizi seçin ve çalıştırın

3. Modeller sekmesini seçin

4. Dağıtmak istediğiniz modeli seçin

5. Bir model seçtiğinizde Dağıt düğmesi açılır menüyle açılır

6. Gerçek zamanlı uç noktaya dağıt seçeneğini belirleyin

   

   Sistem, dağıtım için gereken Modeli ve Ortamı oluşturur.

   

   

7. Modeli çevrimiçi uç noktaya dağıtmak için sihirbazı tamamlayın

Stüdyodan veya komut satırından el ile dağıtma

Dağıtım üzerinde daha fazla denetim sahibi olmak istiyorsanız eğitim yapıtlarını indirebilir ve dağıtabilirsiniz.

Dağıtım için ihtiyacınız olan bileşenleri indirmek için:

1. Otomatik ML denemenize gidin ve makine öğrenmesi çalışma alanınızda çalıştırın
2. Modeller sekmesini seçin
3. Kullanmak istediğiniz modeli seçin. Bir model seçtiğinizde İndir düğmesi etkinleştirilir
4. İndir'i seçin

Aşağıdakiler içeren bir zip dosyası alırsınız:

• adlı bir conda ortam belirtimi dosyası conda_env_<VERSION>.yml
• Adlı bir Python puanlama dosyası scoring_file_<VERSION>.py
• Modelin kendisi, adlı bir Python .pkl dosyasında model.pkl

Bu dosyaları kullanarak dağıtmak için stüdyoyu veya Azure CLI'yı kullanabilirsiniz.

Stüdyo

1. Azure Machine Learning stüdyosu'da Modeller sayfasına gidin

2. + Modeli Kaydet seçeneğini belirleyin

3. Otomatik ML çalıştırmasından indirdiğiniz modeli kaydetme

4. Ortamlar sayfasına gidin, Özel ortam'ı seçin ve + Oluştur seçeneğini belirleyerek dağıtımınız için bir ortam oluşturun. İndirilen conda yaml'yi kullanarak özel bir ortam oluşturun

5. Modeli seçin ve Dağıt açılan seçeneğinden Gerçek zamanlı uç noktaya dağıt'ı seçin

6. Çevrimiçi uç nokta ve dağıtım oluşturmak için sihirbazdaki tüm adımları tamamlayın

Azure CLI

ŞUNLAR IÇIN GEÇERLIDIR: Azure CLI ml uzantısı v2 (geçerli)

CLI'yi yapılandırma

CLI'dan dağıtım oluşturmak için ML v2 uzantısına sahip Azure CLI gerekir. her ikisine de sahip olduğunuzu onaylamak için aşağıdaki komutu çalıştırın:

az version

Bir hata iletisi alırsanız veya yanıtta görmüyorsanız Extensions: ml CLI'yı yükleme ve ayarlama (v2) makalesindeki adımları izleyin.

Oturum Aç:

az login

Birden çok Azure aboneliğine erişiminiz varsa etkin aboneliğinizi ayarlayabilirsiniz:

az account set -s "<YOUR_SUBSCRIPTION_NAME_OR_ID>"

Varsayılan kaynak grubunu ve çalışma alanını dağıtımı oluşturmak istediğiniz yere ayarlayın:

az configure --defaults group=$GROUP workspace=$WORKSPACE location=$LOCATION

Puanlama dosyasını kendi dizinine yerleştirin

adlı src/ bir dizin oluşturun ve indirdiğiniz puanlama dosyasını bu dizine yerleştirin. Bu dizin Azure'a yüklenir ve çıkarım yapmak için gereken tüm kaynak kodunu içerir. AutoML modeli için yalnızca tek puanlama dosyası vardır.

Uç nokta ve dağıtım yaml dosyasını oluşturma

Komut satırından çevrimiçi uç nokta oluşturmak için bir endpoint.yml ve deployment.yml dosyası oluşturmanız gerekir. Azure Machine Learning Örnekleri deposundan alınan aşağıdaki kod, gerekli tüm girişleri yakalayan uç noktaları/çevrimiçi/yönetilen/örnek/ gösterir:

automl_endpoint.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-endpoint
auth_mode: key

automl_deployment.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineDeployment.schema.json
name: blue
endpoint_name: my-endpoint
model:
  path: ../../model-1/model/
code_configuration:
  code: ../../model-1/onlinescoring/
  scoring_script: score.py
environment: 
  conda_file: ../../model-1/environment/conda.yaml
  image: mcr.microsoft.com/azureml/openmpi4.1.0-ubuntu20.04:latest
instance_type: Standard_DS3_v2
instance_count: 1

AutoML Modelleri sayfasından indirdiğiniz dosyaları kullanmak için bu dosyayı değiştirmeniz gerekir.

1. Bir dosya automl_endpoint.yml oluşturun ve automl_deployment.yml yukarıdaki örneğin içeriğini yapıştırın.

2. Uç noktanın name değerini değiştirin. Uç nokta adının Azure bölgesinde benzersiz olması gerekir. Uç noktanın adı büyük veya küçük harfle başlamalı ve yalnızca '-' ve alfasayısal karakterlerden oluşmalıdır.

3. automl_deployment dosyasında, aşağıdaki yollarda anahtarların değerini değiştirin:

   Yol	Şununla değiştirin:
   model:path	İndirdiğiniz dosyanın yolu model.pkl .
   code_configuration:code:path	Puanlama dosyasını yerleştirdiğiniz dizin.
   code_configuration:scoring_script	Python puanlama dosyasının adı (scoring_file_<VERSION>.py).
   environment:conda_file	İndirilen conda ortam dosyası () için bir dosyaconda_env_<VERSION>.yml URL'si.

   Not

   YAML'nin tam açıklaması için bkz . Çevrimiçi uç nokta YAML başvurusu.

4. Komut satırından şunu çalıştırın:

   ŞUNLAR IÇIN GEÇERLIDIR: Azure CLI ml uzantısı v2 (geçerli)

   az ml online-endpoint create -f automl_endpoint.yml
   az ml online-deployment create -f automl_deployment.yml
   

Dağıtımı oluşturduktan sonra modelinizi kullanarak verileri puanlandırmak için uç noktayı çağırma bölümünde açıklandığı gibi puanlayabilirsiniz.

Python SDK'sı

ŞUNLAR IÇIN GEÇERLIDIR: Python SDK'sı azure-ai-ml v2 (geçerli)

Python SDK'sını yapılandırma

Python SDK v2'yi henüz yüklemediyseniz lütfen şu komutla yükleyin:

pip install azure-ai-ml azure-identity

Daha fazla bilgi için bkz . Python için Azure Machine Learning SDK v2'yi yükleme.

Puanlama dosyasını kendi dizinine yerleştirin

adlı src/ bir dizin oluşturun ve indirdiğiniz puanlama dosyasını bu dizine yerleştirin. Bu dizin Azure'a yüklenir ve çıkarım yapmak için gereken tüm kaynak kodunu içerir. AutoML modeli için yalnızca tek puanlama dosyası vardır.

Azure Machine Learning çalışma alanına bağlanma

1. Gerekli kitaplıkları içeri aktarın:

   # import required libraries
   from azure.ai.ml import MLClient
   from azure.ai.ml.entities import (
       ManagedOnlineEndpoint,
       ManagedOnlineDeployment,
       Model,
       Environment,
       CodeConfiguration,
   )
   from azure.identity import DefaultAzureCredential
   

2. Çalışma alanı ayrıntılarını yapılandırın ve çalışma alanına bir tanıtıcı alın:

   # enter details of your Azure Machine Learning workspace
   subscription_id = "<SUBSCRIPTION_ID>"
   resource_group = "<RESOURCE_GROUP>"
   workspace = "<AZUREML_WORKSPACE_NAME>"
   

   # get a handle to the workspace
   ml_client = MLClient(
       DefaultAzureCredential(), subscription_id, resource_group, workspace
   )
   

Uç noktayı ve dağıtımı oluşturma

Ardından yönetilen çevrimiçi uç noktaları ve dağıtımları oluşturacağız.

1. Çevrimiçi uç noktayı yapılandırma:

   İpucu

   • name: Uç noktanın adı. Azure bölgesinde benzersiz olmalıdır. Uç noktanın adı büyük veya küçük harfle başlamalı ve yalnızca '-' ve alfasayısal karakterlerden oluşmalıdır. Adlandırma kuralları hakkında daha fazla bilgi için bkz . uç nokta sınırları.
   • auth_mode : Anahtar tabanlı kimlik doğrulaması için kullanın key . Azure Machine Learning belirteç tabanlı kimlik doğrulaması için kullanın aml_token . A'nın key süresi dolmaz, ancak aml_token süresi dolar. Kimlik doğrulaması hakkında daha fazla bilgi için bkz . Çevrimiçi uç noktada kimlik doğrulaması yapma.

   # Creating a unique endpoint name with current datetime to avoid conflicts
   import datetime
   
   online_endpoint_name = "endpoint-" + datetime.datetime.now().strftime("%m%d%H%M%f")
   
   # create an online endpoint
   endpoint = ManagedOnlineEndpoint(
       name=online_endpoint_name,
       description="this is a sample online endpoint",
       auth_mode="key",
   )
   

2. Uç noktayı oluşturun:

   Daha önce oluşturulan öğesini MLClient kullanarak şimdi çalışma alanında Uç Nokta oluşturacağız. Bu komut uç nokta oluşturmayı başlatır ve uç nokta oluşturma işlemi devam ederken bir onay yanıtı döndürür.

   ml_client.begin_create_or_update(endpoint)
   

3. Çevrimiçi dağıtımı yapılandırma:

   Dağıtım, gerçek çıkarım yapan modeli barındırmak için gereken bir kaynak kümesidir. sınıfını ManagedOnlineDeployment kullanarak uç noktamız için bir dağıtım oluşturacağız.

   model = Model(path="./src/model.pkl")
   env = Environment(
       conda_file="./src/conda_env_v_1_0_0.yml",
       image="mcr.microsoft.com/azureml/openmpi3.1.2-ubuntu18.04:latest",
   )
   
   blue_deployment = ManagedOnlineDeployment(
       name="blue",
       endpoint_name=online_endpoint_name,
       model=model,
       environment=env,
       code_configuration=CodeConfiguration(
           code="./src", scoring_script="scoring_file_v_2_0_0.py"
       ),
       instance_type="Standard_DS2_v2",
       instance_count=1,
   )
   

   Yukarıdaki örnekte, AutoML Modelleri sayfasından indirdiğiniz dosyaların dizinde src olduğunu varsayıyoruz. Koddaki parametreleri durumunuzla eşleşecek şekilde değiştirebilirsiniz.

   Parametre	Şununla değiştirin:
   model:path	İndirdiğiniz dosyanın yolu model.pkl .
   code_configuration:code:path	Puanlama dosyasını yerleştirdiğiniz dizin.
   code_configuration:scoring_script	Python puanlama dosyasının adı (scoring_file_<VERSION>.py).
   environment:conda_file	İndirilen conda ortam dosyası () için bir dosyaconda_env_<VERSION>.yml URL'si.

4. Dağıtımı oluşturun:

   Daha önce oluşturulan öğesini MLClient kullanarak şimdi dağıtımı çalışma alanında oluşturacağız. Bu komut dağıtım oluşturma işlemini başlatır ve dağıtım oluşturma işlemi devam ederken bir onay yanıtı döndürür.

   ml_client.begin_create_or_update(blue_deployment)
   

Bir dağıtım oluşturduktan sonra, uç noktayı örnek verilerle test etme bölümünde açıklandığı gibi puanlayabilirsiniz.

Python SDK v2 kullanarak yönetilen çevrimiçi uç noktaya makine öğrenmesi modellerini dağıtma bölümünde SDK ile yönetilen çevrimiçi uç noktalara dağıtmayı daha fazla bilgi edinebilirsiniz.

Sonraki adımlar

• Çevrimiçi uç nokta dağıtımının sorunlarını giderme
• Çevrimiçi uç noktalar için güvenli dağıtım