Mevcut iş hattı görevlerini toplu uç noktalara dağıtma

ŞUNLAR IÇIN GEÇERLIDIR: Azure CLI ml uzantısı v2 (geçerli)Python SDK azure-ai-ml v2 (geçerli)

Batch uç noktaları işlem hattı bileşenlerini dağıtmanıza olanak tanıyarak Azure Machine Learning'de işlem hatlarını kullanıma hazır hale getirmek için kullanışlı bir yol sağlar. Batch uç noktaları dağıtım için işlem hattı bileşenlerini kabul eder. Ancak, zaten başarıyla çalışan bir işlem hattı işiniz varsa, Azure Machine Learning bu işi toplu iş uç noktanıza giriş olarak kabul edebilir ve işlem hattı bileşenini sizin için otomatik olarak oluşturabilir. Bu makalede, toplu dağıtım için giriş olarak mevcut işlem hattı işinizi kullanmayı öğreneceksiniz.

Öğrenecekleriniz:

• İstediğiniz işlem hattı işini oluşturun ve çalıştırın
• Mevcut işten bir toplu dağıtım oluşturun
• Dağıtımı test et

Bu örnek hakkında

Bu örnekte, "hello world!" yazdıran basit bir komut işi içeren bir işlem hattını dağıtacağız. İşlem hattı bileşenini dağıtımdan önce kaydetmek yerine, dağıtım için kullanılacak mevcut bir işlem hattı işini belirtiriz. Azure Machine Learning daha sonra işlem hattı bileşenini otomatik olarak oluşturur ve toplu uç nokta işlem hattı bileşeni dağıtımı olarak dağıtır.

Bu makaledeki örnek, azureml-examples deposunda yer alan kod örneklerini temel alır. YAML ve diğer dosyaları kopyalamak veya yapıştırmak zorunda kalmadan komutları yerel olarak çalıştırmak için aşağıdaki komutları kullanarak depoyu kopyalayın ve kodlama dilinizin klasörüne gidin:

Azure CLI

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples/cli

Piton

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples/sdk/python

Bu örnekteki dosyalar şunlardır:

cd endpoints/batch/deploy-pipelines/hello-batch

Önkoşullar

• Azure aboneliği. Azure aboneliğiniz yoksa ücretsiz hesap oluşturun.

• Azure Machine Learning çalışma alanı. Çalışma alanı oluşturmak için bkz . Azure Machine Learning çalışma alanlarını yönetme.

• Azure Machine Learning çalışma alanında aşağıdaki izinler:

  • Toplu iş uç noktalarını ve dağıtımlarını oluşturmak veya yönetmek için: Sahip, Katkıda Bulunan veya Microsoft.MachineLearningServices/workspaces/batchEndpoints/* izinlerine sahip özelleştirilmiş bir rol kullanın.
  • Azure Resource Manager dağıtımlarını, çalışma alanı kaynak grubunda oluşturmak için: Çalışma alanının dağıtıldığı kaynak grubunda Microsoft.Resources/deployments/write izinlerine sahip bir Sahip, Katkıda Bulunan veya özel rol kullanın.

• Azure Machine Learning CLI veya Python için Azure Machine Learning SDK'sı:

  Azure CLI

  Azure CLI'yi ve Azure Machine Learning uzantısını ml yüklemek için aşağıdaki komutu çalıştırın:

  az extension add -n ml
  

  Toplu iş uç noktaları için işlem hattı bileşeni dağıtımları, Azure CLI için uzantının ml 2.7 veya sonraki bir sürümünü gerektirir (geçerli sürüm: 2.37.0). az extension update --name ml En son sürümü almak için komutunu kullanın.

  Piton

  Python için Azure Machine Learning SDK'sını yüklemek için aşağıdaki komutu çalıştırın:

  pip install azure-ai-ml
  

  ModelBatchDeployment ve PipelineComponentBatchDeployment sınıfları SDK'nın 1.7.0 veya sonraki bir sürümünü gerektirir (geçerli sürüm: 1.32.0). pip install -U azure-ai-ml En son sürümü almak için komutunu kullanın.

---

Çalışma alanınıza bağlanma

Çalışma alanı, Azure Machine Learning için en üst düzey kaynaktır. Azure Machine Learning'i kullanırken oluşturduğunuz tüm yapıtlarla çalışmak için merkezi bir yer sağlar. Bu bölümde, dağıtım görevlerinizi gerçekleştirdiğiniz çalışma alanına bağlanacaksınız.

Azure CLI

Aşağıdaki komutta abonelik kimliğinizi, çalışma alanı adınızı, kaynak grubu adınızı ve konumunuzu girin:

az account set --subscription <subscription>
az configure --defaults workspace=<workspace> group=<resource-group> location=<location>

Piton

1. Gerekli kitaplıkları içeri aktarın:

   from azure.ai.ml import MLClient, Input, load_component
   from azure.ai.ml.entities import BatchEndpoint, ModelBatchDeployment, ModelBatchDeploymentSettings, PipelineComponentBatchDeployment, Model, AmlCompute, Data, BatchRetrySettings, CodeConfiguration, Environment, Data
   from azure.ai.ml.constants import AssetTypes, BatchDeploymentOutputAction
   from azure.ai.ml.dsl import pipeline
   from azure.identity import DefaultAzureCredential
   

2. Çalışma alanı ayrıntılarını yapılandırın ve çalışma alanına bir erişim noktası alın.

   Aşağıdaki komutta abonelik kimliğinizi, kaynak grubu adınızı ve çalışma alanı adınızı girin:

   subscription_id = "<subscription>"
   resource_group = "<resource-group>"
   workspace = "<workspace>"
   
   ml_client = MLClient(DefaultAzureCredential(), subscription_id, resource_group, workspace)
   

Dağıtmak istediğiniz işlem hattı görevini çalıştırın

Bu bölümde, bir pipeline işini çalıştırarak başlayacağız.

Azure CLI

Aşağıdaki pipeline-job.yml dosya işlem hattı işinin yapılandırmasını içerir:

pipeline-job.yml

$schema: https://azuremlschemas.azureedge.net/latest/pipelineJob.schema.json
type: pipeline

experiment_name: hello-pipeline-batch
display_name: hello-pipeline-batch-job
description: This job demonstrates how to run the a pipeline component in a pipeline job. You can use this example to test a component in an standalone job before deploying it in an endpoint.

compute: batch-cluster
component: hello-component/hello.yml

Piton

İşlem hattı bileşenini yükleyin ve örneği oluşturun:

hello_batch = load_component(source="hello-component/hello.yml")
pipeline_job = hello_batch()

Şimdi testi çalıştırmak için bazı çalıştırma ayarlarını yapılandırın. Bu makalede adlı batch-clusterbir işlem kümeniz olduğu varsayılır. Kümeyi kendi adınızla değiştirebilirsiniz.

pipeline_job.settings.default_compute = "batch-cluster"
pipeline_job.settings.default_datastore = "workspaceblobstore"

Boru hattı görevini oluşturun.

Azure CLI

JOB_NAME=$(az ml job create -f pipeline-job.yml --query name -o tsv)

Piton

pipeline_job_run = ml_client.jobs.create_or_update(
    pipeline_job, experiment_name="hello-batch-pipeline"
)
pipeline_job_run

Toplu Uç Nokta Oluştur

İşlem hattı işini dağıtmadan önce dağıtımı barındırmak için bir batch uç noktası dağıtmamız gerekiyor.

1. Uç nokta için bir ad belirtin. Bir toplu iş uç noktasının adı, çağrı URI'sini oluşturmak için kullanıldığından, her bölgede benzersiz olmalıdır. Benzersizliği sağlamak için, aşağıdaki kodda belirtilen ada ardıl karakterleri ekleyin.

   Azure CLI

   ENDPOINT_NAME="hello-batch"
   

   Piton

   endpoint_name="hello-batch"
   

2. Uç noktayı yapılandırın:

   Azure CLI

   Dosya uç endpoint.yml noktanın yapılandırmasını içerir.

   endpoint.yml

   $schema: https://azuremlschemas.azureedge.net/latest/batchEndpoint.schema.json
   name: hello-batch
   description: A hello world endpoint for component deployments.
   auth_mode: aad_token
   

   Piton

   endpoint = BatchEndpoint(
       name=endpoint_name,
       description="A hello world endpoint for component deployments",
   )
   

3. Uç noktayı oluşturun:

   Azure CLI

   az ml batch-endpoint create --name $ENDPOINT_NAME  -f endpoint.yml
   

   Piton

   ml_client.batch_endpoints.begin_create_or_update(endpoint).result()
   

4. Uç nokta URI'sini sorgula:

   Azure CLI

   az ml batch-endpoint show --name $ENDPOINT_NAME
   

   Piton

   endpoint = ml_client.batch_endpoints.get(name=endpoint_name)
   print(endpoint)
   

İşlem hattı işini dağıtın

İşlem hattı bileşenini dağıtmak için mevcut görevden bir toplu dağıtım oluşturmamız gerekir.

1. Azure Machine Learning'e dağıtmak istediğimiz işin adını söylememiz gerekir. Bizim örneğimizde bu iş aşağıdaki değişkende belirtilmiştir:

   Azure CLI

   echo $JOB_NAME
   

   Piton

   print(job.name)
   

2. Dağıtımı yapılandırın.

   Azure CLI

   Dosya, deployment-from-job.yml dağıtımın yapılandırmasını içerir. Bu dağıtımın bir işlem hattı işinden oluşturulduğunu belirtmek için job_definition yerine component anahtarını nasıl kullandığımıza dikkat edin:

   deployment-from-job.yml

   $schema: https://azuremlschemas.azureedge.net/latest/pipelineComponentBatchDeployment.schema.json
   name: hello-batch-from-job
   endpoint_name: hello-pipeline-batch
   type: pipeline
   job_definition: azureml:job_name_placeholder
   settings:
       continue_on_step_failure: false
       default_compute: batch-cluster
   

   Piton

   Özelliği job_definition yerine component nasıl kullandığımıza dikkat edin.

   deployment = PipelineComponentBatchDeployment(
       name="hello-batch-from-job",
       description="A hello world deployment with a single step. This deployment is created from a pipeline job.",
       endpoint_name=endpoint.name,
       job_definition=pipeline_job_run,
       settings={
           "default_compute": "batch-cluster",
           "continue_on_step_failure": False
       }
   )
   

   İpucu

   Bu yapılandırmada adlı batch-clusterbir işlem kümeniz olduğu varsayılır. Bu değeri kümenizin adıyla değiştirebilirsiniz.

3. Dağıtımı oluşturun:

   Azure CLI

   Toplu iş uç noktası altında bir toplu dağıtım oluşturmak ve bunu varsayılan dağıtım olarak ayarlamak için aşağıdaki kodu çalıştırın.

   az ml batch-deployment create --endpoint $ENDPOINT_NAME --set job_definition=azureml:$JOB_NAME -f deployment-from-job.yml
   

   İpucu

   --set job_definition=azureml:$JOB_NAME kullanımına dikkat edin. İş adları benzersiz olduğundan, çalışma alanınızda çalıştırdığınızda işin adını değiştirmek için burada komutu --set kullanılır.

   Piton

   Bu komut dağıtım oluşturmayı başlatır ve dağıtım oluşturma işlemi devam ederken bir onay yanıtı döndürür.

   ml_client.batch_deployments.begin_create_or_update(deployment).result()
   

   Oluşturulduktan sonra bu yeni dağıtımı varsayılan dağıtım olarak yapılandıralım:

   endpoint = ml_client.batch_endpoints.get(endpoint.name)
   endpoint.defaults.deployment_name = deployment.name
   ml_client.batch_endpoints.begin_create_or_update(endpoint).result()
   

4. Dağıtımınız kullanıma hazır.

Dağıtımı test et

Dağıtım oluşturulduktan sonra iş almaya hazır olur. Varsayılan dağıtımı aşağıdaki gibi çağırabilirsiniz:

Azure CLI

JOB_NAME=$(az ml batch-endpoint invoke -n $ENDPOINT_NAME --query name -o tsv)

Piton

job = ml_client.batch_endpoints.invoke(
    endpoint_name=endpoint.name, 
)

Gösterinin ilerleme durumunu izleyebilir ve günlüklerin akışını şu şekilde yapabilirsiniz:

Azure CLI

az ml job stream -n $JOB_NAME

Piton

ml_client.jobs.get(name=job.name)

İşin tamamlanmasını beklemek için aşağıdaki kodu çalıştırın:

ml_client.jobs.stream(name=job.name)

Kaynakları temizleme

İşiniz bittiğinde, ilişkili kaynakları çalışma alanından silin:

Azure CLI

Toplu uç noktayı ve onun altında yatan dağıtımı silmek için aşağıdaki kodu çalıştırın. --yes silme işlemini onaylamak için kullanılır.

az ml batch-endpoint delete -n $ENDPOINT_NAME --yes

Piton

Uç noktayı silin:

ml_client.batch_endpoints.begin_delete(endpoint.name).result()

Sonraki adımlar

• Toplu uç noktalarıyla bir eğitim işlem hattı nasıl dağıtılır
• Ön işleme ile toplu puanlama gerçekleştirmek için bir işlem hattı kurma
• Toplu uç nokta işlerinden verilere erişme
• Toplu iş uç noktası sorunlarını giderme