Meglévő folyamatfeladatok üzembe helyezése kötegelt végpontokon

ÉRVÉNYES:Azure CLI ml-bővítmény v2 (aktuális)Python SDK azure-ai-ml v2 (aktuális)

A Batch-végpontok lehetővé teszik a folyamatösszetevők üzembe helyezését, így kényelmesen üzembe helyezheti a folyamatokat az Azure Machine Tanulás. A Batch-végpontok elfogadják a folyamatösszetevőket az üzembe helyezéshez. Ha azonban már van egy sikeresen futó folyamatfeladata, az Azure Machine Tanulás elfogadhatja ezt a feladatot a kötegelt végpont bemeneteként, és automatikusan létrehozhatja a folyamatösszetevőt. Ebben a cikkben megtudhatja, hogyan használhatja a meglévő folyamatfeladatot bemenetként a kötegelt üzembe helyezéshez.

A következőket fogja elsajátítani:

• Futtassa és hozza létre az üzembe helyezni kívánt folyamatfeladatot
• Batch-telepítés létrehozása a meglévő feladatból
• Az üzemelő példány tesztelése

A példa ismertetése

Ebben a példában egy egyszerű parancsfeladatból álló folyamatot fogunk üzembe helyezni, amely a "hello world!" szöveget nyomtatja. Ahelyett, hogy az üzembe helyezés előtt regisztrálnánk a folyamat összetevőjét, egy meglévő folyamatfeladatot jelölünk, amelyet üzembe helyezéshez használunk. Az Azure Machine Tanulás ezután automatikusan létrehozza a folyamatösszetevőt, és üzembe helyezi azt kötegelt végponti folyamatösszetevőként.

A cikkben szereplő példa az azureml-examples adattárban található kódmintákon alapul. Ha helyileg szeretné futtatni a parancsokat a YAML és más fájlok másolása/beillesztése nélkül, először klónozza az adattárat, majd módosítsa a könyvtárakat a mappára:

Azure CLI

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples/cli

Python

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples/sdk/python

A példában szereplő fájlok a következők:

cd endpoints/batch/deploy-pipelines/hello-batch

Előfeltételek

A cikkben ismertetett lépések végrehajtása előtt győződjön meg arról, hogy rendelkezik a következő előfeltételekkel:

• Azure-előfizetés. Ha még nincs Azure-előfizetése, kezdés előtt hozzon létre egy ingyenes fiókot. Próbálja ki az Azure Machine Tanulás ingyenes vagy fizetős verzióját.

• Egy Azure Machine Learning-munkaterület. Ha nincs ilyenje, az Azure Machine Tanulás-munkaterületek kezelése című cikk lépéseit követve hozzon létre egyet.

• Győződjön meg arról, hogy rendelkezik a következő engedélyekkel a munkaterületen:

  • Batch-végpontok és -üzemelő példányok létrehozása vagy kezelése: Használjon tulajdonosi, közreműködői vagy egyéni szerepkört, amely lehetővé teszi Microsoft.MachineLearningServices/workspaces/batchEndpoints/*.

  • ARM-üzemelő példányok létrehozása a munkaterület erőforráscsoportjában: Használjon tulajdonosi, közreműködői vagy egyéni szerepkört, amely lehetővé teszi Microsoft.Resources/deployments/write abban az erőforráscsoportban, amelyben a munkaterület telepítve van.

• Az Azure Machine Tanulás használatához telepítenie kell a következő szoftvert:

  Azure CLI

  Az Azure CLI és az mlAzure Machine Tanulás bővítménye.

  az extension add -n ml
  

  Feljegyzés

  A Batch-végpontok folyamatösszetevő-üzembe helyezését az ml Azure CLI bővítményének 2.7-es verziójában vezettük be. Az utolsó verzió lekérésére használható az extension update --name ml .

  Python

  Az Azure Machine Tanulás SDK for Python.

  pip install azure-ai-ml
  

  Feljegyzés

  Osztályok ModelBatchDeployment , és PipelineComponentBatchDeployment az SDK 1.7.0-s verziójában lettek bevezetve. Az utolsó verzió lekérésére használható pip install -U azure-ai-ml .

Csatlakozás a munkaterülethez

A munkaterület az Azure Machine Learning legfelső szintű erőforrása, amely egy központi helyet biztosít az Azure Machine Learning használata során létrehozott összetevőkkel való munkához. Ebben a szakaszban ahhoz a munkaterülethez csatlakozunk, amelyben üzembe helyezési feladatokat fog végrehajtani.

Azure CLI

Adja meg az előfizetés azonosítójának, munkaterületének, helyének és erőforráscsoportjának értékeit a következő kódban:

az account set --subscription <subscription>
az configure --defaults workspace=<workspace> group=<resource-group> location=<location>

Python

1. Importálja a szükséges kódtárakat:

   from azure.ai.ml import MLClient, Input, load_component
   from azure.ai.ml.entities import BatchEndpoint, ModelBatchDeployment, ModelBatchDeploymentSettings, PipelineComponentBatchDeployment, Model, AmlCompute, Data, BatchRetrySettings, CodeConfiguration, Environment, Data
   from azure.ai.ml.constants import AssetTypes, BatchDeploymentOutputAction
   from azure.ai.ml.dsl import pipeline
   from azure.identity import DefaultAzureCredential
   

2. Konfigurálja a munkaterület részleteit, és szerezze be a munkaterülethez a leírót:

   Adja meg az előfizetés azonosítójának, munkaterületének és erőforráscsoportjának értékeit a következő kódban:

   subscription_id = "<subscription>"
   resource_group = "<resource-group>"
   workspace = "<workspace>"
   
   ml_client = MLClient(DefaultAzureCredential(), subscription_id, resource_group, workspace)
   

Futtassa az üzembe helyezni kívánt folyamatfeladatot

Ebben a szakaszban egy folyamatfeladat futtatásával kezdjük:

Azure CLI

Az alábbi pipeline-job.yml fájl a folyamatfeladat konfigurációját tartalmazza:

pipeline-job.yml

$schema: https://azuremlschemas.azureedge.net/latest/pipelineJob.schema.json
type: pipeline

experiment_name: hello-pipeline-batch
display_name: hello-pipeline-batch-job
description: This job demonstrates how to run the a pipeline component in a pipeline job. You can use this example to test a component in an standalone job before deploying it in an endpoint.

compute: batch-cluster
component: hello-component/hello.yml

Python

Töltse be a folyamat összetevőjét, és hozza létre:

hello_batch = load_component(source="hello-component/hello.yml")
pipeline_job = hello_batch()

Most konfiguráljon néhány futtatási beállítást a teszt futtatásához. Ez a cikk feltételezi, hogy van egy számítási fürt neve batch-cluster. A fürtöt lecserélheti a saját nevére.

pipeline_job.settings.default_compute = "batch-cluster"
pipeline_job.settings.default_datastore = "workspaceblobstore"

Hozza létre a folyamatfeladatot:

Azure CLI

JOB_NAME=$(az ml job create -f pipeline-job.yml --query name -o tsv)

Python

pipeline_job_run = ml_client.jobs.create_or_update(
    pipeline_job, experiment_name="hello-batch-pipeline"
)
pipeline_job_run

Batch-végpont létrehozása

A folyamatfeladat üzembe helyezése előtt üzembe kell helyeznünk egy kötegelt végpontot az üzembe helyezés üzemeltetéséhez.

1. Adja meg a végpont nevét. A kötegvégpont nevének minden régióban egyedinek kell lennie, mivel a név a hívási URI létrehozásához használatos. Az egyediség biztosításához fűzze hozzá a záró karaktereket az alábbi kódban megadott névhez.

   Azure CLI

   ENDPOINT_NAME="hello-batch"
   

   Python

   endpoint_name="hello-batch"
   

2. A végpont konfigurálása:

   Azure CLI

   A endpoint.yml fájl tartalmazza a végpont konfigurációját.

   endpoint.yml

   $schema: https://azuremlschemas.azureedge.net/latest/batchEndpoint.schema.json
   name: hello-batch
   description: A hello world endpoint for component deployments.
   auth_mode: aad_token
   

   Python

   endpoint = BatchEndpoint(
       name=endpoint_name,
       description="A hello world endpoint for component deployments",
   )
   

3. Hozza létre a végpontot:

   Azure CLI

   az ml batch-endpoint create --name $ENDPOINT_NAME  -f endpoint.yml
   

   Python

   ml_client.batch_endpoints.begin_create_or_update(endpoint).result()
   

4. A végpont URI-jának lekérdezése:

   Azure CLI

   az ml batch-endpoint show --name $ENDPOINT_NAME
   

   Python

   endpoint = ml_client.batch_endpoints.get(name=endpoint_name)
   print(endpoint)
   

A folyamatfeladat üzembe helyezése

A folyamatösszetevő üzembe helyezéséhez létre kell hoznunk egy kötegelt üzembe helyezést a meglévő feladatból.

1. Meg kell adnunk az Azure Machine Tanulás az üzembe helyezni kívánt feladat nevét. Esetünkben ez a feladat a következő változóban van feltüntetve:

   Azure CLI

   echo $JOB_NAME
   

   Python

   print(job.name)
   

2. Konfigurálja az üzembe helyezést.

   Azure CLI

   A deployment-from-job.yml fájl tartalmazza az üzembe helyezés konfigurációját. Figyelje meg, hogyan használjuk a kulcsot job_definition ahelyett component , hogy azt jeleznénk, hogy ez az üzembe helyezés egy folyamatfeladatból jön létre:

   deployment-from-job.yml

   $schema: https://azuremlschemas.azureedge.net/latest/pipelineComponentBatchDeployment.schema.json
   name: hello-batch-from-job
   endpoint_name: hello-pipeline-batch
   type: pipeline
   job_definition: azureml:job_name_placeholder
   settings:
       continue_on_step_failure: false
       default_compute: batch-cluster
   

   Python

   Figyelje meg, hogyan használjuk a tulajdonságot job_definition a következő componenthelyett:

   deployment = PipelineComponentBatchDeployment(
       name="hello-batch-from-job",
       description="A hello world deployment with a single step. This deployment is created from a pipeline job.",
       endpoint_name=endpoint.name,
       job_definition=pipeline_job_run,
       settings={
           "default_compute": "batch-cluster",
           "continue_on_step_failure": False
       }
   )
   

   Tipp.

   Ez a konfiguráció feltételezi, hogy van egy számítási fürt neve batch-cluster. Ezt az értéket lecserélheti a fürt nevére.

3. Hozza létre az üzembe helyezést:

   Azure CLI

   Futtassa a következő kódot egy batch-üzembe helyezés létrehozásához a batch-végpont alatt, és állítsa be alapértelmezett üzembe helyezésként.

   az ml batch-deployment create --endpoint $ENDPOINT_NAME --set job_definition=azureml:$JOB_NAME -f deployment-from-job.yml
   

   Tipp.

   Figyelje meg a .--set job_definition=azureml:$JOB_NAME Mivel a feladatnevek egyediek, a parancs --set itt a feladat nevének módosítására szolgál, amikor a munkaterületen futtatja.

   Python

   Ez a parancs elindítja az üzembe helyezés létrehozását, és egy megerősítést kérő választ ad vissza, amíg a telepítés létrehozása folytatódik.

   ml_client.batch_deployments.begin_create_or_update(deployment).result()
   

   A létrehozás után konfiguráljuk ezt az új üzembe helyezést alapértelmezettként:

   endpoint = ml_client.batch_endpoints.get(endpoint.name)
   endpoint.defaults.deployment_name = deployment.name
   ml_client.batch_endpoints.begin_create_or_update(endpoint).result()
   

4. Az üzembe helyezés használatra kész.

Az üzemelő példány tesztelése

Az üzembe helyezés létrehozása után készen áll a feladatok fogadására. Az alapértelmezett üzembe helyezést az alábbiak szerint hívhatja meg:

Azure CLI

JOB_NAME=$(az ml batch-endpoint invoke -n $ENDPOINT_NAME --query name -o tsv)

Python

job = ml_client.batch_endpoints.invoke(
    endpoint_name=endpoint.name, 
)

A következőkkel figyelheti a bemutató előrehaladását, és streamelheti a naplókat:

Azure CLI

az ml job stream -n $JOB_NAME

Python

ml_client.jobs.get(name=job.name)

A feladat befejezéséhez futtassa a következő kódot:

ml_client.jobs.stream(name=job.name)

Az erőforrások eltávolítása

Ha végzett, törölje a társított erőforrásokat a munkaterületről:

Azure CLI

Futtassa a következő kódot a kötegvégpont és annak mögöttes üzembe helyezésének törléséhez. --yes a törlés megerősítésére szolgál.

az ml batch-endpoint delete -n $ENDPOINT_NAME --yes

Python

A végpont törlése:

ml_client.batch_endpoints.begin_delete(endpoint.name).result()

Következő lépések

• Betanítási folyamat üzembe helyezése kötegelt végpontokkal
• Folyamat üzembe helyezése kötegelt pontozás előfeldolgozással történő végrehajtásához
• Adatok elérése kötegelt végpontok feladataiból
• Batch-végpontok hibaelhárítása