Bereitstellen vorhandener Pipelineaufträge für Batchendpunkte

GILT FÜR:Azure CLI ML-Erweiterung v2 (aktuell)Python SDK azure-ai-ml v2 (aktuell)

Batchendpunkte ermöglichen ihnen das Bereitstellen von Pipelinekomponenten und bieten eine bequeme Möglichkeit, Pipelines in Azure Machine Learning zu operationalisieren. Batchendpunkte akzeptieren Pipelinekomponenten für die Bereitstellung. Wenn Sie jedoch bereits über einen Pipelineauftrag verfügen, der erfolgreich ausgeführt wird, kann Azure Machine Learning diesen Auftrag als Eingabe für Ihren Batchendpunkt akzeptieren und die Pipelinekomponente automatisch für Sie erstellen. In diesem Artikel erfahren Sie, wie Sie Ihren vorhandenen Pipelineauftrag als Eingabe für die Batchbereitstellung verwenden.

Sie lernen Folgendes:

• Ausführen und Erstellen des Pipelineauftrags, den Sie bereitstellen wollen
• Erstellen einer Batchbereitstellung aus dem vorhandenen Auftrag
• Testen der Bereitstellung

Über dieses Beispiel

In diesem Beispiel werden wir eine Pipeline bereitstellen, die aus einem einfachen Befehlsauftrag besteht, der „Hallo Welt!“ ausgibt. Anstatt die Pipelinekomponente vor der Bereitstellung zu registrieren, geben wir einen vorhandenen Pipelineauftrag an, der für die Bereitstellung verwendet werden soll. Azure Machine Learning erstellt dann die Pipelinekomponente automatisch und stellt sie als Pipelinekomponente für Batchendpunktbereitstellung bereit.

Das Beispiel in diesem Artikel basiert auf Codebeispielen, die im Repository azureml-examples enthalten sind. Um die Befehle lokal auszuführen, ohne YAML und andere Dateien kopieren/einfügen zu müssen, klonen Sie zunächst das Repository, und ändern Sie dann die Verzeichnisse zum Ordner:

Azure-Befehlszeilenschnittstelle

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples/cli

Python

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples/sdk/python

Die Dateien für dieses Beispiel befinden sich in:

cd endpoints/batch/deploy-pipelines/hello-batch

Voraussetzungen

Stellen Sie vor dem Ausführen der Schritte in diesem Artikel sicher, dass Sie über die folgenden erforderlichen Komponenten verfügen:

• Ein Azure-Abonnement. Wenn Sie nicht über ein Azure-Abonnement verfügen, können Sie ein kostenloses Konto erstellen, bevor Sie beginnen. Probieren Sie die kostenlose oder kostenpflichtige Version von Azure Machine Learning aus.

• Ein Azure Machine Learning-Arbeitsbereich. Wenn Sie keinen haben, führen Sie die Schritte im Artikel Verwalten von Azure Machine Learning-Arbeitsbereichen aus, um einen Arbeitsbereich zu erstellen.

• Stellen Sie sicher, dass Sie im Arbeitsbereich über die folgenden Berechtigungen verfügen:

  • Erstellen oder Verwalten von Batchendpunkten und Batchbereitstellungen: Verwenden Sie die Rolle für Besitzer oder Mitwirkende oder eine benutzerdefinierte Rolle, die Microsoft.MachineLearningServices/workspaces/batchEndpoints/* zulässt.

  • Erstellen von ARM-Bereitstellungen in der Arbeitsbereichsressourcengruppe: Verwenden Sie die Rolle für Besitzer oder Mitwirkende oder eine benutzerdefinierte Rolle, die Microsoft.Resources/deployments/write in der Ressourcengruppe zulässt, in der der Arbeitsbereich bereitgestellt wird.

• Für die Arbeit mit Azure Machine Learning müssen Sie die folgende Software installieren:

  Azure-Befehlszeilenschnittstelle

  Die Azure CLI und die ml-Erweiterung für Azure Machine Learning.

  az extension add -n ml
  

  Hinweis

  Bereitstellungen der Pipelinekomponenten für Batchendpunkte wurden in Version 2.7 der Erweiterung ml für die Azure CLI eingeführt. Verwenden Sie az extension update --name ml, um die letzte Version davon zu erhalten.

  Python

  Das Azure Machine Learning SDK für Python.

  pip install azure-ai-ml
  

  Hinweis

  Die Klassen ModelBatchDeployment und PipelineComponentBatchDeployment wurde in Version 1.7.0 des SDK eingeführt. Verwenden Sie pip install -U azure-ai-ml, um die letzte Version davon zu erhalten.

Herstellen einer Verbindung mit Ihrem Arbeitsbereich

Der Arbeitsbereich ist die Ressource der obersten Ebene für Azure Machine Learning und ein zentraler Ort für die Arbeit mit allen Artefakten, die Sie während der Nutzung von Azure Machine Learning erstellen. In diesem Abschnitt stellen wir eine Verbindung mit dem Arbeitsbereich her, in dem Sie die Bereitstellung vornehmen werden.

Azure-Befehlszeilenschnittstelle

Übergeben Sie die Werte für Ihre Abonnement-ID, Ihren Arbeitsbereich, Ihren Standort und Ihre Ressourcengruppe im folgenden Code:

az account set --subscription <subscription>
az configure --defaults workspace=<workspace> group=<resource-group> location=<location>

Python

1. Importieren Sie die erforderlichen Bibliotheken.

   from azure.ai.ml import MLClient, Input, load_component
   from azure.ai.ml.entities import BatchEndpoint, ModelBatchDeployment, ModelBatchDeploymentSettings, PipelineComponentBatchDeployment, Model, AmlCompute, Data, BatchRetrySettings, CodeConfiguration, Environment, Data
   from azure.ai.ml.constants import AssetTypes, BatchDeploymentOutputAction
   from azure.ai.ml.dsl import pipeline
   from azure.identity import DefaultAzureCredential
   

2. Konfigurieren Sie die Arbeitsbereichsdetails, und rufen Sie einen Handle für den Arbeitsbereich ab:

   Übergeben Sie die Werte für Ihre Abonnement-ID, Ihren Arbeitsbereich und Ihre Ressourcengruppe im folgenden Code:

   subscription_id = "<subscription>"
   resource_group = "<resource-group>"
   workspace = "<workspace>"
   
   ml_client = MLClient(DefaultAzureCredential(), subscription_id, resource_group, workspace)
   

Ausführen des Pipelineauftrags, den Sie bereitstellen wollen

In diesem Abschnitt beginnen wir, indem wir einen Pipelineauftrag ausführen:

Azure-Befehlszeilenschnittstelle

Die folgende pipeline-job.yml-Datei enthält die Konfiguration für den Pipelineauftrag:

pipeline-job.yml

$schema: https://azuremlschemas.azureedge.net/latest/pipelineJob.schema.json
type: pipeline

experiment_name: hello-pipeline-batch
display_name: hello-pipeline-batch-job
description: This job demonstrates how to run the a pipeline component in a pipeline job. You can use this example to test a component in an standalone job before deploying it in an endpoint.

compute: batch-cluster
component: hello-component/hello.yml

Python

Laden Sie die Pipelinekomponente, und instanziieren Sie diese:

hello_batch = load_component(source="hello-component/hello.yml")
pipeline_job = hello_batch()

Konfigurieren Sie nun einige Ausführungseinstellungen, um den Test durchzuführen. In diesem Artikel wird davon ausgegangen, dass Sie über einen Computecluster mit dem Namen batch-cluster verfügen. Sie können den Cluster durch den Namen Ihres Clusters ersetzen.

pipeline_job.settings.default_compute = "batch-cluster"
pipeline_job.settings.default_datastore = "workspaceblobstore"

Erstellen Sie den Pipelineauftrag:

Azure-Befehlszeilenschnittstelle

JOB_NAME=$(az ml job create -f pipeline-job.yml --query name -o tsv)

Python

pipeline_job_run = ml_client.jobs.create_or_update(
    pipeline_job, experiment_name="hello-batch-pipeline"
)
pipeline_job_run

Erstellen eines Batchendpunkts

Bevor wir den Pipelineauftrag bereitstellen, müssen wir einen Batchendpunkt bereitstellen, um die Bereitstellung zu hosten.

1. Geben Sie einen Namen für den Endpunkt an. Der Name eines Batchendpunkts muss in jeder Region eindeutig sein, da er zum Konstruieren des Aufruf-URI verwendet wird. Um die Eindeutigkeit sicherzustellen, fügen Sie alle nachstehenden Zeichen an den im folgenden Code angegebenen Namen an.

   Azure-Befehlszeilenschnittstelle

   ENDPOINT_NAME="hello-batch"
   

   Python

   endpoint_name="hello-batch"
   

2. Konfigurieren des Endpunkts:

   Azure-Befehlszeilenschnittstelle

   Die endpoint.yml-Datei enthält die Konfiguration des Endpunkts.

   endpoint.yml

   $schema: https://azuremlschemas.azureedge.net/latest/batchEndpoint.schema.json
   name: hello-batch
   description: A hello world endpoint for component deployments.
   auth_mode: aad_token
   

   Python

   endpoint = BatchEndpoint(
       name=endpoint_name,
       description="A hello world endpoint for component deployments",
   )
   

3. Erstellen des Endpunkts:

   Azure-Befehlszeilenschnittstelle

   az ml batch-endpoint create --name $ENDPOINT_NAME  -f endpoint.yml
   

   Python

   ml_client.batch_endpoints.begin_create_or_update(endpoint).result()
   

4. Fragen Sie den Endpunkt-URI ab:

   Azure-Befehlszeilenschnittstelle

   az ml batch-endpoint show --name $ENDPOINT_NAME
   

   Python

   endpoint = ml_client.batch_endpoints.get(name=endpoint_name)
   print(endpoint)
   

Bereitstellen des Pipelineauftrags

Um die Pipelinekomponente bereitzustellen, müssen wir eine Batchbereitstellung aus dem vorhandenen Auftrag erstellen.

1. Wir müssen Azure Machine Learning den Namen des Auftrags mitteilen, den wir bereitstellen wollen. In unserem Fall wird dieser Auftrag in der folgenden Variablen angegeben:

   Azure-Befehlszeilenschnittstelle

   echo $JOB_NAME
   

   Python

   print(job.name)
   

2. Konfigurieren Sie die Bereitstellung.

   Azure-Befehlszeilenschnittstelle

   Die deployment-from-job.yml-Datei enthält die Konfiguration der Bereitstellung. Beachten Sie, wie wir den Schlüssel job_definition anstelle von component verwenden, um anzugeben, dass diese Bereitstellung aus einem Pipelineauftrag erstellt wird:

   deployment-from-job.yml

   $schema: https://azuremlschemas.azureedge.net/latest/pipelineComponentBatchDeployment.schema.json
   name: hello-batch-from-job
   endpoint_name: hello-pipeline-batch
   type: pipeline
   job_definition: azureml:job_name_placeholder
   settings:
       continue_on_step_failure: false
       default_compute: batch-cluster
   

   Python

   Beachten Sie jetzt, wie wir die Eigenschaft job_definition anstelle von component verwenden:

   deployment = PipelineComponentBatchDeployment(
       name="hello-batch-from-job",
       description="A hello world deployment with a single step. This deployment is created from a pipeline job.",
       endpoint_name=endpoint.name,
       job_definition=pipeline_job_run,
       settings={
           "default_compute": "batch-cluster",
           "continue_on_step_failure": False
       }
   )
   

   Tipp

   Bei dieser Konfiguration wird davon ausgegangen, dass Sie über einen Computecluster mit dem Namen batch-cluster verfügen. Sie können diesen Wert durch den Namen Ihres Clusters ersetzen.

3. Erstellen Sie die Bereitstellung:

   Azure-Befehlszeilenschnittstelle

   Führen Sie den folgenden Code aus, um eine Batchbereitstellung unter dem Batchendpunkt zu erstellen und diese als Standardbereitstellung festzulegen.

   az ml batch-deployment create --endpoint $ENDPOINT_NAME --set job_definition=azureml:$JOB_NAME -f deployment-from-job.yml
   

   Tipp

   Beachten Sie die Verwendung von --set job_definition=azureml:$JOB_NAME. Da Auftragsnamen eindeutig sind, wird der Befehl --set hier verwendet, um den Namen des Auftrags zu ändern, wenn Sie ihn in Ihrem Arbeitsbereich ausführen.

   Python

   Dieser Befehl startet die Bereitstellungserstellung und gibt eine Bestätigungsantwort zurück, während die Bereitstellungserstellung fortgesetzt wird.

   ml_client.batch_deployments.begin_create_or_update(deployment).result()
   

   Nach der Erstellung konfigurieren wir diese neue Bereitstellung als die Standardbereitstellung:

   endpoint = ml_client.batch_endpoints.get(endpoint.name)
   endpoint.defaults.deployment_name = deployment.name
   ml_client.batch_endpoints.begin_create_or_update(endpoint).result()
   

4. Ihre Bereitstellung ist einsatzbereit.

Testen der Bereitstellung

Nachdem die Bereitstellung erstellt wurde, kann sie Aufträge empfangen. Sie können die Standardbereitstellung folgendermaßen aufrufen:

Azure-Befehlszeilenschnittstelle

JOB_NAME=$(az ml batch-endpoint invoke -n $ENDPOINT_NAME --query name -o tsv)

Python

job = ml_client.batch_endpoints.invoke(
    endpoint_name=endpoint.name, 
)

Sie können den Fortschritt der Show überwachen und die Protokolle streamen, wie im Folgenden beschrieben:

Azure-Befehlszeilenschnittstelle

az ml job stream -n $JOB_NAME

Python

ml_client.jobs.get(name=job.name)

Führen Sie den folgenden Code aus, um auf den Abschluss des Auftrags zu warten:

ml_client.jobs.stream(name=job.name)

Bereinigen von Ressourcen

Löschen Sie dann die zugehörigen Ressourcen aus dem Arbeitsbereich:

Azure-Befehlszeilenschnittstelle

Führen Sie den folgenden Code aus, um den Batchendpunkt und die zugrundeliegende Bereitstellung zu löschen. --yes wird verwendet, um den Löschvorgang zu bestätigen.

az ml batch-endpoint delete -n $ENDPOINT_NAME --yes

Python

Löschen Sie den Endpunkt:

ml_client.batch_endpoints.begin_delete(endpoint.name).result()

Nächste Schritte

• Bereitstellen einer Trainingspipeline mit Batchendpunkten
• Bereitstellen einer Pipeline zum Durchführen der Batchbewertung mit Vorverarbeitung
• Zugriff auf Daten von Batchendpunktaufträgen
• Problembehandlung für Batchendpunkte