Cómo implementar canalizaciones con puntos de conexión por lotes

SE APLICA A:Extensión ML de la CLI de Azure v2 (actual)SDK de Python azure-ai-ml v2 (actual)

Puedes implementar componentes de canalización en un punto de conexión por lotes, lo que proporciona una manera conveniente de ponerlos en funcionamiento en Azure Machine Learning. En este artículo, aprenderás a crear una implementación por lotes que contenga una canalización sencilla. Aprenderá lo siguiente:

• Crear y registrar un componente de canalización
• Crear un punto de conexión por lotes e implementación de un componente de canalización
• Prueba de la implementación

Acerca de este ejemplo

En este ejemplo, vamos a implementar un componente de canalización que consiste en un trabajo de comando simple que imprime "¡Hola mundo!". Este componente no requiere entradas ni salidas y es el escenario de implementación de canalización más sencillo.

El ejemplo de este artículo se basa en ejemplos de código contenidos en el repositorio azureml-examples. Para ejecutar los comandos de forma local sin tener que copiar/pegar YAML y otros archivos, primero clona el repositorio y luego cambia los directorios a la carpeta:

CLI de Azure

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples/cli

Python

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples/sdk/python

Los archivos de este ejemplo están en:

cd endpoints/batch/deploy-pipelines/hello-batch

Sigue estos pasos en los cuadernos de Jupyter Notebooks

Puedes seguir la versión SDK de Python de este ejemplo abriendo el cuaderno sdk-deploy-and-test.ipynb en el repositorio clonado.

Prerrequisitos

Antes de seguir los pasos de este artículo, asegúrese de que tiene los siguientes requisitos previos:

• Suscripción a Azure. Si no tiene una suscripción de Azure, cree una cuenta gratuita antes de empezar. Pruebe la versión gratuita o de pago de Azure Machine Learning.

• Un área de trabajo de Azure Machine Learning. Si no tiene una, siga los pasos descritos en el artículo Administración de áreas de trabajo de Azure Machine Learning para crear una.

• Asegúrese de tener los permisos siguientes en el área de trabajo:

  • Crear o administrar puntos de conexión e implementaciones por lotes: use un rol propietario, colaborador o personalizado que permita Microsoft.MachineLearningServices/workspaces/batchEndpoints/*.

  • Creación de implementaciones de ARM en el grupo de recursos del área de trabajo: use un rol propietario, colaborador o personalizado que permita Microsoft.Resources/deployments/write en el grupo de recursos donde se implementa el área de trabajo.

• Debe instalar el siguiente software para trabajar con Azure Machine Learning:

  CLI de Azure

  La CLI de Azure y la mlextensión para Azure Machine Learning.

  az extension add -n ml
  

  Nota

  Las implementaciones de componentes de canalización para puntos de conexión de Batch se introdujeron en la versión 2.7 de la extensión ml para la CLI de Azure. Use az extension update --name ml para obtener la última versión.

  Python

  El SDK de Azure Machine Learning para Python.

  pip install azure-ai-ml
  

  Nota

  Las clases ModelBatchDeployment y PipelineComponentBatchDeployment se introdujeron en la versión 1.7.0 del SDK. Use pip install -U azure-ai-ml para obtener la última versión.

Conexión con su área de trabajo

El área de trabajo es el recurso de nivel superior para Azure Machine Learning, que proporciona un lugar centralizado para trabajar con todos los artefactos que crea al usar Azure Machine Learning. En esta sección, nos conectaremos al área de trabajo en la que realizará las tareas de implementación.

CLI de Azure

Pasa los valores del id. de suscripción, el área de trabajo, la ubicación y el grupo de recursos en el código siguiente:

az account set --subscription <subscription>
az configure --defaults workspace=<workspace> group=<resource-group> location=<location>

Python

1. Importe las bibliotecas necesarias:

   from azure.ai.ml import MLClient, Input, load_component
   from azure.ai.ml.entities import BatchEndpoint, ModelBatchDeployment, ModelBatchDeploymentSettings, PipelineComponentBatchDeployment, Model, AmlCompute, Data, BatchRetrySettings, CodeConfiguration, Environment, Data
   from azure.ai.ml.constants import AssetTypes, BatchDeploymentOutputAction
   from azure.ai.ml.dsl import pipeline
   from azure.identity import DefaultAzureCredential
   

2. Configura los detalles del área de trabajo y obtén un manipulador para el área de trabajo:

   Pasa los valores del id. de suscripción, el área de trabajo y el grupo de recursos en el código siguiente:

   subscription_id = "<subscription>"
   resource_group = "<resource-group>"
   workspace = "<workspace>"
   
   ml_client = MLClient(DefaultAzureCredential(), subscription_id, resource_group, workspace)
   

Crear el componente de canalización

Los puntos de conexión de Batch pueden implementar modelos o componentes de canalización. Los componentes de canalización son reutilizables y puedes optimizar tu práctica de MLOps mediante el uso de registros compartidos para mover estos componentes de un área de trabajo a otro.

El componente de canalización en este ejemplo contiene un solo paso que solo imprime un mensaje de "hola mundo" en los registros. No requiere entradas ni salidas.

El archivo hello-component/hello.yml contiene la configuración del trabajo de canalización:

hello-component/hello.yml

$schema: https://azuremlschemas.azureedge.net/latest/pipelineComponent.schema.json
name: hello_batch
display_name: Hello Batch component
version: 1
type: pipeline
jobs:
  main_job:
    type: command
    component:
      code: src
      environment: azureml://registries/azureml/environments/sklearn-1.0/labels/latest
      command: >-
        python hello.py

Registra el componente:

CLI de Azure

az ml component create -f hello-component/hello.yml

Python

hello_batch = load_component(source="hello-component/hello.yml")
hello_batch_registered = ml_client.components.create_or_update(hello_batch)

Creación de un punto de conexión por lotes

1. Proporcione un nombre para el punto de conexión. El nombre de un punto de conexión por lotes debe ser único en cada región, ya que el nombre se usa para construir el URI de invocación. Para garantizar la unicidad, anexa los caracteres finales al nombre especificado en el código siguiente.

   CLI de Azure

   ENDPOINT_NAME="hello-batch"
   

   Python

   endpoint_name = "hello-batch"

2. Configuración del punto de conexión:

   CLI de Azure

   El archivo endpoint.yml contiene la configuración del punto de conexión.

   endpoint.yml

   $schema: https://azuremlschemas.azureedge.net/latest/batchEndpoint.schema.json
   name: hello-batch
   description: A hello world endpoint for component deployments.
   auth_mode: aad_token
   

   Python

   endpoint = BatchEndpoint(
       name=endpoint_name,
       description="A hello world endpoint for component deployments",
   )

3. Creación del punto de conexión:

   CLI de Azure

   az ml batch-endpoint create --name $ENDPOINT_NAME  -f endpoint.yml
   

   Python

   ml_client.batch_endpoints.begin_create_or_update(endpoint).result()

4. Consulta del URI del punto de conexión:

   CLI de Azure

   az ml batch-endpoint show --name $ENDPOINT_NAME
   

   Python

   endpoint = ml_client.batch_endpoints.get(name=endpoint_name)
   print(endpoint)

Implementar el componente de canalización

Para implementar el componente de canalización, tendremos que crear una implementación por lotes. Una implementación es un conjunto de recursos necesarios para hospedar el recurso que realiza el trabajo real.

1. Crear un clúster de proceso. Las implementaciones y puntos de conexión por lotes se ejecutan en clústeres de computación. Pueden ejecutarse en cualquier clúster de proceso de Azure Machine Learning que ya exista en el área de trabajo. Por lo tanto, varias implementaciones por lotes pueden compartir la misma infraestructura de proceso. En este ejemplo, trabajaremos en un clúster de proceso de Azure Machine Learning denominado batch-cluster. Verifiquemos que el cálculo exista en el área de trabajo o creémoslo de otra manera.

   CLI de Azure

   az ml compute create -n batch-cluster --type amlcompute --min-instances 0 --max-instances 5
   

   Python

   compute_name = "batch-cluster"
   if not any(filter(lambda m: m.name == compute_name, ml_client.compute.list())):
       compute_cluster = AmlCompute(
           name=compute_name,
           description="Batch endpoints compute cluster",
           min_instances=0,
           max_instances=5,
       )
       ml_client.begin_create_or_update(compute_cluster).result()

2. Configurar la implementación:

   CLI de Azure

   El archivo deployment.yml contiene la configuración de la implementación. Puede comprobar el esquema YAML del punto de conexión por lotes completo para obtener más propiedades.

   deployment.yml

   $schema: https://azuremlschemas.azureedge.net/latest/pipelineComponentBatchDeployment.schema.json
   name: hello-batch-dpl
   endpoint_name: hello-pipeline-batch
   type: pipeline
   component: azureml:hello_batch@latest
   settings:
       default_compute: batch-cluster
   

   Python

   deployment = PipelineComponentBatchDeployment(
       name="hello-batch-dpl",
       description="A hello world deployment with a single step.",
       endpoint_name=endpoint.name,
       component=hello_batch,
       settings={"continue_on_step_failure": False, "default_compute": compute_name},
   )

3. Creación de la implementación:

   CLI de Azure

   Ejecute el código siguiente para crear una implementación por lotes en el punto de conexión por lotes y establézcala como la implementación predeterminada.

   az ml batch-deployment create --endpoint $ENDPOINT_NAME -f deployment.yml --set-default
   

   Sugerencia

   Observa el uso de la marca --set-default para indicar que esta nueva implementación es ahora el valor predeterminado.

   Python

   Este comando iniciará la creación de la implementación y devolverá una respuesta de confirmación mientras continúa la creación de la implementación.

   ml_client.batch_deployments.begin_create_or_update(deployment).result()

   Una vez creada, vamos a configurar esta nueva implementación como la predeterminada:

   endpoint = ml_client.batch_endpoints.get(endpoint_name)
   endpoint.defaults.deployment_name = deployment.name
   ml_client.batch_endpoints.begin_create_or_update(endpoint).result()

4. La implementación está lista para su uso.

Prueba de la implementación

Una vez creada la implementación, está lista para recibir trabajos. Puedes invocar la implementación determinada de la siguiente manera:

CLI de Azure

JOB_NAME=$(az ml batch-endpoint invoke -n $ENDPOINT_NAME --query name -o tsv)

Python

job = ml_client.batch_endpoints.invoke(
    endpoint_name=endpoint.name,
)

Sugerencia

En este ejemplo, la canalización no tiene entradas ni salidas. Sin embargo, si el componente de canalización requiere algunos, se pueden indicar en el momento de la invocación. Para obtener información sobre cómo indicar entradas y salidas, consulte Creación de trabajos y datos de entrada para puntos de conexión por lotes o consulte el tutorial Cómo implementar una canalización para realizar puntuaciones por lotes con preprocesamiento (versión preliminar).

Puedes supervisar el progreso de la presentación y transmitir los registros mediante:

CLI de Azure

az ml job stream -n $JOB_NAME

Python

ml_client.jobs.get(job.name)

Para esperar a que finalice el trabajo, ejecuta el código siguiente:

ml_client.jobs.stream(name=job.name)

Limpieza de recursos

Una vez que hayas terminado, elimina los recursos asociados del área de trabajo:

CLI de Azure

Ejecuta el código siguiente para eliminar el punto de conexión por lotes y la implementación subyacente. --yes se usa para confirmar la eliminación.

az ml batch-endpoint delete -n $ENDPOINT_NAME --yes

Python

Eliminación del punto de conexión:

ml_client.batch_endpoints.begin_delete(endpoint_name).result()

(Opcional) elimina el proceso, a menos que planees reutilizar el clúster de proceso con implementaciones posteriores.

CLI de Azure

az ml compute delete -n batch-cluster

Python

ml_client.compute.begin_delete(name="batch-cluster")

Pasos siguientes

• Cómo implementar una canalización de entrenamiento con puntos de conexión por lotes
• Cómo implementar una canalización para realizar puntuaciones por lotes con preprocesamiento
• Crear puntos de conexión por lotes a partir de trabajos de canalización
• Creación de trabajos y datos de entrada para puntos de conexión por lotes
• Solución de problemas de puntos de conexión por lotes