Como implantar um modelo AutoML em um ponto de extremidade online

APLICA-SE A:Azure CLI ml extension v2 (current)Python SDK azure-ai-ml v2 (current)

Neste artigo, você aprenderá a implantar um modelo de aprendizado de máquina treinado pelo AutoML em um ponto de extremidade de inferência online em tempo real. O aprendizado de máquina automatizado, também conhecido como ML automatizado ou AutoML, é o processo de automatizar as tarefas iterativas e demoradas do desenvolvimento de um modelo de aprendizado de máquina. Para obter mais informações, consulte O que é aprendizado de máquina automatizado (AutoML)?

Nas seções a seguir, você aprenderá a implantar o modelo de aprendizado de máquina treinado pelo AutoML em pontos de extremidade online usando:

• Azure Machine Learning Studio
• CLI do Azure Machine Learning v2
• SDK do Python do Azure Machine Learning v2

Pré-requisitos

• Um modelo de aprendizado de máquina treinado pelo AutoML. Para obter mais informações, consulte Tutorial: Treinar um modelo de classificação com AutoML sem código ou Tutorial: Prever a demanda com aprendizado de máquina automatizado sem código.

Implantar a partir do estúdio de Aprendizado de Máquina do Azure e sem código

A implantação de um modelo treinado em AutoML a partir da página ML automatizado é uma experiência sem código. Ou seja, você não precisa preparar um script de pontuação e um ambiente porque ambos são gerados automaticamente.

1. No estúdio do Azure Machine Learning, vá para a página ML automatizado .

2. Selecione seu experimento e execute-o.

3. Escolha a guia Modelos + trabalhos filho.

4. Selecione o modelo que pretende implementar.

5. Depois de selecionar um modelo, o botão Implantar estará disponível com um menu suspenso.

6. Selecione a opção Ponto final em tempo real.

   

   O sistema gera o Modelo e o Ambiente necessários para a implantação.

   

Implantar manualmente a partir do estúdio ou da linha de comando

Se quiser ter mais controle sobre a implantação, você pode baixar os artefatos de treinamento e implantá-los.

Para baixar os componentes, você precisa para a implantação:

1. Vá para seu experimento de ML automatizado e execute-o em seu espaço de trabalho de aprendizado de máquina.

2. Escolha a guia Modelos + trabalhos filho.

3. Selecione o modelo que deseja usar. Depois de selecionar um modelo, o botão Download é ativado.

4. Escolha Download.

   

Você recebe um arquivo .zip que contém:

• Um arquivo de especificação de ambiente conda chamado conda_env_<VERSION>.yml
• Um arquivo de pontuação Python chamado scoring_file_<VERSION>.py
• O modelo em si, em um arquivo .pkl Python chamado model.pkl

Para implantar usando esses arquivos, você pode usar o estúdio ou a CLI do Azure.

Estúdio

1. No estúdio do Azure Machine Learning, vá para a página Modelos .
2. Selecione Selecionar + Registrar>a partir de arquivos locais.
3. Registre o modelo que você baixou da execução automatizada de ML.
4. Vá para a página Ambientes, selecione Ambiente personalizado e selecione + Criar para criar um ambiente para sua implantação. Use o conda yaml baixado para criar um ambiente personalizado.
5. Selecione o modelo e, no menu suspenso Deploy , selecione Ponto de extremidade em tempo real.
6. Conclua todas as etapas no assistente para criar um ponto de extremidade e implantação online.

CLI do Azure

APLICA-SE A: Azure CLI ml extension v2 (atual)

Configurar a CLI

Para criar uma implantação a partir da CLI, você precisa da CLI do Azure com a extensão ML v2. Execute o seguinte comando para confirmar:

az version

Se você receber uma mensagem de erro ou não vir Extensions: ml na resposta, siga as etapas em Instalar e configurar a CLI (v2).

1. Inicie sessão.

   az login
   

2. Se tiver acesso a várias subscrições do Azure, pode definir a sua subscrição ativa.

   az account set -s "<YOUR_SUBSCRIPTION_NAME_OR_ID>"
   

3. Defina o grupo de recursos e o espaço de trabalho padrão para onde você deseja criar a implantação.

   az configure --defaults group=$GROUP workspace=$WORKSPACE location=$LOCATION
   

Coloque o arquivo de pontuação em seu próprio diretório

Crie um diretório chamado src. Salve o arquivo de pontuação que você baixou para ele. Este diretório é carregado no Azure e contém todo o código-fonte necessário para fazer inferência. Para um modelo AutoML, há apenas o único arquivo de pontuação.

Criar o arquivo yaml de ponto de extremidade e implantação

Para criar um ponto de extremidade online a partir da linha de comando, crie um endpoint.yml e um arquivo deployment.yml. O código a seguir, extraído do repositório Exemplos de Aprendizado de Máquina do Azure, mostra os pontos de extremidade/online/managed/sample/, que captura todas as entradas necessárias.

automl_endpoint.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-endpoint
auth_mode: key

automl_deployment.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineDeployment.schema.json
name: blue
endpoint_name: my-endpoint
model:
  path: ../../model-1/model/
code_configuration:
  code: ../../model-1/onlinescoring/
  scoring_script: score.py
environment: 
  conda_file: ../../model-1/environment/conda.yaml
  image: mcr.microsoft.com/azureml/openmpi4.1.0-ubuntu20.04:latest
instance_type: Standard_DS3_v2
instance_count: 1

Você precisa modificar esse arquivo para usar os arquivos baixados da página Modelos AutoML.

1. Crie um arquivo automl_endpoint.yml e automl_deployment.yml e cole o conteúdo dos exemplos anteriores.

2. Altere name o valor do ponto de extremidade. O nome do ponto de extremidade precisa ser exclusivo dentro da região do Azure. O nome de um ponto final deve começar com uma letra maiúscula ou minúscula e consistir apenas em '-' e caracteres alfanuméricos.

3. No arquivo automl_deployment.yml, altere o valor das chaves nos caminhos a seguir.

   Caminho	Alterar para
   model:path	O caminho para o arquivo model.pkl que você baixou.
   code_configuration:code:path	O diretório no qual você colocou o arquivo de pontuação.
   code_configuration:scoring_script	O nome do arquivo de pontuação Python (scoring_file_<VERSION>.py).
   environment:conda_file	Um URL de arquivo para o arquivo de ambiente conda baixado (conda_env_<VERSION>.yml).

   Nota

   Para obter uma descrição completa do YAML, consulte Referência do YAML do ponto de extremidade online.

4. Na linha de comando, execute:

   APLICA-SE A: Azure CLI ml extension v2 (atual)

   az ml online-endpoint create -f automl_endpoint.yml
   az ml online-deployment create -f automl_deployment.yml
   

Depois de criar uma implantação, você pode marcá-la conforme descrito em Invocar o ponto de extremidade para pontuar dados usando seu modelo.

Python SDK

APLICA-SE A: Python SDK azure-ai-ml v2 (atual)

Configurar o SDK do Python

Se você precisar instalar o Python SDK v2, instale com este comando:

pip install azure-ai-ml azure-identity

Para obter mais informações, consulte Instalar o SDK do Azure Machine Learning v2 para Python.

Coloque o arquivo de pontuação em seu próprio diretório

Crie um diretório chamado src. Salve o arquivo de pontuação que você baixou para ele. Este diretório é carregado no Azure e contém todo o código-fonte necessário para fazer inferência. Para um modelo AutoML, há apenas o único arquivo de pontuação.

Conectar-se ao espaço de trabalho do Azure Machine Learning

1. Importe as bibliotecas necessárias.

   # import required libraries
   from azure.ai.ml import MLClient
   from azure.ai.ml.entities import (
       ManagedOnlineEndpoint,
       ManagedOnlineDeployment,
       Model,
       Environment,
       CodeConfiguration,
   )
   from azure.identity import DefaultAzureCredential
   

2. Configure os detalhes do espaço de trabalho e obtenha um identificador para o espaço de trabalho.

   # enter details of your Azure Machine Learning workspace
   subscription_id = "<SUBSCRIPTION_ID>"
   resource_group = "<RESOURCE_GROUP>"
   workspace = "<AZUREML_WORKSPACE_NAME>"
   

   # get a handle to the workspace
   ml_client = MLClient(
       DefaultAzureCredential(), subscription_id, resource_group, workspace
   )
   

Criar o ponto de extremidade e a implantação

Crie os pontos de extremidade e implantações online gerenciados.

1. Configure o ponto de extremidade online.

   Gorjeta

   • name: O nome do ponto de extremidade. Ele deve ser exclusivo na região do Azure. O nome de um ponto final deve começar com uma letra maiúscula ou minúscula e consistir apenas em '-' e caracteres alfanuméricos. Para obter mais informações sobre as regras de nomenclatura, consulte Limites de pontos finais.
   • auth_mode : Use key para autenticação baseada em chave. Use aml_token para autenticação baseada em token do Azure Machine Learning. A key não expira, mas aml_token expira. Para obter mais informações sobre autenticação, consulte Autenticar em um ponto de extremidade online.

   # Creating a unique endpoint name with current datetime to avoid conflicts
   import datetime
   
   online_endpoint_name = "endpoint-" + datetime.datetime.now().strftime("%m%d%H%M%f")
   
   # create an online endpoint
   endpoint = ManagedOnlineEndpoint(
       name=online_endpoint_name,
       description="this is a sample online endpoint",
       auth_mode="key",
   )
   

2. Crie o ponto de extremidade.

   Usando o MLClient criado anteriormente, crie o ponto de extremidade no espaço de trabalho. Este comando inicia a criação do ponto de extremidade. Ele retorna uma resposta de confirmação enquanto a criação do ponto de extremidade continua.

   ml_client.begin_create_or_update(endpoint)
   

3. Configure a implantação online.

   Uma implantação é um conjunto de recursos necessários para hospedar o modelo que faz a inferência real. Crie uma implantação para nosso endpoint usando a ManagedOnlineDeployment classe.

   model = Model(path="./src/model.pkl")
   env = Environment(
       conda_file="./src/conda_env_v_1_0_0.yml",
       image="mcr.microsoft.com/azureml/openmpi3.1.2-ubuntu18.04:latest",
   )
   
   blue_deployment = ManagedOnlineDeployment(
       name="blue",
       endpoint_name=online_endpoint_name,
       model=model,
       environment=env,
       code_configuration=CodeConfiguration(
           code="./src", scoring_script="scoring_file_v_2_0_0.py"
       ),
       instance_type="Standard_DS2_v2",
       instance_count=1,
   )
   

   Neste exemplo, os arquivos baixados da página Modelos AutoML estão no diretório src . Você pode modificar os parâmetros no código para se adequar à sua situação.

   Parâmetro	Alterar para
   model:path	O caminho para o arquivo model.pkl que você baixou.
   code_configuration:code:path	O diretório no qual você colocou o arquivo de pontuação.
   code_configuration:scoring_script	O nome do arquivo de pontuação Python (scoring_file_<VERSION>.py).
   environment:conda_file	Um URL de arquivo para o arquivo de ambiente conda baixado (conda_env_<VERSION>.yml).

4. Crie a implantação.

   Usando o MLClient criado anteriormente, crie a implantação no espaço de trabalho. Este comando inicia a criação da implantação. Ele retorna uma resposta de confirmação enquanto a criação da implantação continua.

   ml_client.begin_create_or_update(blue_deployment)
   

Depois de criar uma implantação, você pode classificá-la conforme descrito em Testar o ponto de extremidade com dados de exemplo.

Para saber mais sobre como implantar em pontos de extremidade online gerenciados com SDK, consulte Implantar e pontuar um modelo de aprendizado de máquina usando um ponto de extremidade online.

Conteúdos relacionados

• Solução de problemas de implantação e pontuação de endpoints on-line
• Execute a distribuição segura de novas implantações para inferência em tempo real