Como implantar um modelo AutoML em um ponto de extremidade online

APLICA-SE A:Azure CLI ml extension v2 (current)Python SDK azure-ai-ml v2 (current)

Neste artigo, você aprenderá como implantar um modelo de aprendizado de máquina treinado pelo AutoML em um ponto de extremidade online (inferência em tempo real). O aprendizado de máquina automatizado, também conhecido como ML automatizado ou AutoML, é o processo de automatizar as tarefas iterativas e demoradas do desenvolvimento de um modelo de aprendizado de máquina. Para saber mais, consulte O que é o aprendizado de máquina automatizado (AutoML)?.

Neste artigo, você saberá como implantar o modelo de aprendizado de máquina treinado pelo AutoML em pontos de extremidade online usando:

• Azure Machine Learning Studio
• CLI do Azure Machine Learning v2
• SDK do Python do Azure Machine Learning v2

Pré-requisitos

Um modelo de aprendizado de máquina treinado pelo AutoML. Para saber mais, consulte Tutorial: Treinar um modelo de classificação com AutoML sem código no estúdio do Azure Machine Learning ou Tutorial: Prever a demanda com aprendizado de máquina automatizado.

Implantar a partir do estúdio de Aprendizado de Máquina do Azure e sem código

A implantação de um modelo treinado em AutoML a partir da página ML automatizado é uma experiência sem código. Ou seja, você não precisa preparar um script de pontuação e um ambiente, ambos são gerados automaticamente.

1. Ir para a página de ML automatizado no estúdio

2. Selecione seu experimento e execute

3. Escolha a guia Modelos

4. Selecione o modelo que deseja implantar

5. Depois de selecionar um modelo, o botão Implantar acenderá com um menu suspenso

6. Selecione a opção Implantar em ponto de extremidade em tempo real

   

   O sistema gerará o Modelo e o Ambiente necessários para a implantação.

   

   

7. Conclua o assistente para implantar o modelo em um ponto de extremidade online

Implantar manualmente a partir do estúdio ou da linha de comando

Se desejar ter mais controle sobre a implantação, você pode baixar os artefatos de treinamento e implantá-los.

Para baixar os componentes necessários para a implantação:

1. Vá para seu experimento de ML automatizado e execute em seu espaço de trabalho de aprendizado de máquina
2. Escolha a guia Modelos
3. Selecione o modelo que deseja usar. Depois de selecionar um modelo, o botão Download será ativado
4. Escolha Download

Você receberá um arquivo zip contendo:

• Um arquivo de especificação de ambiente conda chamado conda_env_<VERSION>.yml
• Um arquivo de pontuação Python chamado scoring_file_<VERSION>.py
• O modelo em si, em um arquivo Python .pkl chamado model.pkl

Para implantar usando esses arquivos, você pode usar o estúdio ou a CLI do Azure.

Estúdio

1. Ir para a página Modelos no estúdio do Azure Machine Learning

2. Opção Selecionar + Registrar Modelo

3. Registre o modelo que você baixou da execução automatizada de ML

4. Vá para a página Ambientes, selecione Ambiente personalizado e selecione a opção + Criar para criar um ambiente para sua implantação. Use o conda yaml baixado para criar um ambiente personalizado

5. Selecione o modelo e, na opção suspensa Implantar, selecione Implantar no ponto de extremidade em tempo real

6. Conclua todas as etapas no assistente para criar um ponto de extremidade online e implantação

CLI do Azure

APLICA-SE A:Extensão ml da CLI do Azure v2 (atual)

Configurar a CLI

Para criar uma implantação a partir da CLI, você precisará da CLI do Azure com a extensão ML v2. Execute o seguinte comando para confirmar que você tem ambos:

az version

Se você receber uma mensagem de erro ou não vir Extensions: ml na resposta, siga as etapas em Instalar e configurar a CLI (v2).

Iniciar sessão:

az login

Se tiver acesso a várias subscrições do Azure, pode definir a sua subscrição ativa:

az account set -s "<YOUR_SUBSCRIPTION_NAME_OR_ID>"

Defina o grupo de recursos e o espaço de trabalho padrão para onde você deseja criar a implantação:

az configure --defaults group=$GROUP workspace=$WORKSPACE location=$LOCATION

Coloque o arquivo de pontuação em seu próprio diretório

Crie um diretório chamado src/ e coloque o arquivo de pontuação que você baixou nele. Este diretório é carregado no Azure e contém todo o código-fonte necessário para fazer inferência. Para um modelo AutoML, há apenas o único arquivo de pontuação.

Criar o arquivo yaml de ponto de extremidade e implantação

Para criar um ponto de extremidade online a partir da linha de comando, você precisará criar um endpoint.yml e um arquivo deployment.yml. O código a seguir, retirado do repositório Exemplos de Aprendizado de Máquina do Azure, mostra os pontos de extremidade/online/managed/sample/, que captura todas as entradas necessárias:

automl_endpoint.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-endpoint
auth_mode: key

automl_deployment.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineDeployment.schema.json
name: blue
endpoint_name: my-endpoint
model:
  path: ../../model-1/model/
code_configuration:
  code: ../../model-1/onlinescoring/
  scoring_script: score.py
environment: 
  conda_file: ../../model-1/environment/conda.yaml
  image: mcr.microsoft.com/azureml/openmpi4.1.0-ubuntu20.04:latest
instance_type: Standard_DS3_v2
instance_count: 1

Você precisará modificar esse arquivo para usar os arquivos baixados da página Modelos AutoML.

1. Crie um arquivo automl_endpoint.yml e automl_deployment.yml cole o conteúdo do exemplo acima.

2. Altere name o valor do ponto de extremidade. O nome do ponto de extremidade precisa ser exclusivo dentro da região do Azure. O nome de um ponto final deve começar com uma letra maiúscula ou minúscula e consistir apenas em '-' e caracteres alfanuméricos.

3. automl_deployment No arquivo, altere o valor das chaves nos seguintes caminhos:

   Caminho	Alterar para
   model:path	O caminho para o model.pkl arquivo que você baixou.
   code_configuration:code:path	O diretório no qual você colocou o arquivo de pontuação.
   code_configuration:scoring_script	O nome do arquivo de pontuação Python (scoring_file_<VERSION>.py).
   environment:conda_file	Um URL de arquivo para o arquivo de ambiente conda baixado (conda_env_<VERSION>.yml).

   Nota

   Para obter uma descrição completa do YAML, consulte Referência do YAML do ponto de extremidade online.

4. Na linha de comando, execute:

   APLICA-SE A:Extensão ml da CLI do Azure v2 (atual)

   az ml online-endpoint create -f automl_endpoint.yml
   az ml online-deployment create -f automl_deployment.yml
   

Depois de criar uma implantação, você pode marcá-la conforme descrito em Invocar o ponto de extremidade para pontuar dados usando seu modelo.

Python SDK

APLICA-SE A: Python SDK azure-ai-ml v2 (atual)

Configurar o SDK do Python

Se você ainda não instalou o Python SDK v2, instale com este comando:

pip install azure-ai-ml azure-identity

Para obter mais informações, consulte Instalar o SDK do Azure Machine Learning v2 para Python.

Coloque o arquivo de pontuação em seu próprio diretório

Crie um diretório chamado src/ e coloque o arquivo de pontuação que você baixou nele. Este diretório é carregado no Azure e contém todo o código-fonte necessário para fazer inferência. Para um modelo AutoML, há apenas o único arquivo de pontuação.

Conectar-se ao espaço de trabalho do Azure Machine Learning

1. Importe as bibliotecas necessárias:

   # import required libraries
   from azure.ai.ml import MLClient
   from azure.ai.ml.entities import (
       ManagedOnlineEndpoint,
       ManagedOnlineDeployment,
       Model,
       Environment,
       CodeConfiguration,
   )
   from azure.identity import DefaultAzureCredential
   

2. Configure os detalhes do espaço de trabalho e obtenha um identificador para o espaço de trabalho:

   # enter details of your Azure Machine Learning workspace
   subscription_id = "<SUBSCRIPTION_ID>"
   resource_group = "<RESOURCE_GROUP>"
   workspace = "<AZUREML_WORKSPACE_NAME>"
   

   # get a handle to the workspace
   ml_client = MLClient(
       DefaultAzureCredential(), subscription_id, resource_group, workspace
   )
   

Criar o ponto de extremidade e a implantação

Em seguida, criaremos os endpoints e implantações online gerenciados.

1. Configure o ponto de extremidade online:

   Gorjeta

   • name: O nome do ponto de extremidade. Ele deve ser exclusivo na região do Azure. O nome de um ponto final deve começar com uma letra maiúscula ou minúscula e consistir apenas em '-' e caracteres alfanuméricos. Para obter mais informações sobre as regras de nomenclatura, consulte Limites de pontos finais.
   • auth_mode : Use key para autenticação baseada em chave. Use aml_token para autenticação baseada em token do Azure Machine Learning. A key não expira, mas aml_token expira. Para obter mais informações sobre autenticação, consulte Autenticar em um ponto de extremidade online.

   # Creating a unique endpoint name with current datetime to avoid conflicts
   import datetime
   
   online_endpoint_name = "endpoint-" + datetime.datetime.now().strftime("%m%d%H%M%f")
   
   # create an online endpoint
   endpoint = ManagedOnlineEndpoint(
       name=online_endpoint_name,
       description="this is a sample online endpoint",
       auth_mode="key",
   )
   

2. Crie o ponto de extremidade:

   Usando o criado anteriormente, agora criaremos o MLClient Endpoint no espaço de trabalho. Este comando iniciará a criação do ponto de extremidade e retornará uma resposta de confirmação enquanto a criação do ponto de extremidade continua.

   ml_client.begin_create_or_update(endpoint)
   

3. Configure a implantação online:

   Uma implantação é um conjunto de recursos necessários para hospedar o modelo que faz a inferência real. Criaremos uma implantação para nosso endpoint usando a ManagedOnlineDeployment classe.

   model = Model(path="./src/model.pkl")
   env = Environment(
       conda_file="./src/conda_env_v_1_0_0.yml",
       image="mcr.microsoft.com/azureml/openmpi3.1.2-ubuntu18.04:latest",
   )
   
   blue_deployment = ManagedOnlineDeployment(
       name="blue",
       endpoint_name=online_endpoint_name,
       model=model,
       environment=env,
       code_configuration=CodeConfiguration(
           code="./src", scoring_script="scoring_file_v_2_0_0.py"
       ),
       instance_type="Standard_DS2_v2",
       instance_count=1,
   )
   

   No exemplo acima, assumimos que os arquivos baixados da página Modelos AutoML estão no src diretório. Você pode modificar os parâmetros no código para se adequar à sua situação.

   Parâmetro	Alterar para
   model:path	O caminho para o model.pkl arquivo que você baixou.
   code_configuration:code:path	O diretório no qual você colocou o arquivo de pontuação.
   code_configuration:scoring_script	O nome do arquivo de pontuação Python (scoring_file_<VERSION>.py).
   environment:conda_file	Um URL de arquivo para o arquivo de ambiente conda baixado (conda_env_<VERSION>.yml).

4. Crie a implantação:

   Usando o MLClient criado anteriormente, agora criaremos a implantação no espaço de trabalho. Esse comando iniciará a criação da implantação e retornará uma resposta de confirmação enquanto a criação da implantação continuar.

   ml_client.begin_create_or_update(blue_deployment)
   

Depois de criar uma implantação, você pode classificá-la conforme descrito em Testar o ponto de extremidade com dados de exemplo.

Você pode aprender a implantar em endpoints online gerenciados com SDK mais em Implantar modelos de aprendizado de máquina em endpoint online gerenciado usando o Python SDK v2.

Próximos passos

• Resolver problemas de implementação de pontos finais online
• Implementação segura para terminais online