Så här distribuerar du en AutoML-modell till en onlineslutpunkt

GÄLLER FÖR:Azure CLI ml extension v2 (current)Python SDK azure-ai-ml v2 (aktuell)

I den här artikeln får du lära dig hur du distribuerar en AutoML-tränad maskininlärningsmodell till en onlineslutpunkt (slutsatsdragning i realtid). Automatiserad maskininlärning, även kallad automatiserad ML eller AutoML, är processen att automatisera de tidskrävande, iterativa uppgifterna med att utveckla en maskininlärningsmodell. Mer information finns i Vad är automatisk maskininlärning (AutoML)?.

I den här artikeln får du veta hur du distribuerar autoML-tränad maskininlärningsmodell till onlineslutpunkter med hjälp av:

• Azure Machine Learning Studio
• Azure Machine Learning CLI v2
• Azure Machine Learning Python SDK v2

Förutsättningar

En AutoML-tränad maskininlärningsmodell. Mer information finns i Självstudie: Träna en klassificeringsmodell utan kod AutoML i Azure Machine Learning-studio eller Självstudie: Prognostisera efterfrågan med automatiserad maskininlärning.

Distribuera från Azure Machine Learning-studio och ingen kod

Att distribuera en AutoML-tränad modell från sidan Automatiserad ML är en kodfri upplevelse. Du behöver alltså inte förbereda ett bedömningsskript och en miljö, båda genereras automatiskt.

1. Gå till sidan Automatiserad ML i studion

2. Välj experimentet och kör

3. Välj fliken Modeller

4. Välj den modell som du vill distribuera

5. När du har valt en modell lyser knappen Distribuera med en nedrullningsbara meny

6. Välj alternativet Distribuera till slutpunkt i realtid

   

   Systemet genererar den modell och miljö som behövs för distributionen.

   

   

7. Slutför guiden för att distribuera modellen till en onlineslutpunkt

Distribuera manuellt från studio- eller kommandoraden

Om du vill ha mer kontroll över distributionen kan du ladda ned träningsartefakterna och distribuera dem.

Så här laddar du ned de komponenter som du behöver för distribution:

1. Gå till ditt automatiserade ML-experiment och kör på din maskininlärningsarbetsyta
2. Välj fliken Modeller
3. Välj den modell som du vill använda. När du har valt en modell aktiveras knappen Ladda ned
4. Välj Ladda ned

Du får en zip-fil som innehåller:

• En conda-miljöspecifikationsfil med namnet conda_env_<VERSION>.yml
• En Python-bedömningsfil med namnet scoring_file_<VERSION>.py
• Själva modellen i en Python-fil .pkl med namnet model.pkl

Om du vill distribuera med hjälp av dessa filer kan du använda antingen studio eller Azure CLI.

Studio

1. Gå till sidan Modeller i Azure Machine Learning-studio

2. Välj + Registrera modellalternativ

3. Registrera modellen som du laddade ned från automatiserad ML-körning

4. Gå till sidan Miljöer, välj Anpassad miljö och välj + Skapa för att skapa en miljö för distributionen. Använd den nedladdade conda yaml för att skapa en anpassad miljö

5. Välj modellen och i listrutan Distribuera väljer du Distribuera till realtidsslutpunkt

6. Slutför alla steg i guiden för att skapa en onlineslutpunkt och distribution

Azure CLI

GÄLLER FÖR:Azure CLI ml extension v2 (aktuell)

Konfigurera CLI

För att skapa en distribution från CLI behöver du Azure CLI med ML v2-tillägget. Kör följande kommando för att bekräfta att du har båda:

az version

Om du får ett felmeddelande eller om du inte ser Extensions: ml något i svaret följer du stegen i Installera och konfigurera CLI (v2).

Logga in:

az login

Om du har åtkomst till flera Azure-prenumerationer kan du ange din aktiva prenumeration:

az account set -s "<YOUR_SUBSCRIPTION_NAME_OR_ID>"

Ange standardresursgruppen och arbetsytan till den plats där du vill skapa distributionen:

az configure --defaults group=$GROUP workspace=$WORKSPACE location=$LOCATION

Placera bedömningsfilen i en egen katalog

Skapa en katalog med namnet src/ och placera bedömningsfilen som du laddade ned i den. Den här katalogen laddas upp till Azure och innehåller all källkod som krävs för att härleda. För en AutoML-modell finns det bara en enskild bedömningsfil.

Skapa yaml-filen för slutpunkten och distributionen

Om du vill skapa en onlineslutpunkt från kommandoraden måste du skapa en endpoint.yml och en deployment.yml-fil . Följande kod, som hämtas från lagringsplatsen Azure Machine Learning Examples, visar slutpunkterna/online/managed/sample/, som samlar in alla nödvändiga indata:

automl_endpoint.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-endpoint
auth_mode: key

automl_deployment.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineDeployment.schema.json
name: blue
endpoint_name: my-endpoint
model:
  path: ../../model-1/model/
code_configuration:
  code: ../../model-1/onlinescoring/
  scoring_script: score.py
environment: 
  conda_file: ../../model-1/environment/conda.yaml
  image: mcr.microsoft.com/azureml/openmpi4.1.0-ubuntu20.04:latest
instance_type: Standard_DS3_v2
instance_count: 1

Du måste ändra den här filen så att den använder de filer som du laddade ned från sidan AutoML-modeller.

1. Skapa en fil automl_endpoint.yml och automl_deployment.yml klistra in innehållet i exemplet ovan.

2. Ändra värdet för name slutpunkten. Slutpunktsnamnet måste vara unikt i Azure-regionen. Namnet på en slutpunkt måste börja med en versal eller gemen bokstav och endast bestå av '-'s och alfanumeriska tecken.

3. automl_deployment I filen ändrar du värdet för nycklarna på följande sökvägar:

   Sökväg	Ändra till
   model:path	Sökvägen till filen model.pkl som du laddade ned.
   code_configuration:code:path	Katalogen där du placerade bedömningsfilen.
   code_configuration:scoring_script	Namnet på Python-bedömningsfilen (scoring_file_<VERSION>.py).
   environment:conda_file	En fil-URL för den nedladdade conda-miljöfilen (conda_env_<VERSION>.yml).

   Kommentar

   En fullständig beskrivning av YAML finns i YAML-referens för onlineslutpunkt.

4. Från kommandoraden kör du:

   GÄLLER FÖR:Azure CLI ml extension v2 (aktuell)

   az ml online-endpoint create -f automl_endpoint.yml
   az ml online-deployment create -f automl_deployment.yml
   

När du har skapat en distribution kan du poängsätta den enligt beskrivningen i Anropa slutpunkten för att poängsätta data med hjälp av din modell.

Python SDK

GÄLLER FÖR: Python SDK azure-ai-ml v2 (aktuell)

Konfigurera Python SDK

Om du inte har installerat Python SDK v2 än installerar du med det här kommandot:

pip install azure-ai-ml azure-identity

Mer information finns i Installera Azure Machine Learning SDK v2 för Python.

Placera bedömningsfilen i en egen katalog

Skapa en katalog med namnet src/ och placera bedömningsfilen som du laddade ned i den. Den här katalogen laddas upp till Azure och innehåller all källkod som krävs för att härleda. För en AutoML-modell finns det bara en enskild bedömningsfil.

Anslut till Azure Machine Learning-arbetsytan

1. Importera de bibliotek som krävs:

   # import required libraries
   from azure.ai.ml import MLClient
   from azure.ai.ml.entities import (
       ManagedOnlineEndpoint,
       ManagedOnlineDeployment,
       Model,
       Environment,
       CodeConfiguration,
   )
   from azure.identity import DefaultAzureCredential
   

2. Konfigurera information om arbetsytan och få ett handtag till arbetsytan:

   # enter details of your Azure Machine Learning workspace
   subscription_id = "<SUBSCRIPTION_ID>"
   resource_group = "<RESOURCE_GROUP>"
   workspace = "<AZUREML_WORKSPACE_NAME>"
   

   # get a handle to the workspace
   ml_client = MLClient(
       DefaultAzureCredential(), subscription_id, resource_group, workspace
   )
   

Skapa slutpunkten och distributionen

Därefter skapar vi de hanterade onlineslutpunkterna och distributionerna.

1. Konfigurera onlineslutpunkt:

   Dricks

   • name: Namnet på slutpunkten. Den måste vara unik i Azure-regionen. Namnet på en slutpunkt måste börja med en versal eller gemen bokstav och endast bestå av '-'s och alfanumeriska tecken. Mer information om namngivningsreglerna finns i slutpunktsgränser.
   • auth_mode : Används key för nyckelbaserad autentisering. Används aml_token för tokenbaserad autentisering i Azure Machine Learning. A key upphör inte att gälla, men aml_token upphör att gälla. Mer information om autentisering finns i Autentisera till en onlineslutpunkt.

   # Creating a unique endpoint name with current datetime to avoid conflicts
   import datetime
   
   online_endpoint_name = "endpoint-" + datetime.datetime.now().strftime("%m%d%H%M%f")
   
   # create an online endpoint
   endpoint = ManagedOnlineEndpoint(
       name=online_endpoint_name,
       description="this is a sample online endpoint",
       auth_mode="key",
   )
   

2. Skapa slutpunkten:

   Med hjälp av den MLClient som skapades tidigare skapar vi nu slutpunkten på arbetsytan. Det här kommandot startar skapandet av slutpunkten och returnerar ett bekräftelsesvar medan skapandet av slutpunkten fortsätter.

   ml_client.begin_create_or_update(endpoint)
   

3. Konfigurera onlinedistribution:

   En distribution är en uppsättning resurser som krävs för att vara värd för den modell som utför den faktiska inferensen. Vi skapar en distribution för slutpunkten med hjälp av ManagedOnlineDeployment klassen .

   model = Model(path="./src/model.pkl")
   env = Environment(
       conda_file="./src/conda_env_v_1_0_0.yml",
       image="mcr.microsoft.com/azureml/openmpi3.1.2-ubuntu18.04:latest",
   )
   
   blue_deployment = ManagedOnlineDeployment(
       name="blue",
       endpoint_name=online_endpoint_name,
       model=model,
       environment=env,
       code_configuration=CodeConfiguration(
           code="./src", scoring_script="scoring_file_v_2_0_0.py"
       ),
       instance_type="Standard_DS2_v2",
       instance_count=1,
   )
   

   I exemplet ovan antar vi att filerna som du laddade ned från sidan AutoML-modeller finns i src katalogen. Du kan ändra parametrarna i koden så att de passar din situation.

   Parameter	Ändra till
   model:path	Sökvägen till filen model.pkl som du laddade ned.
   code_configuration:code:path	Katalogen där du placerade bedömningsfilen.
   code_configuration:scoring_script	Namnet på Python-bedömningsfilen (scoring_file_<VERSION>.py).
   environment:conda_file	En fil-URL för den nedladdade conda-miljöfilen (conda_env_<VERSION>.yml).

4. Skapa distributionen:

   Med hjälp av den MLClient som skapades tidigare skapar vi nu distributionen på arbetsytan. Det här kommandot startar distributionen och returnerar ett bekräftelsesvar medan distributionen skapas.

   ml_client.begin_create_or_update(blue_deployment)
   

När du har skapat en distribution kan du poängsätta den enligt beskrivningen i Testa slutpunkten med exempeldata.

Du kan lära dig att distribuera till hanterade onlineslutpunkter med SDK mer i Distribuera maskininlärningsmodeller till hanterad onlineslutpunkt med Python SDK v2.

Nästa steg

• Felsöka distribution av onlineslutpunkter
• Valv distribution för onlineslutpunkter