Så här distribuerar du en AutoML-modell till en onlineslutpunkt

GÄLLER FÖR:Azure CLI ml extension v2 (current)Python SDK azure-ai-ml v2 (aktuell)

I den här artikeln får du lära dig hur du distribuerar en AutoML-tränad maskininlärningsmodell till en slutpunkt för realtidsslutpunkt online. Automatiserad maskininlärning, även kallad automatiserad ML eller AutoML, är processen att automatisera de tidskrävande, iterativa uppgifterna med att utveckla en maskininlärningsmodell. Mer information finns i Vad är automatisk maskininlärning (AutoML)?

I följande avsnitt får du lära dig hur du distribuerar AutoML-tränad maskininlärningsmodell till onlineslutpunkter med hjälp av:

• Azure Machine Learning Studio
• Azure Mašinsko učenje CLI v2
• Azure Mašinsko učenje Python SDK v2

Förutsättningar

• En AutoML-tränad maskininlärningsmodell. Mer information finns i Självstudie: Träna en klassificeringsmodell utan kod AutoML eller Självstudie: Prognostisera efterfrågan utan kod automatiserad maskininlärning.

Distribuera från Azure Mašinsko učenje Studio och ingen kod

Att distribuera en AutoML-tränad modell från sidan Automatiserad ML är en kodfri upplevelse. Du behöver alltså inte förbereda ett bedömningsskript och en miljö eftersom båda genereras automatiskt.

1. Gå till sidan Automatiserad ML i Azure Mašinsko učenje studio.

2. Välj experimentet och kör det.

3. Välj fliken Modeller + underordnade jobb .

4. Välj den modell du vill distribuera.

5. När du har valt en modell är knappen Distribuera tillgänglig med en nedrullningsbara meny.

6. Välj alternativet Slutpunkt i realtid.

   

   Systemet genererar den modell och miljö som behövs för distributionen.

   

Distribuera manuellt från studio- eller kommandoraden

Om du vill ha mer kontroll över distributionen kan du ladda ned träningsartefakterna och distribuera dem.

För att ladda ned komponenterna behöver du för distribution:

1. Gå till ditt automatiserade ML-experiment och kör det på din maskininlärningsarbetsyta.

2. Välj fliken Modeller + underordnade jobb .

3. Välj den modell som du vill använda. När du har valt en modell aktiveras knappen Ladda ned .

4. Välj Hämta.

   

Du får en .zip fil som innehåller:

• En conda-miljöspecifikationsfil med namnet conda_env_<VERSION>.yml
• En Python-bedömningsfil med namnet scoring_file_<VERSION>.py
• Själva modellen i en Python .pkl-fil med namnet model.pkl

Om du vill distribuera med hjälp av dessa filer kan du använda antingen studio eller Azure CLI.

Studio

1. Gå till sidan Modeller i Azure Mašinsko učenje Studio.
2. Välj Välj + Registrera från>lokala filer.
3. Registrera modellen som du laddade ned från Automatiserad ML-körning.
4. Gå till sidan Miljöer, välj Anpassad miljö och välj + Skapa för att skapa en miljö för distributionen. Använd den nedladdade conda yaml för att skapa en anpassad miljö.
5. Välj modellen och välj Realtidsslutpunkt i listrutan Deploy.
6. Slutför alla steg i guiden för att skapa en onlineslutpunkt och distribution.

Azure CLI

GÄLLER FÖR: Azure CLI ml-tillägget v2 (aktuellt)

Konfigurera CLI

För att skapa en distribution från CLI behöver du Azure CLI med ML v2-tillägget. Kör följande kommando för att bekräfta:

az version

Om du får ett felmeddelande eller om du inte ser Extensions: ml något i svaret följer du stegen i Installera och konfigurera CLI (v2).

1. Logga in.

   az login
   

2. Om du har åtkomst till flera Azure-prenumerationer kan du ange din aktiva prenumeration.

   az account set -s "<YOUR_SUBSCRIPTION_NAME_OR_ID>"
   

3. Ange standardresursgruppen och arbetsytan till den plats där du vill skapa distributionen.

   az configure --defaults group=$GROUP workspace=$WORKSPACE location=$LOCATION
   

Placera bedömningsfilen i en egen katalog

Skapa en katalog med namnet src. Spara bedömningsfilen som du laddade ned till den. Den här katalogen laddas upp till Azure och innehåller all källkod som krävs för att härleda. För en AutoML-modell finns det bara en enskild bedömningsfil.

Skapa yaml-filen för slutpunkten och distributionen

Skapa en onlineslutpunkt från kommandoraden genom att skapa en endpoint.yml och en deployment.yml fil. Följande kod, som hämtas från lagringsplatsen Azure Mašinsko učenje Examples, visar slutpunkterna/online/managed/sample/, som samlar in alla nödvändiga indata.

automl_endpoint.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-endpoint
auth_mode: key

automl_deployment.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineDeployment.schema.json
name: blue
endpoint_name: my-endpoint
model:
  path: ../../model-1/model/
code_configuration:
  code: ../../model-1/onlinescoring/
  scoring_script: score.py
environment: 
  conda_file: ../../model-1/environment/conda.yaml
  image: mcr.microsoft.com/azureml/openmpi4.1.0-ubuntu20.04:latest
instance_type: Standard_DS3_v2
instance_count: 1

Du måste ändra den här filen så att den använder de filer som du laddade ned från sidan AutoML-modeller.

1. Skapa en fil automl_endpoint.yml och automl_deployment.yml och klistra in innehållet i föregående exempel.

2. Ändra värdet för name slutpunkten. Slutpunktsnamnet måste vara unikt i Azure-regionen. Namnet på en slutpunkt måste börja med en versal eller gemen bokstav och endast bestå av '-'s och alfanumeriska tecken.

3. I filen automl_deployment.yml ändrar du värdet för nycklarna på följande sökvägar.

   Sökväg	Ändra till
   model:path	Sökvägen till filen model.pkl som du laddade ned.
   code_configuration:code:path	Katalogen där du placerade bedömningsfilen.
   code_configuration:scoring_script	Namnet på Python-bedömningsfilen (scoring_file_<VERSION>.py).
   environment:conda_file	En fil-URL för den nedladdade conda-miljöfilen (conda_env_<VERSION>.yml).

   Kommentar

   En fullständig beskrivning av YAML finns i YAML-referens för onlineslutpunkt.

4. Från kommandoraden kör du:

   GÄLLER FÖR: Azure CLI ml-tillägget v2 (aktuellt)

   az ml online-endpoint create -f automl_endpoint.yml
   az ml online-deployment create -f automl_deployment.yml
   

När du har skapat en distribution kan du poängsätta den enligt beskrivningen i Anropa slutpunkten för att poängsätta data med hjälp av din modell.

Python SDK

GÄLLER FÖR: Python SDK azure-ai-ml v2 (aktuell)

Konfigurera Python SDK

Om du behöver installera Python SDK v2 installerar du med det här kommandot:

pip install azure-ai-ml azure-identity

Mer information finns i Installera Azure Mašinsko učenje SDK v2 för Python.

Placera bedömningsfilen i en egen katalog

Skapa en katalog med namnet src. Spara bedömningsfilen som du laddade ned till den. Den här katalogen laddas upp till Azure och innehåller all källkod som krävs för att härleda. För en AutoML-modell finns det bara en enskild bedömningsfil.

Ansluta till Azure Mašinsko učenje-arbetsyta

1. Importera de bibliotek som krävs.

   # import required libraries
   from azure.ai.ml import MLClient
   from azure.ai.ml.entities import (
       ManagedOnlineEndpoint,
       ManagedOnlineDeployment,
       Model,
       Environment,
       CodeConfiguration,
   )
   from azure.identity import DefaultAzureCredential
   

2. Konfigurera information om arbetsytan och få ett handtag till arbetsytan.

   # enter details of your Azure Machine Learning workspace
   subscription_id = "<SUBSCRIPTION_ID>"
   resource_group = "<RESOURCE_GROUP>"
   workspace = "<AZUREML_WORKSPACE_NAME>"
   

   # get a handle to the workspace
   ml_client = MLClient(
       DefaultAzureCredential(), subscription_id, resource_group, workspace
   )
   

Skapa slutpunkten och distributionen

Skapa hanterade onlineslutpunkter och distributioner.

1. Konfigurera onlineslutpunkt.

   Dricks

   • name: Namnet på slutpunkten. Den måste vara unik i Azure-regionen. Namnet på en slutpunkt måste börja med en versal eller gemen bokstav och endast bestå av '-'s och alfanumeriska tecken. Mer information om namngivningsreglerna finns i slutpunktsgränser.
   • auth_mode : Används key för nyckelbaserad autentisering. Använd aml_token för Azure Mašinsko učenje tokenbaserad autentisering. A key upphör inte att gälla, men aml_token upphör att gälla. Mer information om autentisering finns i Autentisera till en onlineslutpunkt.

   # Creating a unique endpoint name with current datetime to avoid conflicts
   import datetime
   
   online_endpoint_name = "endpoint-" + datetime.datetime.now().strftime("%m%d%H%M%f")
   
   # create an online endpoint
   endpoint = ManagedOnlineEndpoint(
       name=online_endpoint_name,
       description="this is a sample online endpoint",
       auth_mode="key",
   )
   

2. Skapa slutpunkten.

   Skapa slutpunkten på arbetsytan med hjälp av det MLClient som skapades tidigare. Det här kommandot startar skapandet av slutpunkten. Det returnerar ett bekräftelsesvar medan slutpunkten skapas.

   ml_client.begin_create_or_update(endpoint)
   

3. Konfigurera onlinedistribution.

   En distribution är en uppsättning resurser som krävs för att vara värd för den modell som utför den faktiska inferensen. Skapa en distribution för slutpunkten med hjälp av ManagedOnlineDeployment klassen .

   model = Model(path="./src/model.pkl")
   env = Environment(
       conda_file="./src/conda_env_v_1_0_0.yml",
       image="mcr.microsoft.com/azureml/openmpi3.1.2-ubuntu18.04:latest",
   )
   
   blue_deployment = ManagedOnlineDeployment(
       name="blue",
       endpoint_name=online_endpoint_name,
       model=model,
       environment=env,
       code_configuration=CodeConfiguration(
           code="./src", scoring_script="scoring_file_v_2_0_0.py"
       ),
       instance_type="Standard_DS2_v2",
       instance_count=1,
   )
   

   I det här exemplet finns filerna som du laddade ned från sidan AutoML-modeller i katalogen src . Du kan ändra parametrarna i koden så att de passar din situation.

   Parameter	Ändra till
   model:path	Sökvägen till filen model.pkl som du laddade ned.
   code_configuration:code:path	Katalogen där du placerade bedömningsfilen.
   code_configuration:scoring_script	Namnet på Python-bedömningsfilen (scoring_file_<VERSION>.py).
   environment:conda_file	En fil-URL för den nedladdade conda-miljöfilen (conda_env_<VERSION>.yml).

4. Skapa distributionen.

   Skapa distributionen på arbetsytan med hjälp av det MLClient som skapades tidigare. Det här kommandot börjar skapa distributionen. Det returnerar ett bekräftelsesvar medan distributionen skapas.

   ml_client.begin_create_or_update(blue_deployment)
   

När du har skapat en distribution kan du poängsätta den enligt beskrivningen i Testa slutpunkten med exempeldata.

Mer information om hur du distribuerar till hanterade onlineslutpunkter med SDK finns i Distribuera och poängsätta en maskininlärningsmodell med hjälp av en onlineslutpunkt.

Relaterat innehåll

• Felsöka distribution och bedömning av onlineslutpunkter
• Utföra säker distribution av nya distributioner för slutsatsdragning i realtid