Postup nasazení modelu AutoML do online koncového bodu

PLATÍ PRO:Rozšíření Azure CLI ml v2 (aktuální)Python SDK azure-ai-ml v2 (aktuální)

V tomto článku se dozvíte, jak nasadit model strojového učení natrénovaný autoML do online koncového bodu (odvozování v reálném čase). Automatizované strojové učení, označované také jako automatizované strojové učení nebo AutoML, je proces automatizace časově náročných iterativních úloh vývoje modelu strojového učení. Další informace najdete v tématu Co je automatizované strojové učení (AutoML)?

V tomto článku se dozvíte, jak nasadit model strojového učení vytrénovaný službou AutoML do online koncových bodů pomocí:

• Studio Azure Machine Learning
• Azure Machine Learning CLI v2
• Azure Machine Learning Python SDK v2

Požadavky

Model strojového učení natrénovaný autoML. Další informace najdete v tématu Kurz: Trénování klasifikačního modelu bez kódu AutoML v studio Azure Machine Learning nebo kurzu: Prognóza poptávky pomocí automatizovaného strojového učení.

Nasazení z studio Azure Machine Learning a bez kódu

Nasazení modelu vytrénovaného autoML ze stránky Automatizované strojového učení je prostředí bez kódu. To znamená, že nemusíte připravovat bodovací skript a prostředí, oba se automaticky generují.

1. Přechod na stránku Automatizované strojové učení v sadě Studio

2. Vyberte experiment a spusťte

3. Volba karty Modely

4. Vyberte model, který chcete nasadit.

5. Jakmile vyberete model, tlačítko Nasadit se rozsvítí s rozevírací nabídkou.

6. Výběr možnosti Nasadit do koncového bodu v reálném čase

   

   Systém vygeneruje model a prostředí potřebné pro nasazení.

   

   

7. Dokončením průvodce nasaďte model do online koncového bodu.

Ruční nasazení ze studia nebo příkazového řádku

Pokud chcete mít větší kontrolu nad nasazením, můžete stáhnout trénovací artefakty a nasadit je.

Ke stažení komponent, které budete potřebovat pro nasazení:

1. Přejděte do experimentu automatizovaného strojového učení a spusťte ho v pracovním prostoru strojového učení.
2. Volba karty Modely
3. Vyberte model, který chcete použít. Jakmile vyberete model, tlačítko Stáhnout se aktivuje.
4. Zvolte Stáhnout.

Zobrazí se soubor ZIP obsahující:

• Soubor specifikace prostředí Conda s názvem conda_env_<VERSION>.yml
• Soubor bodování Pythonu s názvem scoring_file_<VERSION>.py
• Samotný model v souboru Pythonu .pkl s názvem model.pkl

K nasazení pomocí těchto souborů můžete použít buď studio, nebo Azure CLI.

Studio

1. Přechod na stránku Modely v studio Azure Machine Learning

2. Select + Register Model option

3. Registrace modelu, který jste stáhli z automatizovaného strojového učení

4. Přejděte na stránku Prostředí, vyberte Vlastní prostředí a výběrem možnosti + Vytvořit vytvořte prostředí pro vaše nasazení. Použití staženého conda yaml k vytvoření vlastního prostředí

5. Vyberte model a v rozevíracím seznamu Nasazení vyberte Možnost Nasadit do koncového bodu v reálném čase.

6. Dokončete všechny kroky v průvodci a vytvořte online koncový bod a nasazení.

Azure CLI

PLATÍ PRO: Rozšíření Azure CLI ml v2 (aktuální)

Konfigurace rozhraní příkazového řádku

K vytvoření nasazení z rozhraní příkazového řádku budete potřebovat Azure CLI s rozšířením ML v2. Spuštěním následujícího příkazu potvrďte, že máte obojí:

az version

Pokud se zobrazí chybová zpráva nebo se v odpovědi nezobrazíExtensions: ml, postupujte podle pokynů v části Instalace a nastavte rozhraní příkazového řádku (v2).

Přihlásit se:

az login

Pokud máte přístup k několika předplatným Azure, můžete nastavit aktivní předplatné:

az account set -s "<YOUR_SUBSCRIPTION_NAME_OR_ID>"

Nastavte výchozí skupinu prostředků a pracovní prostor na místo, kde chcete vytvořit nasazení:

az configure --defaults group=$GROUP workspace=$WORKSPACE location=$LOCATION

Umístěte soubor bodování do vlastního adresáře.

Vytvořte volaný src/ adresář a umístěte do něj soubor bodování, který jste stáhli. Tento adresář se nahraje do Azure a obsahuje veškerý zdrojový kód potřebný k odvození. Pro model AutoML existuje jenom jeden soubor bodování.

Vytvoření souboru yaml koncového bodu a nasazení

Pokud chcete vytvořit online koncový bod z příkazového řádku, budete muset vytvořit endpoint.yml a soubor deployment.yml . Následující kód převzatý z úložiště Azure Machine Learning Examples zobrazuje koncové body, online, managed/sample/, které zachycují všechny požadované vstupy:

automl_endpoint.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-endpoint
auth_mode: key

automl_deployment.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineDeployment.schema.json
name: blue
endpoint_name: my-endpoint
model:
  path: ../../model-1/model/
code_configuration:
  code: ../../model-1/onlinescoring/
  scoring_script: score.py
environment: 
  conda_file: ../../model-1/environment/conda.yaml
  image: mcr.microsoft.com/azureml/openmpi4.1.0-ubuntu20.04:latest
instance_type: Standard_DS3_v2
instance_count: 1

Tento soubor budete muset upravit tak, aby používal soubory, které jste stáhli ze stránky Modely AutoML.

1. Vytvořte soubor automl_endpoint.yml a automl_deployment.yml vložte obsah výše uvedeného příkladu.

2. Změňte hodnotu name koncového bodu. Název koncového bodu musí být jedinečný v rámci oblasti Azure. Název koncového bodu musí začínat velkými nebo malými písmeny a musí se skládat pouze z alfanumerických a alfanumerických znaků.

3. automl_deployment V souboru změňte hodnotu klíčů na následujících cestách:

   Cesta	Změňte na
   model:path	Cesta k souboru, který model.pkl jste stáhli.
   code_configuration:code:path	Adresář, do kterého jste umístili soubor bodování.
   code_configuration:scoring_script	Název souboru bodování Pythonu (scoring_file_<VERSION>.py).
   environment:conda_file	Adresa URL souboru staženého souboru prostředí Conda (conda_env_<VERSION>.yml).

   Poznámka:

   Úplný popis YAML najdete v referenčních informacích k YAML koncového bodu Online.

4. Z příkazového řádku spusťte:

   PLATÍ PRO: Rozšíření Azure CLI ml v2 (aktuální)

   az ml online-endpoint create -f automl_endpoint.yml
   az ml online-deployment create -f automl_deployment.yml
   

Jakmile vytvoříte nasazení, můžete ho vyhodnotit podle popisu v tématu Vyvolání koncového bodu pro určení skóre dat pomocí modelu.

Python SDK

PLATÍ PRO: Python SDK azure-ai-ml v2 (aktuální)

Konfigurace sady Python SDK

Pokud jste ještě nenainstalovali sadu Python SDK v2, nainstalujte ho pomocí tohoto příkazu:

pip install azure-ai-ml azure-identity

Další informace najdete v tématu Instalace sady Azure Machine Learning SDK v2 pro Python.

Umístěte soubor bodování do vlastního adresáře.

Vytvořte volaný src/ adresář a umístěte do něj soubor bodování, který jste stáhli. Tento adresář se nahraje do Azure a obsahuje veškerý zdrojový kód potřebný k odvození. Pro model AutoML existuje jenom jeden soubor bodování.

Připojení k pracovnímu prostoru Azure Machine Learning

1. Import požadovaných knihoven:

   # import required libraries
   from azure.ai.ml import MLClient
   from azure.ai.ml.entities import (
       ManagedOnlineEndpoint,
       ManagedOnlineDeployment,
       Model,
       Environment,
       CodeConfiguration,
   )
   from azure.identity import DefaultAzureCredential
   

2. Nakonfigurujte podrobnosti pracovního prostoru a získejte popisovač pracovního prostoru:

   # enter details of your Azure Machine Learning workspace
   subscription_id = "<SUBSCRIPTION_ID>"
   resource_group = "<RESOURCE_GROUP>"
   workspace = "<AZUREML_WORKSPACE_NAME>"
   

   # get a handle to the workspace
   ml_client = MLClient(
       DefaultAzureCredential(), subscription_id, resource_group, workspace
   )
   

Vytvoření koncového bodu a nasazení

Dále vytvoříme spravované online koncové body a nasazení.

1. Konfigurace online koncového bodu:

   Tip

   • name: Název koncového bodu. Musí být jedinečný v oblasti Azure. Název koncového bodu musí začínat velkými nebo malými písmeny a musí se skládat pouze z alfanumerických a alfanumerických znaků. Další informace o pravidlech pojmenování najdete v tématu Omezení koncových bodů.
   • auth_mode : Slouží key k ověřování na základě klíčů. Používá se aml_token pro ověřování na základě tokenů služby Azure Machine Learning. Platnost key A nevyprší, ale aml_token vyprší. Další informace o ověřování najdete v tématu Ověřování u online koncového bodu.

   # Creating a unique endpoint name with current datetime to avoid conflicts
   import datetime
   
   online_endpoint_name = "endpoint-" + datetime.datetime.now().strftime("%m%d%H%M%f")
   
   # create an online endpoint
   endpoint = ManagedOnlineEndpoint(
       name=online_endpoint_name,
       description="this is a sample online endpoint",
       auth_mode="key",
   )
   

2. Vytvořte koncový bod:

   Pomocí dříve vytvořeného MLClient koncového bodu teď vytvoříme v pracovním prostoru koncový bod. Tento příkaz spustí vytvoření koncového bodu a během vytváření koncového bodu vrátí potvrzovací odpověď.

   ml_client.begin_create_or_update(endpoint)
   

3. Konfigurace online nasazení:

   Nasazení je sada prostředků vyžadovaných pro hostování modelu, který provádí skutečné odvozování. Pomocí třídy vytvoříme nasazení pro náš koncový bod ManagedOnlineDeployment .

   model = Model(path="./src/model.pkl")
   env = Environment(
       conda_file="./src/conda_env_v_1_0_0.yml",
       image="mcr.microsoft.com/azureml/openmpi3.1.2-ubuntu18.04:latest",
   )
   
   blue_deployment = ManagedOnlineDeployment(
       name="blue",
       endpoint_name=online_endpoint_name,
       model=model,
       environment=env,
       code_configuration=CodeConfiguration(
           code="./src", scoring_script="scoring_file_v_2_0_0.py"
       ),
       instance_type="Standard_DS2_v2",
       instance_count=1,
   )
   

   V předchozím příkladu předpokládáme, že soubory, které jste stáhli ze stránky Modely AutoML, jsou v src adresáři. Parametry v kódu můžete upravit tak, aby vyhovovaly vaší situaci.

   Parametr	Změňte na
   model:path	Cesta k souboru, který model.pkl jste stáhli.
   code_configuration:code:path	Adresář, do kterého jste umístili soubor bodování.
   code_configuration:scoring_script	Název souboru bodování Pythonu (scoring_file_<VERSION>.py).
   environment:conda_file	Adresa URL souboru staženého souboru prostředí Conda (conda_env_<VERSION>.yml).

4. Vytvořte nasazení:

   Pomocí dříve vytvořeného MLClient prostředí teď vytvoříme nasazení v pracovním prostoru. Tento příkaz spustí vytvoření nasazení a během vytváření nasazení vrátí potvrzovací odpověď.

   ml_client.begin_create_or_update(blue_deployment)
   

Po vytvoření nasazení ho můžete ohodnotit podle popisu v části Testování koncového bodu s ukázkovými daty.

Další informace o nasazení do spravovaných online koncových bodů pomocí sady SDK najdete v tématu Nasazení modelů strojového učení do spravovaného online koncového bodu pomocí sady Python SDK v2.

Další kroky

• Řešení problémů s nasazením online koncových bodů
• Bezpečné zavedení pro online koncové body