AutoML-modell üzembe helyezése online végponton

ÉRVÉNYES:Azure CLI ml-bővítmény v2 (aktuális)Python SDK azure-ai-ml v2 (aktuális)

Ebből a cikkből megtudhatja, hogyan helyezhet üzembe autoML-betanított gépi tanulási modellt egy online (valós idejű következtetési) végponton. Az automatizált gépi tanulás, más néven automatizált ml vagy AutoML a gépi tanulási modell fejlesztésének időigényes, iteratív feladatainak automatizálása. További információ: Mi az automatizált gépi tanulás (AutoML)?.

Ebből a cikkből megtudhatja, hogyan helyezhet üzembe AutoML-betanított gépi tanulási modellt online végpontokon a következőkkel:

• Azure Machine Learning Studio
• Azure Machine Learning CLI v2
• Azure Machine Learning Python SDK v2

Előfeltételek

AutoML-betanított gépi tanulási modell. További információ : Oktatóanyag: Besorolási modell betanítása kód nélküli AutoML-vel az Azure Machine Learning Studióban vagy oktatóanyag: Igény előrejelzése automatizált gépi tanulással.

Üzembe helyezés az Azure Machine Learning Studióból, kód nélkül

Az AutoML által betanított modell automatikus gépi tanulási oldalról történő üzembe helyezése kód nélküli felület. Vagyis nem kell készítenie egy pontozó szkriptet és környezetet, mindkettő automatikusan létrejön.

1. Ugrás az automatizált gépi tanulási lapra a stúdióban

2. Válassza ki a kísérletet, és futtassa

3. A Modellek lap kiválasztása

4. Válassza ki az üzembe helyezni kívánt modellt

5. Miután kiválasztott egy modellt, az Üzembe helyezés gomb megjelenik egy legördülő menüvel

6. Válassza az Üzembe helyezés valós idejű végpontra lehetőséget

   

   A rendszer létrehozza az üzembe helyezéshez szükséges modellt és környezetet.

   

   

7. A varázsló befejezése a modell online végponton való üzembe helyezéséhez

Manuális üzembe helyezés a studióból vagy a parancssorból

Ha jobban szeretné szabályozni az üzembe helyezést, letöltheti a betanítási összetevőket, és üzembe helyezheti őket.

Az üzembe helyezéshez szükséges összetevők letöltéséhez:

1. Nyissa meg az automatizált gépi tanulási kísérletet, és futtassa a gépi tanulási munkaterületen
2. A Modellek lap kiválasztása
3. Válassza ki a használni kívánt modellt. Miután kiválasztott egy modellt, a Letöltés gomb engedélyezve lesz
4. Letöltés kiválasztása

Kapni fog egy zip-fájlt, amely a következőket tartalmazza:

• Conda-környezet specifikációs fájl neve conda_env_<VERSION>.yml
• Egy Python-pontozófájl neve scoring_file_<VERSION>.py
• Maga a modell egy Python-fájlban .pkl , model.pkl

A fájlok használatával történő üzembe helyezéshez használhatja a stúdiót vagy az Azure CLI-t.

Stúdió

1. Ugrás a Modellek lapra az Azure Machine Learning Studióban

2. Válassza a + Modell regisztrálása lehetőséget

3. Az automatizált gépi tanulási futtatásból letöltött modell regisztrálása

4. Lépjen a Környezetek lapra, válassza az Egyéni környezet lehetőséget, majd a + Létrehozás lehetőséget az üzembe helyezés környezetének létrehozásához. Egyéni környezet létrehozása a letöltött conda yaml használatával

5. Válassza ki a modellt, és a Telepítés legördülő menüben válassza az Üzembe helyezés valós idejű végpontra lehetőséget

6. Online végpont és üzembe helyezés létrehozásához végezze el a varázsló összes lépését

Azure CLI

A KÖVETKEZŐRE VONATKOZIK: Azure CLI ml-bővítmény v2 (aktuális)

A parancssori felület konfigurálása

A parancssori felületről történő üzembe helyezés létrehozásához szüksége lesz az Azure CLI-re az ML v2 kiterjesztéssel. Futtassa a következő parancsot, hogy meggyőződjön arról, hogy mindkettőt elvégezte:

az version

Ha hibaüzenetet kap, vagy nem jelenik meg Extensions: ml a válaszban, kövesse a Telepítés és a parancssori felület (v2) beállításának lépéseit.

Bejelentkezés:

az login

Ha több Azure-előfizetéshez is hozzáfér, beállíthatja az aktív előfizetést:

az account set -s "<YOUR_SUBSCRIPTION_NAME_OR_ID>"

Állítsa be az alapértelmezett erőforráscsoportot és munkaterületet arra a helyre, ahol létre szeretné hozni az üzembe helyezést:

az configure --defaults group=$GROUP workspace=$WORKSPACE location=$LOCATION

A pontozófájl elhelyezése a saját könyvtárában

Hozzon létre egy hívott src/ könyvtárat, és helyezze bele a letöltött pontozófájlt. Ez a könyvtár feltöltve van az Azure-ba, és tartalmazza az összes forráskódot, amely a következtetés elvégzéséhez szükséges. AutoML-modell esetén csak az egyetlen pontozási fájl található.

A végpont és az üzembe helyezés yaml-fájljának létrehozása

Ha online végpontot szeretne létrehozni a parancssorból, létre kell hoznia egy endpoint.yml és egy deployment.yml fájlt. Az Azure Machine Learning Examples adattárból vett következő kód a végpontokat/online/felügyelt/mintát/mutatja, amelyek az összes szükséges bemenetet rögzítik:

automl_endpoint.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-endpoint
auth_mode: key

automl_deployment.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineDeployment.schema.json
name: blue
endpoint_name: my-endpoint
model:
  path: ../../model-1/model/
code_configuration:
  code: ../../model-1/onlinescoring/
  scoring_script: score.py
environment: 
  conda_file: ../../model-1/environment/conda.yaml
  image: mcr.microsoft.com/azureml/openmpi4.1.0-ubuntu20.04:latest
instance_type: Standard_DS3_v2
instance_count: 1

Az AutoML-modellek lapról letöltött fájlok használatához módosítania kell ezt a fájlt.

1. Hozzon létre egy fájlt automl_endpoint.yml , és automl_deployment.yml illessze be a fenti példa tartalmát.

2. Módosítsa a végpont értékét name . A végpont nevének egyedinek kell lennie az Azure-régióban. A végpont nevének nagybetűvel vagy kisbetűvel kell kezdődnie, és csak "-" és alfanumerikus karakterekből áll.

3. A fájlban automl_deployment módosítsa a kulcsok értékét az alábbi útvonalakon:

   Elérési út	Módosítsa a következőre:
   model:path	A letöltött fájl elérési útja model.pkl .
   code_configuration:code:path	Az a könyvtár, amelyben a pontozófájlt elhelyezte.
   code_configuration:scoring_script	A Python-pontozófájl neve (scoring_file_<VERSION>.py).
   environment:conda_file	A letöltött Conda környezeti fájl (conda_env_<VERSION>.yml) fájl URL-címe.

   Feljegyzés

   A YAML teljes leírását az online végpont YAML-hivatkozásában talál.

4. A parancssorból futtassa a következőt:

   A KÖVETKEZŐRE VONATKOZIK: Azure CLI ml-bővítmény v2 (aktuális)

   az ml online-endpoint create -f automl_endpoint.yml
   az ml online-deployment create -f automl_deployment.yml
   

Az üzembe helyezés létrehozása után a végpont meghívása a modell használatával történő adatok pontozásához a végponton leírtak szerint pontszámot adhat meg.

Python

A KÖVETKEZŐKRE VONATKOZIK: Python SDK azure-ai-ml v2 (aktuális)

A Python SDK konfigurálása

Ha még nem telepítette a Python SDK v2-t, telepítse a következő paranccsal:

pip install azure-ai-ml azure-identity

További információ: Az Azure Machine Learning SDK v2 for Python telepítése.

A pontozófájl elhelyezése a saját könyvtárában

Hozzon létre egy hívott src/ könyvtárat, és helyezze bele a letöltött pontozófájlt. Ez a könyvtár feltöltve van az Azure-ba, és tartalmazza az összes forráskódot, amely a következtetés elvégzéséhez szükséges. AutoML-modell esetén csak az egyetlen pontozási fájl található.

Csatlakozás az Azure Machine Learning-munkaterülethez

1. Importálja a szükséges kódtárakat:

   # import required libraries
   from azure.ai.ml import MLClient
   from azure.ai.ml.entities import (
       ManagedOnlineEndpoint,
       ManagedOnlineDeployment,
       Model,
       Environment,
       CodeConfiguration,
   )
   from azure.identity import DefaultAzureCredential
   

2. Konfigurálja a munkaterület részleteit, és szerezze be a munkaterülethez a leírót:

   # enter details of your Azure Machine Learning workspace
   subscription_id = "<SUBSCRIPTION_ID>"
   resource_group = "<RESOURCE_GROUP>"
   workspace = "<AZUREML_WORKSPACE_NAME>"
   

   # get a handle to the workspace
   ml_client = MLClient(
       DefaultAzureCredential(), subscription_id, resource_group, workspace
   )
   

A végpont és az üzembe helyezés létrehozása

Ezután létrehozzuk a felügyelt online végpontokat és üzembe helyezéseket.

1. Online végpont konfigurálása:

   Tipp.

   • name: A végpont neve. Egyedinek kell lennie az Azure-régióban. A végpont nevének nagybetűvel vagy kisbetűvel kell kezdődnie, és csak "-" és alfanumerikus karakterekből áll. Az elnevezési szabályokkal kapcsolatos további információkért tekintse meg a végpontkorlátokat.
   • auth_mode : Kulcsalapú hitelesítéshez használható key . Azure Machine Learning-jogkivonat-alapú hitelesítéshez használható aml_token . Az A key nem jár le, de aml_token lejár. A hitelesítéssel kapcsolatos további információkért lásd : Hitelesítés online végponton.

   # Creating a unique endpoint name with current datetime to avoid conflicts
   import datetime
   
   online_endpoint_name = "endpoint-" + datetime.datetime.now().strftime("%m%d%H%M%f")
   
   # create an online endpoint
   endpoint = ManagedOnlineEndpoint(
       name=online_endpoint_name,
       description="this is a sample online endpoint",
       auth_mode="key",
   )
   

2. Hozza létre a végpontot:

   A MLClient korábban létrehozottak használatával most létrehozzuk a végpontot a munkaterületen. Ez a parancs elindítja a végpont létrehozását, és megerősítést ad vissza, amíg a végpont létrehozása folytatódik.

   ml_client.begin_create_or_update(endpoint)
   

3. Online üzembe helyezés konfigurálása:

   Az üzembe helyezés a tényleges következtetést okozó modell üzemeltetéséhez szükséges erőforrások készlete. Létrehozunk egy üzembe helyezést a végponthoz az ManagedOnlineDeployment osztály használatával.

   model = Model(path="./src/model.pkl")
   env = Environment(
       conda_file="./src/conda_env_v_1_0_0.yml",
       image="mcr.microsoft.com/azureml/openmpi3.1.2-ubuntu18.04:latest",
   )
   
   blue_deployment = ManagedOnlineDeployment(
       name="blue",
       endpoint_name=online_endpoint_name,
       model=model,
       environment=env,
       code_configuration=CodeConfiguration(
           code="./src", scoring_script="scoring_file_v_2_0_0.py"
       ),
       instance_type="Standard_DS2_v2",
       instance_count=1,
   )
   

   A fenti példában feltételezzük, hogy az AutoML-modellek lapról letöltött fájlok a src könyvtárban találhatók. A kód paramétereit a helyzetnek megfelelően módosíthatja.

   Paraméter	Módosítsa a következőre:
   model:path	A letöltött fájl elérési útja model.pkl .
   code_configuration:code:path	Az a könyvtár, amelyben a pontozófájlt elhelyezte.
   code_configuration:scoring_script	A Python-pontozófájl neve (scoring_file_<VERSION>.py).
   environment:conda_file	A letöltött Conda környezeti fájl (conda_env_<VERSION>.yml) fájl URL-címe.

4. Hozza létre az üzembe helyezést:

   MLClient A korábban létrehozottak használatával most létrehozzuk az üzembe helyezést a munkaterületen. Ez a parancs elindítja az üzembe helyezés létrehozását, és megerősítést kérő választ ad vissza, amíg a telepítés létrehozása folytatódik.

   ml_client.begin_create_or_update(blue_deployment)
   

Az üzembe helyezés létrehozása után a végpont tesztelése mintaadatokkal című cikkben leírtak szerint értékelheti azt.

A felügyelt online végpontokon való üzembe helyezésről az SDK-val többet is megtudhat a Gépi tanulási modellek központi telepítése felügyelt online végpontra Python SDK v2 használatával.

Következő lépések

• Online végpontok üzembe helyezésének hibaelhárítása
• Biztonságos bevezetés online végpontokhoz