バッチ エンドポイントを使用してトレーニング パイプラインを運用化する方法

適用対象:Azure CLI ml extension v2 (現行)Python SDK azure-ai-ml v2 (現行)

この記事では、バッチ エンドポイントでトレーニング パイプラインを運用化する方法について説明します。 パイプラインでは、モデル トレーニング、データ前処理、モデル評価を含む複数のコンポーネント (ステップ) が使用されます。

次のことを学習します。

• トレーニング パイプラインを作成してテストする
• パイプラインをバッチ エンドポイントにデプロイする
• パイプラインを変更し、同じエンドポイントに新しいデプロイを作成する
• 新しいデプロイをテストし、既定のデプロイとして設定する

この例の概要

この例では、入力トレーニング データ (ラベル付き) を受け取って、予測モデル、評価結果、および前処理中に適用された変換を生成する、トレーニング パイプラインをデプロイします。 パイプラインでは、UCI Heart Disease Data Set の表形式データを使用して、XGBoost モデルをトレーニングします。 データは、モデルの適合と評価を行うためにトレーニング コンポーネントに送信される前に、データ前処理コンポーネントを使用して前処理されます。

パイプラインの視覚化は次のとおりです。

この記事の例は、azureml-examples リポジトリに含まれているコード サンプルを基にしています。 YAML などのファイルをコピーして貼り付けることなくコマンドをローカルで実行するには、最初にリポジトリを複製してから、ディレクトリをそのフォルダーに変更します。

Azure CLI

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples/cli

Python

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples/sdk/python

この例のファイルは、次の場所にあります。

cd endpoints/batch/deploy-pipelines/training-with-components

Jupyter ノートブックで作業を進める

この例の Python SDK バージョンに沿って作業を進めることができます。そのためには、複製されたリポジトリで sdk-deploy-and-test.ipynb ノートブックを開きます。

前提条件

• Azure サブスクリプション。 Azure サブスクリプションをお持ちでない場合は、開始する前に無料アカウントを作成してください。 無料版または有料版の Azure Machine Learning をお試しください。

• Azure Machine Learning ワークスペース。 ワークスペースを作成するには、「Azure Machine Learning ワークスペースの管理」を参照してください。

• Machine Learning ワークスペースでの以下のアクセス許可があることを確認してください。

  • バッチ エンドポイントとバッチ デプロイを作成または管理する: 所有者または共同作成者のロール、あるいは Microsoft.MachineLearningServices/workspaces/batchEndpoints/* を許可するカスタム役割を使用します。
  • ワークスペース リソース グループ内での Azure Resource Manager デプロイの作成: 所有者、共同作成者、またはワークスペースがデプロイされるリソース グループ での Microsoft.Resources/deployments/write を許可するカスタム ロールを使用します。

• Machine Learning を使用するには、以下のソフトウェアをインストールします。

  Azure CLI

  次のコマンドを実行して、Azure CLI と ml という Azure Machine Learning 用の拡張機能をインストールします。

  az extension add -n ml
  

  バッチ エンドポイントのパイプライン コンポーネント デプロイは、Azure CLI 用拡張機能 ml のバージョン 2.7 で導入されました。 az extension update --name ml コマンドを使用して、最新バージョンを取得します。

  Python

  次のコマンドを実行して、Azure Machine Learning SDK for Python をインストールします。

  pip install azure-ai-ml
  

  ModelBatchDeployment および PipelineComponentBatchDeployment クラスは、SDK のバージョン 1.7.0 で導入されました。 pip install -U azure-ai-ml コマンドを使用して、最新バージョンを取得します。

---

ワークスペースに接続する

ワークスペースは、Machine Learning の最上位のリソースです。 これは Machine Learning を使用する際に作成するすべての成果物を操作するための一元的な場所を提供します。 このセクションでは、デプロイ タスクを実行するワークスペースに接続します。

Azure CLI

次のコマンドで、サブスクリプション ID、ワークスペース、場所、リソース グループの値を入力します。

az account set --subscription <subscription>
az configure --defaults workspace=<workspace> group=<resource-group> location=<location>

Python

1. 必要なライブラリをインポートします。

   from azure.ai.ml import MLClient, Input, load_component
   from azure.ai.ml.entities import BatchEndpoint, ModelBatchDeployment, ModelBatchDeploymentSettings, PipelineComponentBatchDeployment, Model, AmlCompute, Data, BatchRetrySettings, CodeConfiguration, Environment, Data
   from azure.ai.ml.constants import AssetTypes, BatchDeploymentOutputAction
   from azure.ai.ml.dsl import pipeline
   from azure.identity import DefaultAzureCredential
   

2. ワークスペースの詳細を構成し、ワークスペースへのハンドルを取得します。

   次のコードで、サブスクリプション ID、ワークスペース、リソース グループの値を入力します。

   subscription_id = "<subscription>"
   resource_group = "<resource-group>"
   workspace = "<workspace>"
   
   ml_client = MLClient(DefaultAzureCredential(), subscription_id, resource_group, workspace)
   

トレーニング パイプライン コンポーネントを作成する

このセクションでは、トレーニング パイプラインに必要なすべてのアセットを作成します。 まず、モデルをトレーニングするために必要なライブラリを含む環境を作成します。 次に、バッチ デプロイを実行するコンピューティング クラスターを作成し、最後に入力データをデータ アセットとして登録します。

環境の作成

この例のコンポーネントでは、XGBoost および scikit-learn ライブラリを含む環境を使用します。 environment/conda.yml ファイルには、環境の構成が含まれます。

environment/conda.yml

channels:
- conda-forge
dependencies:
- python=3.8.5
- pip
- pip:
  - mlflow
  - azureml-mlflow
  - datasets
  - jobtools
  - cloudpickle==1.6.0
  - dask==2023.2.0
  - scikit-learn==1.1.2
  - xgboost==1.3.3
  - pandas==1.4
name: mlflow-env

次のように環境を作成します。

1. 環境を定義します。

   Azure CLI

   environment/xgboost-sklearn-py38.yml

   $schema: https://azuremlschemas.azureedge.net/latest/environment.schema.json
   name: xgboost-sklearn-py38
   image: mcr.microsoft.com/azureml/openmpi4.1.0-ubuntu20.04:latest
   conda_file: conda.yml
   description: An environment for models built with XGBoost and Scikit-learn.
   

   Python

   environment = Environment(
       name="xgboost-sklearn-py38",
       description="An environment for models built with XGBoost and Scikit-learn.",
       image="mcr.microsoft.com/azureml/openmpi4.1.0-ubuntu20.04:latest",
       conda_file="environment/conda.yml",
   )

2. 環境を作成します。

   Azure CLI

   az ml environment create -f environment/xgboost-sklearn-py38.yml
   

   Python

   try:
       ml_client.environments.create_or_update(environment)
   except ResourceExistsError:
       pass

コンピューティング クラスターを作成する

バッチ エンドポイントとバッチ デプロイは、コンピューティング クラスター上で実行されます。 これらは、ワークスペースに既に存在する任意の Azure Machine Learning コンピューティング クラスター上で実行できます。 したがって、複数のバッチ デプロイが同じコンピューティング インフラストラクチャを共有できます。 この例では、batch-cluster という名前の Azure Machine Learning コンピューティング クラスター上で作業します。 ワークスペースにコンピューティングが存在することを確認し、存在しない場合は作成します。

Azure CLI

az ml compute create -n batch-cluster --type amlcompute --min-instances 0 --max-instances 5

Python

compute_name = "batch-cluster"
if not any(filter(lambda m: m.name == compute_name, ml_client.compute.list())):
    compute_cluster = AmlCompute(
        name=compute_name,
        description="Batch endpoints compute cluster",
        min_instances=0,
        max_instances=5,
    )
    ml_client.begin_create_or_update(compute_cluster).result()

トレーニング データをデータ アセットとして登録する

トレーニング データは CSV ファイルで表されます。 より運用レベルのワークロードを再現するために、トレーニング データをワークスペースのデータ アセットとして heart.csv ファイルに登録します。 このデータ アセットは、後でエンドポイントへの入力として示されます。

Azure CLI

az ml data create --name heart-classifier-train --type uri_folder --path data/train

Python

data_path = "data/train"
dataset_name = "heart-dataset-train"

heart_dataset_train = Data(
    path=data_path,
    type=AssetTypes.URI_FOLDER,
    description="A training dataset for heart classification",
    name=dataset_name,
)

データ資産を作成します。

ml_client.data.create_or_update(heart_dataset_train)

新しいデータ アセットへの参照を取得します。

heart_dataset_train = ml_client.data.get(name=dataset_name, label="latest")

パイプラインを作成する

運用化するパイプラインは、1 つの入力 (トレーニング データ) を受け取り、3 つの出力 (トレーニング済みのモデル、評価結果、前処理として適用されたデータ変換) を生成します。 パイプラインは、2 つのコンポーネントで構成されています。

• preprocess_job: このステップでは、入力データを読み取り、準備されたデータと適用された変換を返します。 このステップでは、3 つの入力を受け取ります。
  • data: 変換およびスコアリングする入力データを含むフォルダー
  • transformations: (オプション) 適用される変換へのパス (使用可能な場合)。 パスが指定されない場合、変換は入力データから学習されます。 transformations 入力はオプションであるため、トレーニングとスコアリング中に preprocess_job コンポーネントを使用できます。
  • categorical_encoding: カテゴリ特徴量 (ordinal または onehot) のエンコード戦略。
• train_job: このステップでは、準備されたデータに基づいて XGBoost モデルをトレーニングし、評価結果とトレーニング済みモデルを返します。 このステップでは、3 つの入力を受け取ります。
  • data: 前処理されたデータ。
  • target_column: 予測する列。
  • eval_size: 評価に使用される入力データの割合を示します。

Azure CLI

パイプライン構成は、deployment-ordinal/pipeline.yml ファイルで定義されます。

deployment-ordinal/pipeline.yml

$schema: https://azuremlschemas.azureedge.net/latest/pipelineComponent.schema.json
type: pipeline

name: uci-heart-train-pipeline
display_name: uci-heart-train
description: This pipeline demonstrates how to train a machine learning classifier over the UCI heart dataset.

inputs:
  input_data:
    type: uri_folder

outputs: 
  model:
    type: mlflow_model
    mode: upload
  evaluation_results:
    type: uri_folder
    mode: upload
  prepare_transformations:
    type: uri_folder
    mode: upload

jobs:
  preprocess_job:
    type: command
    component: ../components/prepare/prepare.yml
    inputs:
      data: ${{parent.inputs.input_data}}
      categorical_encoding: ordinal
    outputs:
      prepared_data:
      transformations_output: ${{parent.outputs.prepare_transformations}}
  
  train_job:
    type: command
    component: ../components/train_xgb/train_xgb.yml
    inputs:
      data: ${{parent.jobs.preprocess_job.outputs.prepared_data}}
      target_column: target
      register_best_model: false
      eval_size: 0.3
    outputs:
      model: 
        mode: upload
        type: mlflow_model
        path: ${{parent.outputs.model}}
      evaluation_results:
        mode: upload
        type: uri_folder
        path: ${{parent.outputs.evaluation_results}}

注意

pipeline.yml ファイルで、preprocess_job から transformations 入力が欠落しています。そのため、スクリプトは入力データから変換パラメーターを学習します。

Python

パイプライン コンポーネントの構成は、prepare.yml および train_xgb.yml ファイルにあります。 コンポーネントを読み込みます。

prepare_data = load_component(source="components/prepare/prepare.yml")
train_xgb = load_component(source="components/train_xgb/train_xgb.yml")

パイプラインを構築します。

@pipeline()
def uci_heart_classifier_trainer(input_data: Input(type=AssetTypes.URI_FOLDER)):
    prepared_data = prepare_data(data=input_data)
    trained_model = train_xgb(
        data=prepared_data.outputs.prepared_data,
        target_column="target",
        register_best_model=False,
        eval_size=0.3,
    )

    return {
        "model": trained_model.outputs.model,
        "evaluation_results": trained_model.outputs.evaluation_results,
        "transformations_output": prepared_data.outputs.transformations_output,
    }

注意

パイプラインで、transformations 入力が欠落しています。そのため、スクリプトは入力データからパラメーターを学習します。

パイプラインの視覚化は次のとおりです。

パイプラインをテストする

いくつかのサンプル データを使用してパイプラインをテストします。 これを行うために、パイプラインと、以前に作成した batch-cluster コンピューティング クラスターを使用してジョブを作成します。

Azure CLI

次の pipeline-job.yml ファイルには、パイプライン ジョブの構成が含まれています。

deployment-ordinal/pipeline-job.yml

$schema: https://azuremlschemas.azureedge.net/latest/pipelineJob.schema.json
type: pipeline

experiment_name: uci-heart-train-pipeline
display_name: uci-heart-train-job
description: This pipeline demonstrates how to train a machine learning classifier over the UCI heart dataset.

compute: batch-cluster
component: pipeline.yml
inputs:
  input_data:
    type: uri_folder
outputs: 
  model:
    type: mlflow_model
    mode: upload
  evaluation_results:
    type: uri_folder
    mode: upload
  prepare_transformations:
    mode: upload

Python

pipeline_job = uci_heart_classifier_trainer(
    Input(type="uri_folder", path=heart_dataset_train.id)
)

次に、テストを実行するためにいくつかの実行設定を構成します。

pipeline_job.settings.default_datastore = "workspaceblobstore"
pipeline_job.settings.default_compute = "batch-cluster"

テスト ジョブを作成します。

Azure CLI

az ml job create -f deployment-ordinal/pipeline-job.yml --set inputs.input_data.path=azureml:heart-classifier-train@latest

Python

pipeline_job_run = ml_client.jobs.create_or_update(
    pipeline_job, experiment_name="uci-heart-train-pipeline"
)
pipeline_job_run

バッチ エンドポイントを作成する

1. エンドポイントの名前を指定します。 バッチ エンドポイントの名前は、呼び出し URI の構成に使用されるため、各リージョンで一意である必要があります。 一意性を確保するために、次のコードで指定する名前に末尾文字を追加します。

   Azure CLI

   ENDPOINT_NAME="uci-classifier-train"
   

   Python

   endpoint_name = "uci-classifier-train"

2. エンドポイントを構成します。

   Azure CLI

   endpoint.yml ファイルには、エンドポイントの構成が含まれます。

   endpoint.yml

   $schema: https://azuremlschemas.azureedge.net/latest/batchEndpoint.schema.json
   name: uci-classifier-train
   description: An endpoint to perform training of the Heart Disease Data Set prediction task.
   auth_mode: aad_token
   

   Python

   endpoint = BatchEndpoint(
       name=endpoint_name,
       description="An endpoint to perform training of the Heart Disease Data Set prediction task",
   )

3. エンドポイントを作成します。

   Azure CLI

   az ml batch-endpoint create --name $ENDPOINT_NAME -f endpoint.yml
   

   Python

   ml_client.batch_endpoints.begin_create_or_update(endpoint).result()

4. エンドポイント URI にクエリを実行します。

   Azure CLI

   az ml batch-endpoint show --name $ENDPOINT_NAME
   

   Python

   endpoint = ml_client.batch_endpoints.get(name=endpoint_name)
   print(endpoint)

パイプライン コンポーネントをデプロイする

パイプライン コンポーネントをデプロイするには、バッチ デプロイを作成する必要があります。 デプロイは、実際の作業を行うアセットをホスティングするために必要なリソースのセットです。

1. デプロイを構成します。

   Azure CLI

   deployment-ordinal/deployment.yml ファイルには、デプロイの構成が含まれます。 追加のプロパティについては、完全なバッチ エンドポイント YAML スキーマを確認してください。

   deployment-ordinal/deployment.yml

   $schema: https://azuremlschemas.azureedge.net/latest/pipelineComponentBatchDeployment.schema.json
   name: uci-classifier-train-xgb
   description: A sample deployment that trains an XGBoost model for the UCI dataset.
   endpoint_name: uci-classifier-train
   type: pipeline
   component: pipeline.yml
   settings:
       continue_on_step_failure: false
       default_compute: batch-cluster
   

   Python

   パイプラインは関数で定義されています。 それをコンポーネントに変換するには、それから component プロパティを使用します。 パイプライン コンポーネントは再利用可能なコンピューティング グラフであり、バッチ デプロイに含めたり、より複雑なパイプラインを構成するために使用したりできます。

   pipeline_component = ml_client.components.create_or_update(
       uci_heart_classifier_trainer().component
   )

   これで、デプロイを定義できます。

   deployment = PipelineComponentBatchDeployment(
       name="uci-classifier-train-xgb",
       description="A sample deployment that trains an XGBoost model for the UCI dataset.",
       endpoint_name=endpoint.name,
       component=pipeline_component,
       settings={"continue_on_step_failure": False, "default_compute": compute_name},
   )

2. デプロイを作成します。

   Azure CLI

   次のコードを実行して、バッチ エンドポイントの下にバッチ デプロイを作成し、それを既定のデプロイとして設定します。

   az ml batch-deployment create --endpoint $ENDPOINT_NAME -f deployment-ordinal/deployment.yml --set-default
   

   ヒント

   この新しいデプロイが既定になったことを示すために --set-default フラグが使用されていることに注目してください。

   Python

   このコマンドは、デプロイの作成を開始し、デプロイの作成が続行されている間に確認応答を返します。

   ml_client.batch_deployments.begin_create_or_update(deployment).result()

   作成したら、この新しいデプロイを既定として構成します。

   endpoint = ml_client.batch_endpoints.get(endpoint_name)
   endpoint.defaults.deployment_name = deployment.name
   ml_client.batch_endpoints.begin_create_or_update(endpoint).result()

3. デプロイを使用する準備が整いました。

展開をテスト

デプロイが作成されると、ジョブを受け取る準備が整います。 次の手順に従ってテストします。

1. デプロイでは、1 つのデータ入力を指定する必要があります。

   Azure CLI

   inputs.yml ファイルには、入力データ アセットの定義が含まれます。

   inputs.yml

   inputs:
     input_data:
       type: uri_folder
       path: azureml:heart-classifier-train@latest
   

   Python

   入力データ アセットを定義します。

   input_data = Input(type=AssetTypes.URI_FOLDER, path=heart_dataset_train.id)

   ヒント

   入力を指定する方法の詳細については、「バッチ エンドポイントのジョブと入力データを作成する」を参照してください。

2. 次のように、既定のデプロイを呼び出すことができます。

   Azure CLI

   JOB_NAME=$(az ml batch-endpoint invoke -n $ENDPOINT_NAME --f inputs.yml --query name -o tsv)
   

   Python

   ヒント

   エンドポイントを呼び出すときのパラメーター inputs と input の違いは何ですか?

   一般的には invoke メソッドで辞書パラメーター inputs = {} を使用すると、"モデル デプロイ" または "パイプライン デプロイ" を含むバッチ エンドポイントに任意の個数の必須入力を与えることができます。

   "モデル デプロイ" の場合は、デプロイの入力データの場所を指定する簡単な方法として input パラメーターを使用できます。 このアプローチが機能するのは、モデル デプロイが常に 1 つだけのデータ入力を受け取るためです。

   job = ml_client.batch_endpoints.invoke(
       endpoint_name=endpoint.name, inputs={"input_data": input_data}
   )

3. 次を使用して、ログの表示およびストリーミングの進行状況を監視できます。

   Azure CLI

   az ml job stream -n $JOB_NAME
   

   Python

   ml_client.jobs.get(job.name)

   ジョブが完了するまで待つには、次のコードを実行します。

   ml_client.jobs.stream(name=job.name)

特筆すべきは、パイプラインの入力のみがバッチ エンドポイントの入力として公開されるということです。 たとえば、categorical_encoding はパイプラインのあるステップの入力ですが、パイプライン自体の入力ではありません。 このファクトを使用して、クライアントに公開する入力と非表示にする入力を制御します。

ジョブ出力にアクセスする

ジョブが完了すると、その出力の一部にアクセスできます。 このパイプラインでは、そのコンポーネントに対して次の出力が生成されます。

• preprocess job: 出力は transformations_output です
• train job: 出力は model と evaluation_results です

次を使用して、関連する結果をダウンロードできます。

Azure CLI

az ml job download --name $JOB_NAME --output-name transformations
az ml job download --name $JOB_NAME --output-name model
az ml job download --name $JOB_NAME --output-name evaluation_results

Python

ml_client.jobs.download(
    name=job.name, download_path=".", output_name="transformations_output"
)
ml_client.jobs.download(name=job.name, download_path=".", output_name="model")
ml_client.jobs.download(
    name=job.name, download_path=".", output_name="evaluation_results"
)

エンドポイントで新しいデプロイを作成する

エンドポイントは、一度に複数のデプロイをホストできますが、規定として保持できるデプロイは 1 つのみです。 そのため、さまざまなモデルを反復処理し、さまざまなモデルをエンドポイントにデプロイしてテストし、最終的に規定のデプロイを最適なモデル デプロイに切り替えることができます。

パイプラインで前処理を行う方法を変更して、パフォーマンスが向上するモデルが得られるかどうかを確認します。

パイプラインの前処理コンポーネントのパラメーターを変更する

前処理コンポーネントには categorical_encoding という名前の入力があり、その値は ordinal または onehot です。 これらの値は、カテゴリ特徴量をエンコードする 2 つの異なる方法に対応しています。

• ordinal: [1:n] から得られた数値 (序数) で特徴量の値をエンコードします。ここで n は、特徴量内のカテゴリの数です。 序数エンコードは、特徴量カテゴリの中に自然なランク順が存在することを意味します。
• onehot: 自然なランク順の関係を示すものではありませんが、カテゴリの数が多いと次元の問題が発生します。

既定では、以前は ordinal を使用していました。 次に、onehot 使用するようにカテゴリ エンコードを変更し、モデルがどの程度機能するかを確認します。

ヒント

あるいは、categorial_encoding 入力をパイプライン ジョブ自体への入力としてクライアントに公開することも可能でした。 しかし、デプロイ内部でパラメーターを非表示にして制御し、同じエンドポイントで複数のデプロイを持つ機会を利用できるようにするために、前処理ステップでパラメーター値を変更することを選択しました。

1. パイプラインを変更します。 次のようになります。

   Azure CLI

   パイプライン構成は、deployment-onehot/pipeline.yml ファイルで定義されます。

   deployment-onehot/pipeline.yml

   $schema: https://azuremlschemas.azureedge.net/latest/pipelineComponent.schema.json
   type: pipeline
   
   name: uci-heart-train-pipeline
   display_name: uci-heart-train
   description: This pipeline demonstrates how to train a machine learning classifier over the UCI heart dataset.
   
   inputs:
     input_data:
       type: uri_folder
   
   outputs: 
     model:
       type: mlflow_model
       mode: upload
     evaluation_results:
       type: uri_folder
       mode: upload
     prepare_transformations:
       type: uri_folder
       mode: upload
   
   jobs:
     preprocess_job:
       type: command
       component: ../components/prepare/prepare.yml
       inputs:
         data: ${{parent.inputs.input_data}}
         categorical_encoding: onehot
       outputs:
         prepared_data:
         transformations_output: ${{parent.outputs.prepare_transformations}}
     
     train_job:
       type: command
       component: ../components/train_xgb/train_xgb.yml
       inputs:
         data: ${{parent.jobs.preprocess_job.outputs.prepared_data}}
         target_column: target
         eval_size: 0.3
       outputs:
         model: 
           type: mlflow_model
           path: ${{parent.outputs.model}}
         evaluation_results:
           type: uri_folder
           path: ${{parent.outputs.evaluation_results}}
   

   Python

   @pipeline()
   def uci_heart_classifier_onehot(input_data: Input(type=AssetTypes.URI_FOLDER)):
       prepared_data = prepare_data(data=input_data, categorical_encoding="onehot")
       trained_model = train_xgb(
           data=prepared_data.outputs.prepared_data,
           target_column="target",
           register_best_model=False,
           eval_size=0.3,
       )
   
       return {
           "model": trained_model.outputs.model,
           "evaluation_results": trained_model.outputs.evaluation_results,
           "transformations_output": prepared_data.outputs.transformations_output,
       }

2. デプロイを構成します。

   Azure CLI

   deployment-onehot/deployment.yml ファイルには、デプロイの構成が含まれます。 追加のプロパティについては、完全なバッチ エンドポイント YAML スキーマを確認してください。

   deployment-onehot/deployment.yml

   $schema: https://azuremlschemas.azureedge.net/latest/pipelineComponentBatchDeployment.schema.json
   name: uci-classifier-train-onehot
   description: A sample deployment that trains an XGBoost model for the UCI dataset using onehot encoding for variables.
   endpoint_name: uci-classifier-train
   type: pipeline
   component: pipeline.yml
   settings:
       continue_on_step_failure: false
       default_compute: batch-cluster
   

   Python

   パイプラインは関数で定義されています。 それをコンポーネントに変換するには、build() メソッドを使用します。 パイプライン コンポーネントは再利用可能なコンピューティング グラフであり、バッチ デプロイに含めたり、より複雑なパイプラインを構成するために使用したりできます。

   pipeline_component = uci_heart_classifier_onehot._pipeline_builder.build()

   これで、デプロイを定義できます。

   deployment_onehot = PipelineComponentBatchDeployment(
       name="uci-classifier-train-onehot",
       description="A sample deployment that trains an XGBoost model for the UCI dataset with one hot encoding of categorical variables.",
       endpoint_name=endpoint.name,
       component=pipeline_component,
       settings={"continue_on_step_failure": False, "default_compute": compute_name},
   )

3. デプロイを作成します。

   Azure CLI

   次のコードを実行して、バッチ エンドポイントの下にバッチ デプロイを作成し、それを既定のデプロイとして設定します。

   az ml batch-deployment create --endpoint $ENDPOINT_NAME -f deployment-onehot/deployment.yml
   

   デプロイを使用する準備が整いました。

   Python

   このコマンドは、デプロイの作成を開始し、デプロイの作成が続行されている間に確認応答を返します。

   ml_client.batch_deployments.begin_create_or_update(deployment_onehot).result()

4. デプロイを使用する準備が整いました。

既定以外のデプロイをテストする

デプロイが作成されると、ジョブを受け取る準備が整います。 以前と同じ方法でテストできますが、今回は特定のデプロイを呼び出します。

1. 次のように、特定のデプロイ uci-classifier-train-onehot をトリガーするようにデプロイ パラメーターを指定して、デプロイを呼び出します。

   Azure CLI

   DEPLOYMENT_NAME="uci-classifier-train-onehot"
   JOB_NAME=$(az ml batch-endpoint invoke -n $ENDPOINT_NAME -d $DEPLOYMENT_NAME --f inputs.yml --query name -o tsv)
   

   Python

   ヒント

   エンドポイントを呼び出すときのパラメーター inputs と input の違いは何ですか?

   一般的には invoke メソッドで辞書パラメーター inputs = {} を使用すると、"モデル デプロイ" または "パイプライン デプロイ" を含むバッチ エンドポイントに任意の個数の必須入力を与えることができます。

   "モデル デプロイ" の場合は、デプロイの入力データの場所を指定する簡単な方法として input パラメーターを使用できます。 このアプローチが機能するのは、モデル デプロイが常に 1 つだけのデータ入力を受け取るためです。

   job = ml_client.batch_endpoints.invoke(
       endpoint_name=endpoint.name,
       deployment_name=deployment_onehot.name,
       inputs={"input_data": input_data},
   )

2. 次を使用して、ログの表示およびストリーミングの進行状況を監視できます。

   Azure CLI

   az ml job stream -n $JOB_NAME
   

   Python

   ml_client.jobs.get(name=job.name)

   ジョブが完了するまで待つには、次のコードを実行します。

   ml_client.jobs.stream(name=job.name)

新しいデプロイを既定として構成する

新しいデプロイのパフォーマンスに問題がなければ、この新しいデプロイを既定として設定できます。

Azure CLI

az ml batch-endpoint update --name $ENDPOINT_NAME --set defaults.deployment_name=$DEPLOYMENT_NAME

Python

endpoint = ml_client.batch_endpoints.get(endpoint_name)
endpoint.defaults.deployment_name = deployment.name
ml_client.batch_endpoints.begin_create_or_update(endpoint).result()

古いデプロイを削除する

完了したら、不要になった以前のデプロイを削除できます。

Azure CLI

az ml batch-deployment delete --name uci-classifier-train-xgb --endpoint-name $ENDPOINT_NAME --yes

Python

ml_client.batch_deployments.begin_delete(
    name=deployment.name, endpoint_name=endpoint.name
).result()

リソースをクリーンアップする

完了したら、関連付けられているリソースをワークスペースから削除します。

Azure CLI

次のコードを実行して、バッチ エンドポイントとその基になっているデプロイを削除します。 --yes は、削除を確認するために使用します。

az ml batch-endpoint delete -n $ENDPOINT_NAME --yes

Python

エンドポイントを削除します:

ml_client.batch_endpoints.begin_delete(endpoint_name).result()

(オプション) 後のデプロイでコンピューティング クラスターを再利用する予定がない場合は、コンピューティングを削除します。

Azure CLI

az ml compute delete -n batch-cluster

Python

ml_client.compute.begin_delete(name="batch-cluster")

次のステップ

• 前処理を使用してバッチ スコアリングを実行するパイプラインをデプロイする方法
• パイプライン ジョブからバッチ エンドポイントを作成する
• バッチ エンドポイント ジョブからデータにアクセスする
• バッチ エンドポイントのトラブルシューティング