Web サービスとしてデプロイされた Azure Machine Learning モデルを使用する

2025-05-07

重要

この記事では、Azure Machine Learning SDK v1 の使用に関する情報を提供します。 SDK v1 は 2025 年 3 月 31 日の時点で非推奨となり、サポートは 2026 年 6 月 30 日に終了します。 SDK v1 は、その日付までインストールして使用できます。

2026 年 6 月 30 日より前に SDK v2 に移行することをお勧めします。 SDK v2 の詳細については、「 Azure Machine Learning Python SDK v2 と SDK v2 リファレンスとは」を参照してください。

Azure Machine Learning モデルを Web サービスとしてデプロイすると、REST API エンドポイントが作成されます。このエンドポイントにデータを送信し、モデルによって返された予測を受信できます。このドキュメントでは、C#、Go、Java、Python を使用して Web サービス用のクライアントを作成する方法について説明します。

Web サービスは、ローカル環境、Azure Container Instances、Azure Kubernetes Service にモデルをデプロイするときに作成します。 Web サービスにアクセスするために使用される URI は、Azure Machine Learning SDK を使用して取得します。認証が有効になっている場合は、SDK を使用して認証キーまたはトークンを取得することもできます。

機械学習 Web サービスを使用するクライアントを作成するための一般的なワークフローは、次のとおりです。

SDK を使用して接続情報を取得します。
モデルで使用される要求データの種類を決定します。
Web サービスを呼び出すアプリケーションを作成します。

ヒント

このドキュメントの例は、OpenAPI (Swagger) 仕様を使用せずに手動で作成されています。デプロイに対して OpenAPI 仕様を有効にした場合は、swagger-codegen などのツールを使用して、サービスのクライアントライブラリを作成できます。

重要

この記事の Azure CLI コマンドの一部では、Azure Machine Learning 用に azure-cli-ml、つまり v1 の拡張機能を使用しています。 v1 拡張機能のサポートは、2025 年 9 月 30 日に終了します。その日付まで、v1 拡張機能をインストールして使用できます。

2025 年 9 月 30 日より前に、ml (v2) 拡張機能に移行することをお勧めします。 v2 拡張機能の詳細については、Azure Machine Learning CLI 拡張機能と Python SDK v2 に関する記事を参照してください。

接続情報

注

Azure Machine Learning SDK を使用して、Web サービス情報を取得します。これは Python SDK です。任意の言語を使用して、サービスに対してクライアントを作成できます。

azureml.core.Webservice クラスでは、クライアントを作成するために必要な情報が提供されます。クライアントアプリケーションを作成するときに役立つ Webservice プロパティを以下に示します。

auth_enabled - キー認証が有効になっている場合は True、それ以外の場合は False です。
token_auth_enabled - トークン認証が有効になっている場合は True、それ以外の場合は False です。
scoring_uri - REST API のアドレス。
swagger_uri - OpenAPI 仕様のアドレス。この URI は、スキーマの自動生成を有効にした場合に使用できます。詳細については、「Azure Machine Learning を使用してモデルをデプロイする」を参照してください。

デプロイされた Web サービスについてこの情報を取得する場合、次のいくつかの方法があります。

適用対象:Azure Machine Learning SDK v1 for Python

モデルをデプロイするときに、サービスに関する情報と共に Webservice オブジェクトが返されます。

service = Model.deploy(ws, "myservice", [model], inference_config, deployment_config)
service.wait_for_deployment(show_output = True)
print(service.scoring_uri)
print(service.swagger_uri)

Webservice.list を使用して、ワークスペース内のモデル用にデプロイされた Web サービスのリストを取得することができます。フィルターを追加して、返される情報のリストを絞り込むことができます。フィルター処理できる内容の詳細については、Webservice.list のリファレンスドキュメントを参照してください。
```
services = Webservice.list(ws)
print(services[0].scoring_uri)
print(services[0].swagger_uri)
```
デプロイされたサービスの名前がわかっている場合は、Webservice の新しいインスタンスを作成し、ワークスペースとサービスの名前をパラメーターとして指定できます。新しいオブジェクトには、デプロイされたサービスに関する情報が含まれます。
```
service = Webservice(workspace=ws, name='myservice')
print(service.scoring_uri)
print(service.swagger_uri)
```

適用対象:Azure CLI ML 拡張機能 v1

デプロイされたサービスの名前がわかっている場合は、az ml service show コマンドを使用します。

az ml service show -n <service-name>

次の表は、これらの URI の形態を示しています。

URI の種類	例
スコアリング URI	`http://104.214.29.152:80/api/v1/service/<service-name>/score`
Swagger URI	`http://104.214.29.152/api/v1/service/<service-name>/swagger.json`

ヒント

IP アドレスはデプロイによって異なります。各 AKS クラスターには、そのクラスターへのデプロイによって共有される独自の IP アドレスがあります。

セキュリティで保護された Web サービス

TLS/SSL 証明書を使用してデプロイされた Web サービスをセキュリティで保護した場合、HTTPS を使用して、スコアリングまたは swagger URI を使用してサービスに接続できます。 HTTPS は、クライアントと Web サービスの間の通信を暗号化することで双方の間の通信をセキュリティで保護する場合に役立ちます。暗号化はトランスポート層セキュリティ (TLS) を使用します。 TLS は、現在も、TLS の前身である Secure Sockets Layer (SSL) と呼ばれることがあります。

重要

Azure Machine Learning によってデプロイされた Web サービスは、TLS バージョン 1.2 のみをサポートします。クライアントアプリケーションを作成するときは、このバージョンがサポートされていることを確認してください。

詳細については、「TSL を使用して Azure Machine Learning による Web サービスをセキュリティで保護する」を参照してください。

サービスの認証

Azure Machine Learning には、Web サービスへのアクセスを制御する 2 つの方法が用意されています。

認証方法	ACI	AKS
鍵	既定で無効	既定で有効
トークン	利用不可	既定で無効

キーまたはトークンで保護されているサービスに要求を送信する場合は、Authorization ヘッダーを使用してキーまたはトークンを渡します。キーまたはトークンは Bearer <key-or-token> の形式にする必要があります。ここで、<key-or-token> はキーまたはトークンの値です。

キーとトークンの主な違いは、キーは静的であり、手動で再生成することができ、トークンは有効期限に更新する必要があることです。キーベースの認証は、Azure Container Instances と Azure Kubernetes Service でデプロイされた Web サービスでサポートされています。また、トークンベースの認証は Azure Kubernetes サービスのデプロイでのみ使用できます。認証の構成の詳細については、「Web サービスとしてデプロイされたモデルの認証を構成する」を参照してください。

キーによる認証

デプロイに対して認証を有効にした場合、認証キーが自動的に作成されます。

Azure Kubernetes Service にデプロイする場合、認証は既定で有効になります。
Azure Container Instances にデプロイする場合、認証は既定で無効になります。

認証を制御するには、デプロイの作成や更新時に auth_enabled パラメーターを使用します。

認証が有効になっている場合は、get_keys メソッドを使用して、プライマリおよびセカンダリ認証キーを取得できます。

primary, secondary = service.get_keys()
print(primary)

重要

キーを再生成する必要がある場合は、service.regen_key を使用します。

トークンによる認証

Web サービスに対してトークン認証を有効にする場合、ユーザーは Azure Machine Learning JWT を Web サービスに提供してアクセスする必要があります。

Azure Kubernetes Service にデプロイする場合、トークン認証は既定で無効になります。
Azure Container Instances にデプロイする場合、トークン認証はサポートされません。

トークン認証を制御するには、デプロイの作成や更新時に token_auth_enabled パラメーターを使用します。

トークン認証が有効になっている場合は、get_token メソッドを使用して、ベアラートークンとそのトークンの有効期限を取得できます。

token, refresh_by = service.get_token()
print(token)

Azure CLI および機械学習の拡張機能を備えている場合は、次のコマンドを使用してトークンを取得できます。

適用対象:Azure CLI ML 拡張機能 v1

az ml service get-access-token -n <service-name>

重要

現時点では、トークンを取得する唯一の方法は、Azure Machine Learning SDK または Azure CLI 機械学習の拡張機能を使用することです。

トークンの refresh_by 時刻の後に新しいトークンを要求する必要があります。

要求データ

REST API では、要求の本文が次の構造の JSON ドキュメントであることが予期されます。

{
    "data":
        [
            <model-specific-data-structure>
        ]
}

重要

データの構造は、サービス内のスコアリングスクリプトとモデルで予期される内容と一致する必要があります。スコアリングスクリプトでは、データがモデルに渡される前に変更される可能性があります。

バイナリデータ

サービスでバイナリデータのサポートを有効にする方法については、「バイナリデータ」を参照してください。

ヒント

バイナリデータのサポートの有効化は、デプロイされたモデルによって使用される score.py ファイルで実行されます。クライアントから、プログラミング言語の HTTP 機能を使用します。たとえば、次のスニペットは、JPG ファイルの内容を Web サービスに送信します。

import requests
# Load image data
data = open('example.jpg', 'rb').read()
# Post raw data to scoring URI
res = request.post(url='<scoring-uri>', data=data, headers={'Content-Type': 'application/> octet-stream'})

サービスで CORS のサポートを有効にする方法については、「クロスオリジンリソース共有」を参照してください。

サービスを呼び出す (C#)

この例では、C# を使用して Web サービスを呼び出す方法を示します。

using System;
using System.Collections.Generic;
using System.IO;
using System.Net.Http;
using System.Net.Http.Headers;
using Newtonsoft.Json;

namespace MLWebServiceClient
{
    // The data structure expected by the service
    internal class InputData
    {
        [JsonProperty("data")]
        // The service used by this example expects an array containing
        //   one or more arrays of doubles
        internal double[,] data;
    }
    class Program
    {
        static void Main(string[] args)
        {
            // Set the scoring URI and authentication key or token
            string scoringUri = "<your web service URI>";
            string authKey = "<your key or token>";

            // Set the data to be sent to the service.
            // In this case, we are sending two sets of data to be scored.
            InputData payload = new InputData();
            payload.data = new double[,] {
                {
                    0.0199132141783263,
                    0.0506801187398187,
                    0.104808689473925,
                    0.0700725447072635,
                    -0.0359677812752396,
                    -0.0266789028311707,
                    -0.0249926566315915,
                    -0.00259226199818282,
                    0.00371173823343597,
                    0.0403433716478807
                },
                {
                    -0.0127796318808497, 
                    -0.044641636506989, 
                    0.0606183944448076, 
                    0.0528581912385822, 
                    0.0479653430750293, 
                    0.0293746718291555, 
                    -0.0176293810234174, 
                    0.0343088588777263, 
                    0.0702112981933102, 
                    0.00720651632920303
                }
            };

            // Create the HTTP client
            HttpClient client = new HttpClient();
            // Set the auth header. Only needed if the web service requires authentication.
            client.DefaultRequestHeaders.Authorization = new AuthenticationHeaderValue("Bearer", authKey);

            // Make the request
            try {
                var request = new HttpRequestMessage(HttpMethod.Post, new Uri(scoringUri));
                request.Content = new StringContent(JsonConvert.SerializeObject(payload));
                request.Content.Headers.ContentType = new MediaTypeHeaderValue("application/json");
                var response = client.SendAsync(request).Result;
                // Display the response from the web service
                Console.WriteLine(response.Content.ReadAsStringAsync().Result);
            }
            catch (Exception e)
            {
                Console.Out.WriteLine(e.Message);
            }
        }
    }
}

返される結果は、次の JSON ドキュメントのようになります。

[217.67978776218715, 224.78937091757172]

サービスを呼び出す (Python)

この例では、Python を使用して Web サービスを呼び出す方法を示します。

import requests
import json

# URL for the web service
scoring_uri = '<your web service URI>'
# If the service is authenticated, set the key or token
key = '<your key or token>'

# Two sets of data to score, so we get two results back
data = {"data":
        [
            [
                0.0199132141783263,
                0.0506801187398187,
                0.104808689473925,
                0.0700725447072635,
                -0.0359677812752396,
                -0.0266789028311707,
                -0.0249926566315915,
                -0.00259226199818282,
                0.00371173823343597,
                0.0403433716478807
            ],
            [
                -0.0127796318808497,
                -0.044641636506989,
                0.0606183944448076,
                0.0528581912385822,
                0.0479653430750293,
                0.0293746718291555,
                -0.0176293810234174,
                0.0343088588777263,
                0.0702112981933102,
                0.00720651632920303]
        ]
        }
# Convert to JSON string
input_data = json.dumps(data)

# Set the content type
headers = {'Content-Type': 'application/json'}
# If authentication is enabled, set the authorization header
headers['Authorization'] = f'Bearer {key}'

# Make the request and display the response
resp = requests.post(scoring_uri, input_data, headers=headers)
print(resp.text)

返される結果は、次の JSON ドキュメントのようになります。

[217.67978776218715, 224.78937091757172]

Web サービスのスキーマ (OpenAPI 仕様)

デプロイで自動スキーマ生成を使用した場合は、swagger_uri プロパティを使用して、サービスに対する OpenAPI 仕様のアドレスを取得できます。 (例: print(service.swagger_uri)。) 仕様を取得するには、GET 要求を使用するか、ブラウザーで URI を開きます。

次の JSON ドキュメントは、デプロイに対して生成されるスキーマ (OpenAPI 仕様) の例です。

{
    "swagger": "2.0",
    "info": {
        "title": "myservice",
        "description": "API specification for Azure Machine Learning myservice",
        "version": "1.0"
    },
    "schemes": [
        "https"
    ],
    "consumes": [
        "application/json"
    ],
    "produces": [
        "application/json"
    ],
    "securityDefinitions": {
        "Bearer": {
            "type": "apiKey",
            "name": "Authorization",
            "in": "header",
            "description": "For example: Bearer abc123"
        }
    },
    "paths": {
        "/": {
            "get": {
                "operationId": "ServiceHealthCheck",
                "description": "Simple health check endpoint to ensure the service is up at any given point.",
                "responses": {
                    "200": {
                        "description": "If service is up and running, this response will be returned with the content 'Healthy'",
                        "schema": {
                            "type": "string"
                        },
                        "examples": {
                            "application/json": "Healthy"
                        }
                    },
                    "default": {
                        "description": "The service failed to execute due to an error.",
                        "schema": {
                            "$ref": "#/definitions/ErrorResponse"
                        }
                    }
                }
            }
        },
        "/score": {
            "post": {
                "operationId": "RunMLService",
                "description": "Run web service's model and get the prediction output",
                "security": [
                    {
                        "Bearer": []
                    }
                ],
                "parameters": [
                    {
                        "name": "serviceInputPayload",
                        "in": "body",
                        "description": "The input payload for executing the real-time machine learning service.",
                        "schema": {
                            "$ref": "#/definitions/ServiceInput"
                        }
                    }
                ],
                "responses": {
                    "200": {
                        "description": "The service processed the input correctly and provided a result prediction, if applicable.",
                        "schema": {
                            "$ref": "#/definitions/ServiceOutput"
                        }
                    },
                    "default": {
                        "description": "The service failed to execute due to an error.",
                        "schema": {
                            "$ref": "#/definitions/ErrorResponse"
                        }
                    }
                }
            }
        }
    },
    "definitions": {
        "ServiceInput": {
            "type": "object",
            "properties": {
                "data": {
                    "type": "array",
                    "items": {
                        "type": "array",
                        "items": {
                            "type": "integer",
                            "format": "int64"
                        }
                    }
                }
            },
            "example": {
                "data": [
                    [ 10, 9, 8, 7, 6, 5, 4, 3, 2, 1 ]
                ]
            }
        },
        "ServiceOutput": {
            "type": "array",
            "items": {
                "type": "number",
                "format": "double"
            },
            "example": [
                3726.995
            ]
        },
        "ErrorResponse": {
            "type": "object",
            "properties": {
                "status_code": {
                    "type": "integer",
                    "format": "int32"
                },
                "message": {
                    "type": "string"
                }
            }
        }
    }
}

詳細については、OpenAPI の仕様をご覧ください。

仕様からクライアントライブラリを作成できるユーティリティについては、swagger-codegen を参照してください。

ヒント

サービスをデプロイした後、スキーマ JSON ドキュメントを取得できます。ローカル Web サービスの Swagger ファイルへの URI を取得するには、デプロイされた Web サービスの swagger_uri プロパティを使用します (例: service.swagger_uri)。

次のステップ

Python とディープラーニングのモデルのリアルタイムスコアリングに関する参照アーキテクチャを確認するには、「Azure アーキテクチャセンター」を参照してください。

次の方法で共有