別の Azure AI Studio プロジェクトまたはハブのサーバーレス API エンドポイントを使う

この記事では、デプロイを作成したプロジェクトやハブとは別のプロジェクトやハブに存在する、既存のサーバーレス API エンドポイントを構成する方法について説明します。

重要

プレビュー段階のモデルは、モデルカタログ内のモデル カードで "プレビュー" のマークが付けられます。

モデル カタログ内の特定のモデルは、サーバーレス API としてデプロイできます。 この種類のデプロイは、組織が必要とする企業レベルのセキュリティとコンプライアンスを維持しながら、サブスクリプションでホストせずに API としてモデルを使う方法を提供します。 このデプロイ オプションでは、サブスクリプションからのクォータを必要としません。

次のような状況では、デプロイの作成に使ったものとは異なるプロジェクトまたはハブでサーバーレス API エンドポイントを使う必要がある可能性があります。

• 特定のプロジェクトまたはハブにデプロイを一元化し、組織内の異なるプロジェクトまたはハブから使う必要があります。
• モデルのサーバーレス デプロイを使用できる特定の Azure リージョンのハブにモデルをデプロイする必要があります。 しかしそれを、その特定のモデルに対してサーバーレス デプロイを使用できない別のリージョンから使う必要があります。

前提条件

• 有効な支払い方法を持つ Azure サブスクリプション。 無料または試用版の Azure サブスクリプションは機能しません。 Azure サブスクリプションを持っていない場合は、始めるために有料の Azure アカウントを作成してください。

• Azure AI Studio ハブ。

• Azure AI Studio プロジェクト。

• サーバーレス API エンドポイントにデプロイされたモデル。 この記事では、前に Meta-Llama-3-8B-Instruct モデルをデプロイしたと想定しています。 このモデルをサーバーレス API としてデプロイする方法については、「モデルをサーバーレス API としてデプロイする」を参照してください。

• Azure AI Studio を使うには、次のソフトウェアをインストールする必要があります。

  AI Studio

  互換性のある任意の Web ブラウザーを使用して、Azure AI Studio を操作できます。

  Azure CLI

  Azure CLI と Azure Machine Learning 用の ml 拡張機能。

  az extension add -n ml
  

  拡張機能が既にインストールされている場合は、最新バージョンがインストールされていることを確認します。

  az extension update -n ml
  

  拡張機能がインストールされたら、次のように構成します。

  az account set --subscription <subscription>
  az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
  

  Python SDK

  Azure Machine Learning SDK for Python をインストールする。

  pip install -U azure-ai-ml
  

  インストールしたら、必要な名前空間をインポートします。

  from azure.ai.ml import MLClient
  from azure.identity import InteractiveBrowserCredential
  from azure.ai.ml.entities import ServerlessEndpoint, ServerlessConnection
  

サーバーレス API エンドポイント接続を作成する

次の手順に従って、接続を作成します。

1. エンドポイントがデプロイされているプロジェクトまたはハブに接続します。

   AI Studio

   Azure AI Studioを開き、接続するエンドポイントがデプロイされているプロジェクトに移動します。

   Azure CLI

   CLI がプロジェクトを指すように構成します。

   az account set --subscription <subscription>
   az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
   

   Python SDK

   プロジェクトに接続されたクライアントを作成します。

   client = MLClient(
       credential=InteractiveBrowserCredential(tenant_id="<tenant-id>"),
       subscription_id="<subscription-id>",
       resource_group_name="<resource-group>",
       workspace_name="<project-name>",
   )
   

2. 接続対象のエンドポイントの URL と資格情報を取得します。 この例では、エンドポイント名 meta-llama3-8b-qwerty の詳細を取得します。

   AI Studio

   1. AI Studio のプロジェクト画面で、左サイド バーにある [コンポーネント]>[デプロイ] を選択すると、そのプロジェクトに含まれるデプロイの一覧を確認できます。

   2. 接続するデプロイを選びます。

   3. [ターゲット URI] と [キー] の値をコピーします。

   Azure CLI

   az ml serverless-endpoint get-credentials -n meta-llama3-8b-qwerty
   

   Python SDK

   endpoint_name = "meta-llama3-8b-qwerty"
   endpoint_keys = client.serverless_endpoints.get_keys(endpoint_name)
   print(endpoint_keys.primary_key)
   print(endpoint_keys.secondary_key)
   

3. 次に、接続を作成するプロジェクトまたはハブに接続します。

   AI Studio

   接続を作成する必要がある対象プロジェクトに移動します。

   Azure CLI

   CLI がプロジェクトを指すように構成します。

   az account set --subscription <subscription>
   az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
   

   Python SDK

   プロジェクトに接続されたクライアントを作成します。

   client = MLClient(
       credential=InteractiveBrowserCredential(tenant_id="<tenant-id>"),
       subscription_id="<subscription-id>",
       resource_group_name="<resource-group>",
       workspace_name="<project-name>",
   )
   

4. プロジェクトに接続を作成します。

   AI Studio

   1. AI Studio のプロジェクトの左側のサイド バーで、[設定] を選びます。

   2. [接続済みリソース] セクションで、[新しい接続] を選びます。

   3. [サーバーレス モデル] を選択します。

   4. [ターゲット URI] には、前にコピーした値を貼り付けます。

   5. [キー] には、前にコピーした値を貼り付けます。

   6. 接続に名前 (この場合は meta-llama3-8b-connection) を付けます。

   7. [接続の追加] を選択します。

   Azure CLI

   接続定義を作成します。

   connection.yml

   name: meta-llama3-8b-connection
   type: serverless
   endpoint: https://meta-llama3-8b-qwerty-serverless.inference.ai.azure.com
   api_key: 1234567890qwertyuiop
   

   az ml connection create -f connection.yml
   

   Python SDK

   client.connections.create_or_update(ServerlessConnection(
       name="meta-llama3-8b-connection",
       endpoint="https://meta-llama3-8b-qwerty-serverless.inference.ai.azure.com",
       api_key="1234567890qwertyuiop"
   ))
   

5. これで、接続が利用できるようになりました。

6. 接続が機能していることを検証するには、次のようにします。

   1. AI Studio のプロジェクトの左側のサイド バーで、[ツール]>[プロンプト フロー] に移動します。

   2. [作成] を選択して新しいフローを作成します。

   3. [チャット フロー] ボックスで [作成] を選びます。

   4. [プロンプト フロー] に名前を付け、[作成] を選びます。

   5. グラフから [チャット] ノードを選択し、[チャット] セクションに移動します。

   6. [接続] に対して、ドロップダウン リストを開いて、作成したばかりの接続 (この場合は meta-llama3-8b-connection) を選びます。

   7. 上部のナビゲーション バーから [コンピューティング セッションを開始する] を選択して、プロンプト フローの自動ランタイムを開始します。

   8. [チャット] オプションを選びます。 メッセージを送信して応答を取得できるようになりました。

関連するコンテンツ

• Azure AI Studio とは?
• Azure AI に関する FAQ の記事