Azure OpenAI モデルの操作

[アーティクル]
09/03/2024

Azure OpenAI Service では、さまざまな機能と価格ポイントを備えた多様なモデルセットが利用されています。モデルの可用性はリージョンごとに異なります。

Models List API を使用して、Azure OpenAI リソースによる推論と微調整の両方に使用できるモデルの一覧を取得できます。

モデルの更新

Azure OpenAI では、選択したモデルデプロイの自動更新がサポートされるようになりました。自動更新のサポートが利用可能なモデルでは、Azure OpenAI Studio の [デプロイ] と [編集] にモデルバージョンのドロップダウンが表示されます。

Azure OpenAI モデルのバージョンとその動作の詳細については、Azure OpenAI モデルのバージョンの記事を参照してください。

既定値に自動更新

デプロイを [既定値に自動更新] に設定すると、モデルデプロイは、既定のバージョンの変更が行われてから 2 週間以内に自動的に更新されます。プレビューバージョンの場合、新しいプレビューバージョンがリリースされてから 2 週間後以降、新しいプレビューバージョンが使用可能になると自動的に更新されます。

まだ推論モデルの早期テストフェーズにある場合、[既定値に自動更新] が使用可能であれば常にこれを設定してモデルをデプロイすることをお勧めします。

特定のモデルバージョン

Azure OpenAI の使い方が徐々に発展し、アプリケーションを開発して組み込むようになったら、モデル更新の手動制御をお勧めします。アップグレードする前に、まずアプリケーションの動作がユースケースに対して一貫していることをテストして検証できます。

デプロイに特定のモデルバージョンを選択すると、自分で手動更新するか、モデルの提供終了日に達するまで、このバージョンは選択されたままになります。提供終了日に達すると、モデルは提供終了時に既定のバージョンに自動的にアップグレードされます。

提供終了日を表示する

現在デプロイされているモデルの場合は、Azure OpenAI Studio から [デプロイ] を選択します。

モデルデプロイのアップグレード構成

Azure OpenAI Studio で以前にデプロイされたモデルに対して設定されているモデルアップグレードオプション確認できます。 [デプロイ] を選択 > "デプロイ名" 列で青色に強調表示されているデプロイ名のいずれかを選択します。

デプロイ名を選択すると、モデルデプロイのプロパティが開きます。デプロイで設定されているアップグレードオプションは、[バージョン更新ポリシー] で確認できます。

対応するプロパティには、REST、Azure PowerShell、Azure CLI 経由でアクセスすることもできます。

オプション	既読	更新する
REST	はい。 `versionUpgradeOption` が返されない場合は、`null` です	はい
Azure PowerShell	はい。`$null` に `VersionUpgradeOption` を確認できます	はい
Azure CLI	はい。 `versionUpgradeOption` が設定されていない場合は、`null` が表示されます。	不正解です。現在、バージョンアップグレードオプションを更新することはできません。

モデルデプロイのアップグレードには、次の 3 つのオプションがあります。

名前	説明
`OnceNewDefaultVersionAvailable`	新しいバージョンを既定として指定すると、モデルデプロイは、その指定変更が行われてから 2 週間以内に既定のバージョンに自動的にアップグレードされます。
`OnceCurrentVersionExpired`	廃止日になると、モデルデプロイは現在の既定のバージョンに自動的にアップグレードされます。
`NoAutoUpgrade`	モデルデプロイは自動的にアップグレードされません。廃止日になると、モデルデプロイは機能しなくなります。期限が切れていないモデルデプロイをポイントするには、そのデプロイを参照しているコードを更新する必要があります。

Note

null は OnceCurrentVersionExpired と等価です。モデルのアップグレードをサポートしているモデルのプロパティに [バージョン更新ポリシー] オプションがない場合、これは値が現在 null であることを示しています。この値を明示的に変更すると、プロパティは、スタジオのプロパティページに表示されるとともに、REST API を介して表示されます。

Azure PowerShell の概要ガイドを確認して Azure PowerShell をローカルにインストールするか、Azure Cloud Shell を使用できます。

次の手順では、VersionUpgradeOption オプションプロパティの確認と更新を示します:

// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}
 
// Step 2: Show Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption
 
// VersionUpgradeOption can be null - one way to check is
$null -eq $deployment.Properties.VersionUpgradeOption
 
// Step 3: Update Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption = "NoAutoUpgrade"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku
 
// repeat step 1 and 2 to confirm the change.
// If not sure about deployment name, use this command to show all deployments under an account
Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName}

// To update to a new model version

// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}

// Step 2: Show Deployment Model properties
$deployment.Properties.Model.Version

// Step 3: Update Deployed Model Version
$deployment.Properties.Model.Version = "0613"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku

// repeat step 1 and 2 to confirm the change.

特定のリソースのデプロイアップグレード構成を含む現在のモデルデプロイ設定に対してクエリを実行するには、Deployments List を使用します。値が null の場合、versionUpgradeOption プロパティは表示されません。

GET https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/deployments?api-version=2023-05-01

パスパラメーター

パラメーター	Type	必須	説明
`acountname`	string	必須	Azure OpenAI リソースの名前。
`resourceGroupName`	string	必須	このモデルデプロイに関連付けられているリソースグループの名前。
`subscriptionId`	string	必須	関連付けられているサブスクリプションの ID。
`api-version`	string	必須	この操作に使用する API バージョン。これは、YYYY-MM-DD 形式に従います。

サポートされているバージョン

2023-05-01 Swagger の仕様

応答の例

{
  "value": [
    {
      "id": "/subscriptions/aaaaaaaa-bbbb-cccc-dddd-eeeeeeeeeeeb/resourceGroups/az-test-openai/providers/Microsoft.CognitiveServices/accounts/aztestopenai001/deployments/gpt-35-turbo",
      "type": "Microsoft.CognitiveServices/accounts/deployments",
      "name": "gpt-35-turbo",
      "sku": {
        "name": "Standard",
        "capacity": 80
      },
      "properties": {
        "model": {
          "format": "OpenAI",
          "name": "gpt-35-turbo",
          "version": "0301"
        },
        "versionUpgradeOption": "OnceNewDefaultVersionAvailable",
        "capabilities": {
          "completion": "true",
          "chatCompletion": "true"
        },
        "raiPolicyName": "Microsoft.Default",
        "provisioningState": "Succeeded",
        "rateLimits": [
          {
            "key": "request",
            "renewalPeriod": 10,
            "count": 80
          },
          {
            "key": "token",
            "renewalPeriod": 60,
            "count": 80000
          }
        ]
      },
      "systemData": {
        "createdBy": "docs@contoso.com",
        "createdByType": "User",
        "createdAt": "2023-07-31T16:45:32.622404Z",
        "lastModifiedBy": "docs@contoso.com",
        "lastModifiedByType": "User",
        "lastModifiedAt": "2023-10-31T13:59:34.4978286Z"
      },
      "etag": "\"aaaaaaaa-bbbb-cccc-dddd-eeeeeeeeeeee\""
    }
  ]
}

次に、デプロイのアップグレード構成を変更する場合は、このリストから設定を取得して、以下で説明するようにモデル更新 REST API 呼び出しを作成できます。

API を使用したモデルの更新とデプロイ

PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/deployments/{deploymentName}?api-version=2023-05-01

パスパラメーター

パラメーター	Type	必須	説明
`acountname`	string	必須	Azure OpenAI リソースの名前。
`deploymentName`	string	必須	既存のモデルをデプロイしたときに選択したデプロイ名、または新しいモデルデプロイに使用する名前。
`resourceGroupName`	string	必須	このモデルデプロイに関連付けられているリソースグループの名前。
`subscriptionId`	string	必須	関連付けられているサブスクリプションの ID。
`api-version`	string	必須	この操作に使用する API バージョン。これは、YYYY-MM-DD 形式に従います。

サポートされているバージョン

2023-05-01 Swagger の仕様

要求本文

これは、使用可能な要求本文パラメーターのサブセットにすぎません。すべてのパラメーターの一覧については、REST API リファレンスドキュメントをご覧ください。

パラメーター	型	説明
versionUpgradeOption	String	デプロイモデルバージョンのアップグレードオプション: `OnceNewDefaultVersionAvailable` `OnceCurrentVersionExpired` `NoAutoUpgrade`
capacity	整数 (integer)	このデプロイに割り当てるクォータの量を表します。値 1 は、1 分あたり 1,000 トークン (TPM) に相当します

要求の例

curl -X PUT https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo?api-version=2023-05-01 \
  -H "Content-Type: application/json" \
  -H 'Authorization: Bearer YOUR_AUTH_TOKEN' \
  -d '{"sku":{"name":"Standard","capacity":120},"properties": {"model": {"format": "OpenAI","name": "gpt-35-turbo","version": "0613"},"versionUpgradeOption":"OnceCurrentVersionExpired"}}'

注意

認証トークンを生成するには、複数の方法があります。初期テストの最も簡単な方法は、Azure portal から Cloud Shell を起動することです。次に、az account get-access-token を実行します。このトークンは、API テストの一時的な認証トークンとして使用できます。

応答の例

 {
  "id": "/subscriptions/{subscription-id}/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo",
  "type": "Microsoft.CognitiveServices/accounts/deployments",
  "name": "gpt-35-turbo",
  "sku": {
    "name": "Standard",
    "capacity": 120
  },
  "properties": {
    "model": {
      "format": "OpenAI",
      "name": "gpt-35-turbo",
      "version": "0613"
    },
    "versionUpgradeOption": "OnceCurrentVersionExpired",
    "capabilities": {
      "chatCompletion": "true"
    },
    "provisioningState": "Succeeded",
    "rateLimits": [
      {
        "key": "request",
        "renewalPeriod": 10,
        "count": 120
      },
      {
        "key": "token",
        "renewalPeriod": 60,
        "count": 120000
      }
    ]
  },
  "systemData": {
    "createdBy": "docs@contoso.com",
    "createdByType": "User",
    "createdAt": "2023-02-28T02:57:15.8951706Z",
    "lastModifiedBy": "docs@contoso.com",
    "lastModifiedByType": "User",
    "lastModifiedAt": "2023-10-31T15:35:53.082912Z"
  },
  "etag": "\"GUID\""
}

次の方法で共有

Azure OpenAI モデルの操作

モデルの更新

既定値に自動更新

特定のモデルバージョン

提供終了日を表示する

モデルデプロイのアップグレード構成

例

応答の例

API を使用したモデルの更新とデプロイ

要求の例

応答の例

次のステップ

フィードバック

その他のリソース

次の方法で共有

Azure OpenAI モデルの操作

モデルの更新

既定値に自動更新

特定のモデル バージョン

提供終了日を表示する

モデル デプロイのアップグレード構成

例

API を使用したモデルの更新とデプロイ

要求の例

応答の例

次のステップ

フィードバック

その他のリソース

特定のモデルバージョン

モデルデプロイのアップグレード構成