Freigeben über

Arbeiten mit Azure OpenAI-Modellen

  • Artikel

Azure OpenAI Service basiert auf einer Vielzahl von Modellen mit unterschiedlichen Funktionen und Preispunkten. Die Modellverfügbarkeit variiert je nach Region.

Sie können mit der Modelllisten-API eine Liste der Modelle abrufen, die sowohl für Rückschlüsse als auch für die Feinabstimmung durch Ihre Azure OpenAI-Ressource verfügbar sind.

Modellupdates

Azure OpenAI unterstützt jetzt automatische Updates für ausgewählte Modellimplementierungen. Bei Modellen, für die automatische Updates unterstützt werden, wird in Azure KI Studio unter Bereitstellungen und Bearbeiten eine Dropdownliste für die Modellversion angezeigt:

Screenshot der Benutzeroberfläche für die Modellimplementierung von Azure KI Studio

Weitere Informationen zu Azure OpenAI-Modellversionen und ihrer Funktionsweise finden Sie im Artikel zu Azure OpenAI-Modellversionen.

Automatische Aktualisierung auf die Standardeinstellung

Wenn Sie die Bereitstellung auf Automatisch aktualisieren auf Standard festlegen, wird die Modellbereitstellung innerhalb von zwei Wochen nach einer Änderung in der Standardversion automatisch aktualisiert. Bei einer Vorschauversion erfolgt die Aktualisierung automatisch, wenn eine neue Vorschauversion verfügbar ist, beginnend zwei Wochen nach der Veröffentlichung der neuen Vorschauversion.

Wenn Sie sich noch in den frühen Testphasen für Rückschlussmodelle befinden, empfiehlt es sich, Modelle mit Automatische Aktualisierung auf die Standardeinstellung zu implementieren, sofern verfügbar.

Bestimmte Modellversion

Da Sich Ihre Verwendung von Azure OpenAI weiterentwickelt und Sie mit der Erstellung und Integration in Anwendungen beginnen, sollten Sie Modellupdates manuell steuern. Sie können zuerst testen und überprüfen, ob Ihr Anwendungsverhalten für Ihren Anwendungsfall konsistent ist, bevor Sie ein Upgrade durchführen.

Wenn Sie eine bestimmte Modellversion für eine Bereitstellung auswählen, bleibt diese Version ausgewählt, bis Sie sie entweder selbst manuell aktualisieren oder das Einstellungsdatum für das Modell erreicht ist. Wenn das Einstellungsdatum erreicht ist, wird das Modell zum Zeitpunkt der Einstellung automatisch auf die Standardversion aktualisiert.

Anzeigen von Einstellungsterminen

Wählen Sie für derzeit bereitgestellte Modelle in Azure KI Studio die Option Bereitstellungen aus:

Screenshot der Benutzeroberfläche für die Bereitstellung in Azure KI Studio

Konfiguration von Upgrades der Modellimplementierung

Sie können überprüfen, welche Modellupgradeoptionen für zuvor bereitgestellte Modelle in Azure KI Studio festgelegt wurden. Wählen Sie Bereitstellungen> Wählen Sie unter der Spalte „Bereitstellungsname“ einen der Bereitstellungsnamen aus, die blau hervorgehoben sind.

Wenn Sie einen Bereitstellungsnamen auswählen, werden die Eigenschaften für die Modellbereitstellung geöffnet. Sie können sehen, welche Upgradeoptionen für Ihre Bereitstellung unter Versionsupdaterichtlinie festgelegt sind:

Screenshot der Benutzeroberfläche der Modellimplementierungseigenschaft.

Auf die entsprechende Eigenschaft kann auch über REST, Azure PowerShellund Azure CLI zugegriffen werden.

Option Lesen Aktualisieren
REST Ja. Wenn versionUpgradeOption nicht zurückgegeben wird, bedeutet dies, dass es null ist. Ja
Azure PowerShell Ja.VersionUpgradeOption kann auf $null überprüft werden. Ja
Azure-Befehlszeilenschnittstelle Ja. null wird angezeigt, wenn versionUpgradeOption nicht festgelegt ist. Nein. Es ist derzeit nicht möglich, die Versionsupgradeoption zu aktualisieren.

Es gibt drei verschiedene Modellbereitstellungsupgradeoptionen:

Name Beschreibung
OnceNewDefaultVersionAvailable Wenn eine neue Version als Standardversion festgelegt wurde, führt die Modellimplementierung innerhalb von zwei Wochen nach dieser Festlegung ein automatisches Upgrade auf die Standardversion durch.
OnceCurrentVersionExpired Wenn das Datum der Einstellung erreicht ist, führt die Modellimplementierung ein automatisches Upgrade auf die aktuelle Standardversion durch.
NoAutoUpgrade Für die Modellimplementierung wird niemals ein automatisches Upgrade durchgeführt. Sobald das Datum der Einstellung erreicht ist, funktioniert die Modellimplementierung nicht mehr. Sie müssen jeglichen Code, der auf diese Implementierung verweist, aktualisieren, damit er auf eine nicht abgelaufene Modellimplementierung verweist.

Hinweis

null entspricht OnceCurrentVersionExpired. Wenn die Option Versionsaktualisierungsrichtlinie in den Eigenschaften eines Modells, das Modellupgrades unterstützt, nicht vorhanden ist, gibt dies an, dass der Wert derzeit null ist. Nachdem Sie diesen Wert explizit geändert haben, wird die Eigenschaft sowohl auf der Seite mit den Studioeigenschaften als auch über die REST-API angezeigt.

Beispiele

Lesen Sie den Azure PowerShell-Leitfaden Erste Schritte, um Azure PowerShell lokal zu installieren, oder verwenden Sie Azure Cloud Shell.

Die folgenden Schritte veranschaulichen das Überprüfen der VersionUpgradeOption-Optionseigenschaft sowie das Aktualisieren der Eigenschaft:

// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}
 
// Step 2: Show Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption
 
// VersionUpgradeOption can be null - one way to check is
$null -eq $deployment.Properties.VersionUpgradeOption
 
// Step 3: Update Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption = "NoAutoUpgrade"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku
 
// repeat step 1 and 2 to confirm the change.
// If not sure about deployment name, use this command to show all deployments under an account
Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName}

// To update to a new model version

// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}

// Step 2: Show Deployment Model properties
$deployment.Properties.Model.Version

// Step 3: Update Deployed Model Version
$deployment.Properties.Model.Version = "0613"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku

// repeat step 1 and 2 to confirm the change.

Aktualisieren und Bereitstellen von Modellen über die API

PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/deployments/{deploymentName}?api-version=2023-05-01

Pfadparameter

Parameter type Erforderlich? BESCHREIBUNG
acountname Zeichenfolge Erforderlich Der Name Ihrer Azure OpenAI-Ressource.
deploymentName Zeichenfolge Erforderlich Der Bereitstellungsname, den Sie bei der Bereitstellung eines vorhandenen Modells ausgewählt haben, oder der Name, den Sie für eine neue Modellimplementierung verwenden möchten.
resourceGroupName Zeichenfolge Erforderlich Der Name der zugeordneten Ressourcengruppe für diese Modellimplementierung.
subscriptionId Zeichenfolge Erforderlich Abonnement-ID für das zugehörige Abonnement.
api-version Zeichenfolge Erforderlich Hierbei handelt es sich um die für diesen Vorgang zu verwendende API-Version. Sie hat das Format „JJJJ-MM-TT“.

Unterstützte Versionen

Anforderungstext

Dies ist nur eine Teilmenge der verfügbaren Anforderungstextparameter. Eine vollständige Liste der Parameter finden Sie in der REST-API-Referenzdokumentation.

Parameter Typ BESCHREIBUNG
versionUpgradeOption String Upgradeoptionen für Bereitstellungsmodellversionen:
OnceNewDefaultVersionAvailable
OnceCurrentVersionExpired
NoAutoUpgrade
Kapazität integer Dies stellt die Höhe des Kontingents dar, das Sie dieser Bereitstellung zuweisen. Der Wert 1 entspricht 1.000 Token pro Minute (TPM)

Beispielanforderung

curl -X PUT https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo?api-version=2023-05-01 \
  -H "Content-Type: application/json" \
  -H 'Authorization: Bearer YOUR_AUTH_TOKEN' \
  -d '{"sku":{"name":"Standard","capacity":120},"properties": {"model": {"format": "OpenAI","name": "gpt-35-turbo","version": "0613"},"versionUpgradeOption":"OnceCurrentVersionExpired"}}'

Hinweis

Es gibt mehrere Möglichkeiten, ein Autorisierungstoken zu generieren. Die einfachste Methode für anfängliche Tests besteht darin, Cloud Shell über das Azure-Portal zu starten. Führen Sie dann az account get-access-token aus. Sie können dieses Token als temporäres Autorisierungstoken für API-Tests verwenden.

Beispielantwort

 {
  "id": "/subscriptions/{subscription-id}/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo",
  "type": "Microsoft.CognitiveServices/accounts/deployments",
  "name": "gpt-35-turbo",
  "sku": {
    "name": "Standard",
    "capacity": 120
  },
  "properties": {
    "model": {
      "format": "OpenAI",
      "name": "gpt-35-turbo",
      "version": "0613"
    },
    "versionUpgradeOption": "OnceCurrentVersionExpired",
    "capabilities": {
      "chatCompletion": "true"
    },
    "provisioningState": "Succeeded",
    "rateLimits": [
      {
        "key": "request",
        "renewalPeriod": 10,
        "count": 120
      },
      {
        "key": "token",
        "renewalPeriod": 60,
        "count": 120000
      }
    ]
  },
  "systemData": {
    "createdBy": "docs@contoso.com",
    "createdByType": "User",
    "createdAt": "2023-02-28T02:57:15.8951706Z",
    "lastModifiedBy": "docs@contoso.com",
    "lastModifiedByType": "User",
    "lastModifiedAt": "2023-10-31T15:35:53.082912Z"
  },
  "etag": "\"GUID\""
}

Nächste Schritte