Delen via

Werken met Azure OpenAI-modellen

  • Artikel

Azure OpenAI Service wordt mogelijk gemaakt door een diverse set modellen met verschillende mogelijkheden en prijspunten. De beschikbaarheid van modellen verschilt per regio.

U kunt een lijst met modellen ophalen die beschikbaar zijn voor zowel deductie als het verfijnen van uw Azure OpenAI-resource met behulp van de Api voor modellenlijst.

Modelupdates

Azure OpenAI ondersteunt nu automatische updates voor geselecteerde modelimplementaties. Op modellen waar ondersteuning voor automatische updates beschikbaar is, is een vervolgkeuzelijst met modelversies zichtbaar in Azure OpenAI Studio onder Nieuwe implementatie maken en Implementatie bewerken:

Schermopname van de gebruikersinterface van het implementatiemodel van Azure OpenAI Studio.

Meer informatie over Azure OpenAI-modelversies en hoe ze werken in het artikel over Azure OpenAI-modelversies .

Automatisch bijwerken naar standaardwaarde

Wanneer u uw implementatie instelt op automatisch bijwerken op standaard, wordt uw modelimplementatie automatisch bijgewerkt binnen twee weken na een wijziging in de standaardversie. Voor een preview-versie wordt deze automatisch bijgewerkt wanneer een nieuwe preview-versie beschikbaar is vanaf twee weken nadat de nieuwe preview-versie is uitgebracht.

Als u zich nog in de vroege testfasen voor deductiemodellen bevindt, raden we u aan modellen met automatisch bijwerken te implementeren op standaardinstelling wanneer deze beschikbaar is.

Specifieke modelversie

Naarmate uw gebruik van Azure OpenAI zich ontwikkelt en u begint met het bouwen en integreren met toepassingen, wilt u mogelijk handmatig modelupdates beheren. U kunt eerst testen en valideren dat uw toepassingsgedrag consistent is voor uw use-case voordat u een upgrade uitvoert.

Wanneer u een specifieke modelversie voor een implementatie selecteert, blijft deze versie geselecteerd totdat u ervoor kiest om uzelf handmatig bij te werken of wanneer u de buitengebruikstellingsdatum voor het model hebt bereikt. Wanneer de buitengebruikstellingsdatum is bereikt, wordt het model automatisch bijgewerkt naar de standaardversie op het moment van buitengebruikstelling.

Buitengebruikstellingsdatums weergeven

Voor momenteel geïmplementeerde modellen selecteert u implementaties in Azure OpenAI Studio:

Schermopname van de implementatie-UI van Azure OpenAI Studio.

Als u buitengebruikstellingsdatums wilt weergeven voor alle beschikbare modellen in een bepaalde regio vanuit Azure OpenAI Studio, selecteert u opties voor modellenkolommen>> De afschaffing enafschaffingsdeductie selecteren:

Schermopname van de gebruikersinterface van de modellen van Azure OpenAI Studio.

Upgradeconfiguratie voor modelimplementatie

U kunt controleren welke upgradeopties voor modellen zijn ingesteld voor eerder geïmplementeerde modellen in Azure OpenAI Studio. Selecteer Implementaties> onder de kolom Implementatienaam een van de implementatienamen die blauw zijn gemarkeerd.

Schermopname van het deelvenster Implementaties met een implementatienaam gemarkeerd.

Als u een implementatienaam selecteert, worden de eigenschappen voor de modelimplementatie geopend. U kunt bekijken welke upgradeopties zijn ingesteld voor uw implementatie onder Versie-updatebeleid:

Schermopname van de gebruikersinterface van de eigenschap modelimplementaties.

De bijbehorende eigenschap kan ook worden geopend via REST, Azure PowerShell en Azure CLI.

Optie Lezen Bijwerken
REST Ja. Als versionUpgradeOption het niet wordt geretourneerd, betekent dit dat het is null Ja
Azure PowerShell Ja.VersionUpgradeOption kan worden gecontroleerd op $null Ja
Azure-CLI Ja. Deze wordt weergegeven null als versionUpgradeOption deze niet is ingesteld. Nee Het is momenteel niet mogelijk om de versie-upgradeoptie bij te werken.

Er zijn drie verschillende upgradeopties voor modelimplementatie:

Name Beschrijving
OnceNewDefaultVersionAvailable Zodra een nieuwe versie is aangewezen als de standaardversie, wordt de modelimplementatie automatisch bijgewerkt naar de standaardversie binnen twee weken nadat die aanduiding is gewijzigd.
OnceCurrentVersionExpired Zodra de buitengebruikstellingsdatum is bereikt, wordt de modelimplementatie automatisch bijgewerkt naar de huidige standaardversie.
NoAutoUpgrade De modelimplementatie wordt nooit automatisch bijgewerkt. Zodra de buitengebruikstellingsdatum is bereikt, werkt de modelimplementatie niet meer. U moet uw code bijwerken die naar die implementatie verwijst om te verwijzen naar een niet-verlopen modelimplementatie.

Notitie

null is equivalent aan OnceCurrentVersionExpired. Als de optie Versie-updatebeleid niet aanwezig is in de eigenschappen voor een model dat modelupgrades ondersteunt, geeft dit aan dat de waarde momenteel nullis. Zodra u deze waarde expliciet hebt gewijzigd, is de eigenschap zichtbaar op de pagina met studio-eigenschappen en via de REST API.

Voorbeelden

Raadpleeg de aan de slag-handleiding voor Azure PowerShell om Azure PowerShell lokaal te installeren of u kunt De Azure Cloud Shell gebruiken.

In de onderstaande stappen ziet u hoe u de VersionUpgradeOption optieeigenschap controleert en deze bijwerkt:

// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}
 
// Step 2: Show Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption
 
// VersionUpgradeOption can be null - one way to check is
$null -eq $deployment.Properties.VersionUpgradeOption
 
// Step 3: Update Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption = "NoAutoUpgrade"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku
 
// repeat step 1 and 2 to confirm the change.
// If not sure about deployment name, use this command to show all deployments under an account
Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName}

// To update to a new model version

// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}

// Step 2: Show Deployment Model properties
$deployment.Properties.Model.Version

// Step 3: Update Deployed Model Version
$deployment.Properties.Model.Version = "0613"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku

// repeat step 1 and 2 to confirm the change.

Modellen bijwerken en implementeren via de API

PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/deployments/{deploymentName}?api-version=2023-05-01

Padparameters

Parameter Type Vereist? Beschrijving
acountname tekenreeks Vereist De naam van uw Azure OpenAI-resource.
deploymentName tekenreeks Vereist De implementatienaam die u hebt gekozen bij het implementeren van een bestaand model of de naam die u wilt gebruiken voor een nieuwe modelimplementatie.
resourceGroupName tekenreeks Vereist De naam van de gekoppelde resourcegroep voor deze modelimplementatie.
subscriptionId tekenreeks Vereist Abonnements-id voor het bijbehorende abonnement.
api-version tekenreeks Vereist De API-versie die voor deze bewerking moet worden gebruikt. Dit volgt de indeling JJJJ-MM-DD.

Ondersteunde versies

Aanvraagbody

Dit is slechts een subset van de beschikbare parameters voor de aanvraagbody. Raadpleeg de REST API-referentiedocumentatie voor de volledige lijst met parameters.

Parameter Type Description
versionUpgradeOption String Upgradeopties voor implementatiemodelversie:
OnceNewDefaultVersionAvailable
OnceCurrentVersionExpired
NoAutoUpgrade
capacity geheel getal Dit vertegenwoordigt de hoeveelheid quotum die u aan deze implementatie toewijst. Een waarde van 1 is gelijk aan 1000 tokens per minuut (TPM)

Voorbeeld van aanvraag

curl -X PUT https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo?api-version=2023-05-01 \
  -H "Content-Type: application/json" \
  -H 'Authorization: Bearer YOUR_AUTH_TOKEN' \
  -d '{"sku":{"name":"Standard","capacity":120},"properties": {"model": {"format": "OpenAI","name": "gpt-35-turbo","version": "0613"},"versionUpgradeOption":"OnceCurrentVersionExpired"}}'

Notitie

Er zijn meerdere manieren om een autorisatietoken te genereren. De eenvoudigste methode voor eerste tests is het starten van Cloud Shell vanuit Azure Portal. Voer vervolgens az account get-access-token uit. U kunt dit token gebruiken als uw tijdelijke autorisatietoken voor API-tests.

Voorbeeld van een antwoord

 {
  "id": "/subscriptions/{subscription-id}/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo",
  "type": "Microsoft.CognitiveServices/accounts/deployments",
  "name": "gpt-35-turbo",
  "sku": {
    "name": "Standard",
    "capacity": 120
  },
  "properties": {
    "model": {
      "format": "OpenAI",
      "name": "gpt-35-turbo",
      "version": "0613"
    },
    "versionUpgradeOption": "OnceCurrentVersionExpired",
    "capabilities": {
      "chatCompletion": "true"
    },
    "provisioningState": "Succeeded",
    "rateLimits": [
      {
        "key": "request",
        "renewalPeriod": 10,
        "count": 120
      },
      {
        "key": "token",
        "renewalPeriod": 60,
        "count": 120000
      }
    ]
  },
  "systemData": {
    "createdBy": "docs@contoso.com",
    "createdByType": "User",
    "createdAt": "2023-02-28T02:57:15.8951706Z",
    "lastModifiedBy": "docs@contoso.com",
    "lastModifiedByType": "User",
    "lastModifiedAt": "2023-10-31T15:35:53.082912Z"
  },
  "etag": "\"GUID\""
}

Volgende stappen