Partager via

Travailler avec des modèles Azure OpenAI

  • Article

Azure OpenAI Service est fourni avec par un ensemble diversifié de modèles proposant des fonctionnalités variées et des prix différents. La disponibilité des modèles varie selon les régions.

Vous pouvez obtenir la liste des modèles disponibles pour l’inférence et l’optimisation par votre ressource Azure OpenAI en utilisant l’API Liste de modèles.

Mises à jour de modèle

Azure OpenAI prend désormais en charge les mises à jour automatiques pour certains modèles de déploiement. Sur les modèles où la prise en charge des mises à jour automatiques est disponible, une liste déroulante de version de modèle est visible dans Azure OpenAI Studio sous Créer un déploiement et Modifier le déploiement :

Capture d’écran de l’interface utilisateur du modèle de déploiement d’Azure OpenAI Studio.

Vous pouvez en savoir plus sur les versions du modèle Azure OpenAI et leur fonctionnement dans l’article sur les versions du modèle Azure OpenAI.

Mise à jour automatique vers la valeur par défaut

Lorsque vous définissez votre déploiement sur Mise à jour automatique vers la valeur par défaut, votre modèle de déploiement est automatiquement mis à jour dans les deux semaines suivant une modification de la version par défaut. Dans le cas d’une version préliminaire, la mise à jour se fait automatiquement lorsqu’une nouvelle version préliminaire est disponible, deux semaines après la publication de la nouvelle version préliminaire.

Si vous en êtes encore aux premières phases de test des modèles d'inférence, nous vous recommandons de déployer des modèles avec une mise à jour automatique par défaut dès qu'elle est disponible.

Version de modèle spécifique

À mesure que votre utilisation d’Azure OpenAI évolue et que vous commencez à créer et à intégrer des applications, vous pouvez vouloir contrôler manuellement les mises à jour du modèle. Vous pouvez d’abord tester et valider que le comportement de votre application est cohérent pour votre cas d’usage avant d’effectuer la mise à niveau.

Lorsque vous sélectionnez une version de modèle spécifique à un déploiement, elle reste celle qui est sélectionnée jusqu’à ce que vous choisissiez d’effectuer vous-même une mise à jour manuelle ou une fois la date de mise hors service du modèle atteinte. Lorsque la date de retrait est atteinte, le modèle sera automatiquement mis à niveau vers la version par défaut au moment du retrait.

Affichage des dates de mise hors service

Pour les modèles actuellement déployés, à partir d’Azure OpenAI Studio, sélectionnez Déploiements :

Capture d’écran de l’interface utilisateur de déploiement d’Azure OpenAI Studio.

Pour afficher les dates de mise hors service de tous les modèles disponibles dans une région donnée à partir d’Azure OpenAI Studio, sélectionnezModèles>Options de colonne>, puis Ajuster la dépréciation et Inférence de dépréciation :

Capture d’écran de l’interface utilisateur des modèles d’Azure OpenAI Studio.

Configuration de la mise à niveau du déploiement du modèle

Vous pouvez vérifier quelles options de mise à niveau de modèle sont définies pour les modèles précédemment déployés dans Azure OpenAI Studio. Sélectionnez Déploiements> Sous la colonne nom de déploiement, sélectionnez l'un des noms de déploiement mis en surbrillance en bleu.

Capture d’écran du volet des déploiements avec un nom de déploiement mis en surbrillance.

Sélectionner le nom d’un déploiement ouvre les Propriétés du modèle de déploiement. Vous pouvez afficher les options de mise à niveau définies pour votre déploiement sous Stratégie de mise à jour de version :

Capture d’écran de l’interface utilisateur de la propriété des modèles de déploiements.

La propriété correspondante est également accessible via REST, Azure PowerShell et Azure CLI.

Option Lire Mettre à jour
REST Oui. Si versionUpgradeOption n’est pas retourné, cela signifie qu’il est null Oui
Azure PowerShell Oui.VersionUpgradeOption peut être vérifié pour $null Oui
Azure CLI Oui. Il indique null si versionUpgradeOption n’est pas défini. Nombre Il n’est actuellement pas possible de mettre à jour l’option de mise à niveau de version.

Il existe trois options distinctes de mise à niveau du modèle de déploiement :

Nom Description
OnceNewDefaultVersionAvailable Une fois qu’une nouvelle version est désignée comme version par défaut, le modèle de déploiement est automatiquement mis à niveau vers la version par défaut dans les deux semaines suivant la modification de cette désignation.
OnceCurrentVersionExpired Une fois la date de mise hors service atteinte, le modèle de déploiement est automatiquement mis à niveau vers la version par défaut actuelle.
NoAutoUpgrade Le modèle de déploiement n’est jamais automatiquement mis à niveau. Une fois la date de mise hors service atteinte, le modèle de déploiement cesse de fonctionner. Vous devez mettre à jour votre code en référençant ce déploiement pour qu’il pointe vers un modèle de déploiement non expiré.

Remarque

null est équivalent à OnceCurrentVersionExpired. Si l'option Stratégie de mise à jour de version n'est pas présente dans les propriétés d'un modèle qui prend en charge les mises à niveau de modèle, c'est que la valeur actuelle est null. Une fois que vous modifiez explicitement cette valeur, la propriété est visible sur la page des propriétés du studio, ainsi que via l’API REST.

Exemples

Passez en revue le guide de prise en main d’Azure PowerShell pour installer Azure PowerShell localement ou vous pouvez utiliser Azure Cloud Shell.

Les étapes ci-dessous illustrent la vérification de la propriété d’option VersionUpgradeOption et sa mise à jour :

// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}
 
// Step 2: Show Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption
 
// VersionUpgradeOption can be null - one way to check is
$null -eq $deployment.Properties.VersionUpgradeOption
 
// Step 3: Update Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption = "NoAutoUpgrade"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku
 
// repeat step 1 and 2 to confirm the change.
// If not sure about deployment name, use this command to show all deployments under an account
Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName}

// To update to a new model version

// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}

// Step 2: Show Deployment Model properties
$deployment.Properties.Model.Version

// Step 3: Update Deployed Model Version
$deployment.Properties.Model.Version = "0613"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku

// repeat step 1 and 2 to confirm the change.

Mettre à jour et déployer des modèles via l’API

PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/deployments/{deploymentName}?api-version=2023-05-01

Paramètres de chemin d’accès

Paramètre Type Requis ? Description
acountname string Obligatoire Nom de votre ressource Azure OpenAI.
deploymentName string Obligatoire Nom de déploiement choisi lorsque vous avez déployé un modèle existant ou nom que vous souhaitez donner à un nouveau modèle de déploiement.
resourceGroupName string Obligatoire Nom du groupe de ressources associé pour ce modèle de déploiement.
subscriptionId string Obligatoire ID d’abonnement de l’abonnement associé.
api-version string Obligatoire Version de l’API à utiliser pour cette opération. Cela suit le format AAAA-MM-JJ.

Versions prises en charge

Corps de la demande

Il s’agit uniquement d’un sous-ensemble des paramètres disponibles du corps de la demande. Pour obtenir la liste complète des paramètres, consultez la documentation de référence sur l’API REST.

Paramètre Type Description
versionUpgradeOption String Options de mise à niveau d’une version du modèle de déploiement :
OnceNewDefaultVersionAvailable
OnceCurrentVersionExpired
NoAutoUpgrade
capacité entier Représente la part de quota que vous affectez à ce déploiement. Une valeur de 1 équivaut à 1 000 jetons par minute (TPM)

Exemple de requête

curl -X PUT https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo?api-version=2023-05-01 \
  -H "Content-Type: application/json" \
  -H 'Authorization: Bearer YOUR_AUTH_TOKEN' \
  -d '{"sku":{"name":"Standard","capacity":120},"properties": {"model": {"format": "OpenAI","name": "gpt-35-turbo","version": "0613"},"versionUpgradeOption":"OnceCurrentVersionExpired"}}'

Notes

Il existe plusieurs façons de générer un jeton d’autorisation. La méthode la plus simple pour le test initial consiste à lancer le service Cloud Shell à partir du Portail Azure. Exécutez ensuite az account get-access-token. Vous pouvez utiliser ce jeton comme jeton d’autorisation temporaire pour le test d’API.

Exemple de réponse

 {
  "id": "/subscriptions/{subscription-id}/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo",
  "type": "Microsoft.CognitiveServices/accounts/deployments",
  "name": "gpt-35-turbo",
  "sku": {
    "name": "Standard",
    "capacity": 120
  },
  "properties": {
    "model": {
      "format": "OpenAI",
      "name": "gpt-35-turbo",
      "version": "0613"
    },
    "versionUpgradeOption": "OnceCurrentVersionExpired",
    "capabilities": {
      "chatCompletion": "true"
    },
    "provisioningState": "Succeeded",
    "rateLimits": [
      {
        "key": "request",
        "renewalPeriod": 10,
        "count": 120
      },
      {
        "key": "token",
        "renewalPeriod": 60,
        "count": 120000
      }
    ]
  },
  "systemData": {
    "createdBy": "docs@contoso.com",
    "createdByType": "User",
    "createdAt": "2023-02-28T02:57:15.8951706Z",
    "lastModifiedBy": "docs@contoso.com",
    "lastModifiedByType": "User",
    "lastModifiedAt": "2023-10-31T15:35:53.082912Z"
  },
  "etag": "\"GUID\""
}

Étapes suivantes