Travailler avec des modèles Azure OpenAI
Azure OpenAI Service est fourni avec par un ensemble diversifié de modèles proposant des fonctionnalités variées et des prix différents. La disponibilité des modèles varie selon les régions.
Vous pouvez obtenir la liste des modèles disponibles pour l’inférence et l’optimisation par votre ressource Azure OpenAI en utilisant l’API Liste de modèles.
Mises à jour de modèle
Azure OpenAI prend désormais en charge les mises à jour automatiques pour certains modèles de déploiement. Sur les modèles où la prise en charge des mises à jour automatiques est disponible, une liste déroulante de versions de modèle est visible dans Azure AI Studio sous Déploiements et Modifier :
Vous pouvez en savoir plus sur les versions du modèle Azure OpenAI et leur fonctionnement dans l’article sur les versions du modèle Azure OpenAI.
Mise à jour automatique vers la valeur par défaut
Lorsque vous définissez votre déploiement sur Mise à jour automatique vers la valeur par défaut, votre modèle de déploiement est automatiquement mis à jour dans les deux semaines suivant une modification de la version par défaut. Dans le cas d’une version préliminaire, la mise à jour se fait automatiquement lorsqu’une nouvelle version préliminaire est disponible, deux semaines après la publication de la nouvelle version préliminaire.
Si vous en êtes encore aux premières phases de test des modèles d'inférence, nous vous recommandons de déployer des modèles avec une mise à jour automatique par défaut dès qu'elle est disponible.
Version de modèle spécifique
À mesure que votre utilisation d’Azure OpenAI évolue et que vous commencez à créer et à intégrer des applications, vous pouvez vouloir contrôler manuellement les mises à jour du modèle. Vous pouvez d’abord tester et valider que le comportement de votre application est cohérent pour votre cas d’usage avant d’effectuer la mise à niveau.
Lorsque vous sélectionnez une version de modèle spécifique à un déploiement, elle reste celle qui est sélectionnée jusqu’à ce que vous choisissiez d’effectuer vous-même une mise à jour manuelle ou une fois la date de mise hors service du modèle atteinte. Lorsque la date de retrait est atteinte, le modèle sera automatiquement mis à niveau vers la version par défaut au moment du retrait.
Affichage des dates de mise hors service
Pour les modèles actuellement déployés, dans Azure AI Studio, sélectionnez Déploiements :
Configuration de la mise à niveau du déploiement du modèle
Vous pouvez vérifier quelles options de mise à niveau de modèle sont définies pour les modèles précédemment déployés dans Azure AI Studio. Sélectionnez Déploiements> Sous la colonne nom de déploiement, sélectionnez l'un des noms de déploiement mis en surbrillance en bleu.
Sélectionner le nom d’un déploiement ouvre les Propriétés du modèle de déploiement. Vous pouvez afficher les options de mise à niveau définies pour votre déploiement sous Stratégie de mise à jour de version :
La propriété correspondante est également accessible via REST, Azure PowerShell et Azure CLI.
| Option | Lire | Mettre à jour |
|---|---|---|
| REST | Oui. Si versionUpgradeOption n’est pas retourné, cela signifie qu’il est null |
Oui |
| Azure PowerShell | Oui.VersionUpgradeOption peut être vérifié pour $null |
Oui |
| Azure CLI | Oui. Il indique null si versionUpgradeOption n’est pas défini. |
Nombre Il n’est actuellement pas possible de mettre à jour l’option de mise à niveau de version. |
Il existe trois options distinctes de mise à niveau du modèle de déploiement :
| Nom | Description |
|---|---|
OnceNewDefaultVersionAvailable |
Une fois qu’une nouvelle version est désignée comme version par défaut, le modèle de déploiement est automatiquement mis à niveau vers la version par défaut dans les deux semaines suivant la modification de cette désignation. |
OnceCurrentVersionExpired |
Une fois la date de mise hors service atteinte, le modèle de déploiement est automatiquement mis à niveau vers la version par défaut actuelle. |
NoAutoUpgrade |
Le modèle de déploiement n’est jamais automatiquement mis à niveau. Une fois la date de mise hors service atteinte, le modèle de déploiement cesse de fonctionner. Vous devez mettre à jour votre code en référençant ce déploiement pour qu’il pointe vers un modèle de déploiement non expiré. |
Remarque
null est équivalent à OnceCurrentVersionExpired. Si l'option Stratégie de mise à jour de version n'est pas présente dans les propriétés d'un modèle qui prend en charge les mises à niveau de modèle, c'est que la valeur actuelle est null. Une fois que vous modifiez explicitement cette valeur, la propriété est visible sur la page des propriétés du studio, ainsi que via l’API REST.
Exemples
Passez en revue le guide de prise en main d’Azure PowerShell pour installer Azure PowerShell localement ou vous pouvez utiliser Azure Cloud Shell.
Les étapes ci-dessous illustrent la vérification de la propriété d’option VersionUpgradeOption et sa mise à jour :
// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}
// Step 2: Show Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption
// VersionUpgradeOption can be null - one way to check is
$null -eq $deployment.Properties.VersionUpgradeOption
// Step 3: Update Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption = "NoAutoUpgrade"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku
// repeat step 1 and 2 to confirm the change.
// If not sure about deployment name, use this command to show all deployments under an account
Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName}
// To update to a new model version
// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}
// Step 2: Show Deployment Model properties
$deployment.Properties.Model.Version
// Step 3: Update Deployed Model Version
$deployment.Properties.Model.Version = "0613"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku
// repeat step 1 and 2 to confirm the change.
Mettre à jour et déployer des modèles via l’API
PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/deployments/{deploymentName}?api-version=2023-05-01
Paramètres de chemin d’accès
| Paramètre | Type | Requis ? | Description |
|---|---|---|---|
acountname |
string | Obligatoire | Nom de votre ressource Azure OpenAI. |
deploymentName |
string | Obligatoire | Nom de déploiement choisi lorsque vous avez déployé un modèle existant ou nom que vous souhaitez donner à un nouveau modèle de déploiement. |
resourceGroupName |
string | Obligatoire | Nom du groupe de ressources associé pour ce modèle de déploiement. |
subscriptionId |
string | Obligatoire | ID d’abonnement de l’abonnement associé. |
api-version |
string | Obligatoire | Version de l’API à utiliser pour cette opération. Cela suit le format AAAA-MM-JJ. |
Versions prises en charge
2023-05-01Spécification Swagger
Corps de la demande
Il s’agit uniquement d’un sous-ensemble des paramètres disponibles du corps de la demande. Pour obtenir la liste complète des paramètres, consultez la documentation de référence sur l’API REST.
| Paramètre | Type | Description |
|---|---|---|
| versionUpgradeOption | String | Options de mise à niveau d’une version du modèle de déploiement :OnceNewDefaultVersionAvailableOnceCurrentVersionExpiredNoAutoUpgrade |
| capacité | entier | Représente la part de quota que vous affectez à ce déploiement. Une valeur de 1 équivaut à 1 000 jetons par minute (TPM) |
Exemple de requête
curl -X PUT https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo?api-version=2023-05-01 \
-H "Content-Type: application/json" \
-H 'Authorization: Bearer YOUR_AUTH_TOKEN' \
-d '{"sku":{"name":"Standard","capacity":120},"properties": {"model": {"format": "OpenAI","name": "gpt-35-turbo","version": "0613"},"versionUpgradeOption":"OnceCurrentVersionExpired"}}'
Notes
Il existe plusieurs façons de générer un jeton d’autorisation. La méthode la plus simple pour le test initial consiste à lancer le service Cloud Shell à partir du Portail Azure. Exécutez ensuite az account get-access-token. Vous pouvez utiliser ce jeton comme jeton d’autorisation temporaire pour le test d’API.
Exemple de réponse
{
"id": "/subscriptions/{subscription-id}/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo",
"type": "Microsoft.CognitiveServices/accounts/deployments",
"name": "gpt-35-turbo",
"sku": {
"name": "Standard",
"capacity": 120
},
"properties": {
"model": {
"format": "OpenAI",
"name": "gpt-35-turbo",
"version": "0613"
},
"versionUpgradeOption": "OnceCurrentVersionExpired",
"capabilities": {
"chatCompletion": "true"
},
"provisioningState": "Succeeded",
"rateLimits": [
{
"key": "request",
"renewalPeriod": 10,
"count": 120
},
{
"key": "token",
"renewalPeriod": 60,
"count": 120000
}
]
},
"systemData": {
"createdBy": "docs@contoso.com",
"createdByType": "User",
"createdAt": "2023-02-28T02:57:15.8951706Z",
"lastModifiedBy": "docs@contoso.com",
"lastModifiedByType": "User",
"lastModifiedAt": "2023-10-31T15:35:53.082912Z"
},
"etag": "\"GUID\""
}