az ml online-deployment

  • Référence

Remarque

Cette référence fait partie de l’extension ml pour Azure CLI (version 2.15.0 ou ultérieure). L’extension installe automatiquement la première fois que vous exécutez une commande az ml online-deployment . En savoir plus sur les extensions.

Gérer les déploiements en ligne Azure ML.

Les déploiements Azure ML fournissent une interface simple pour créer et gérer des déploiements de modèles.

Commandes

Nom Description Type Statut
az ml online-deployment create

Créez un déploiement. Si le déploiement existe déjà, il échoue. Si vous souhaitez mettre à jour le déploiement existant, utilisez az ml online-deployment update.

 Extension GA
az ml online-deployment delete

Supprime un déploiement.

 Extension GA
az ml online-deployment get-logs

Obtenez les journaux de conteneur pour un déploiement en ligne.

 Extension GA
az ml online-deployment list

Répertorie les déploiements.

 Extension GA
az ml online-deployment show

Afficher un déploiement.

 Extension GA
az ml online-deployment update

Mettez à jour un déploiement.

 Extension GA

az ml online-deployment create

Créez un déploiement. Si le déploiement existe déjà, il échoue. Si vous souhaitez mettre à jour le déploiement existant, utilisez az ml online-deployment update.

La référence SKU de calcul minimale recommandée est Standard_DS3_v2 pour les points de terminaison à usage général. En savoir plus sur les références SKU ici : https://learn.microsoft.com/en-us/azure/machine-learning/reference-managed-online-endpoints-vm-sku-list.

az ml online-deployment create --file
                               --resource-group
                               --workspace-name
                               [--all-traffic]
                               [--endpoint-name]
                               [--local {false, true}]
                               [--local-enable-gpu {false, true}]
                               [--name]
                               [--no-wait]
                               [--package-model]
                               [--set]
                               [--skip-script-validation]
                               [--vscode-debug {false, true}]
                               [--web]

Exemples

Créer un déploiement à partir d’un fichier de spécification YAML

az ml online-deployment create --file deployment.yaml --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--file -f

Chemin local du fichier YAML contenant la spécification de déploiement en ligne Azure ML. Les documents de référence YAML pour le déploiement en ligne sont disponibles à l’adresse : https://aka.ms/ml-cli-v2-deployment-managed-online-yaml-reference, https://aka.ms/ml-cli-v2-deployment-kubernetes-online-yaml-reference.

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut en utilisant az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

--all-traffic

Définit le trafic de point de terminaison 100 % sur ce déploiement après la création réussie, ne fonctionne pas avec --no-wait.

valeur par défaut: False
--endpoint-name -e

Nom du point de terminaison en ligne.

--local

Créez un déploiement localement à l’aide de Docker. Un seul déploiement par point de terminaison est autorisé. Remarque : Si le point de terminaison spécifié n’existe pas, il est créé.

valeurs acceptées: false, true
valeur par défaut: False
--local-enable-gpu

Activez le GPU pour le déploiement local.

valeurs acceptées: false, true
valeur par défaut: False
--name -n

Nom du déploiement.

--no-wait

Ne pas attendre la fin de l’opération de longue durée.

valeur par défaut: False
--package-model

[CECI EST EN PRÉVERSION] Créez un environnement empaqueté à partir du yaml de déploiement et utilisez l’environnement empaqueté pour le déploiement.

valeur par défaut: False
--set

Mettez à jour un objet en spécifiant un chemin d’accès et une valeur de propriété à définir. Exemple : --set property1.property2=.

--skip-script-validation

Permet à l’utilisateur de contourner la validation du script de scoring de déploiement.

valeur par défaut: False
--vscode-debug

Créez un point de terminaison local et attachez le débogueur VSCode. Fonctionne uniquement avec l’indicateur --local.

valeurs acceptées: false, true
valeur par défaut: False
--web

Affichez les détails du déploiement dans Azure ML Studio dans un navigateur web.

valeur par défaut: False
Paramètres globaux
--debug

Augmentez le niveau de détail de la journalisation pour afficher tous les journaux de débogage.

--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

--output -o

Format de sortie.

valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
valeur par défaut: json
--query

Chaîne de requêtes JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut en utilisant az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de détail de la journalisation. Utilisez --debug pour des journaux de débogage complets.

az ml online-deployment delete

Supprime un déploiement.

az ml online-deployment delete --endpoint-name
                               --name
                               --resource-group
                               --workspace-name
                               [--local {false, true}]
                               [--no-wait]
                               [--yes]

Exemples

Supprimer un déploiement avec confirmation

az ml online-deployment delete --name my-deployment --endpoint-name my-endpoint --yes --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--endpoint-name -e

Nom du point de terminaison en ligne.

--name -n

Nom du déploiement.

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut en utilisant az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

--local

Supprimez le déploiement local de l’environnement Docker.

valeurs acceptées: false, true
valeur par défaut: False
--no-wait

Ne pas attendre la fin de l’opération de longue durée.

valeur par défaut: False
--yes -y

Ne pas demander de confirmation.

valeur par défaut: False
Paramètres globaux
--debug

Augmentez le niveau de détail de la journalisation pour afficher tous les journaux de débogage.

--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

--output -o

Format de sortie.

valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
valeur par défaut: json
--query

Chaîne de requêtes JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut en utilisant az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de détail de la journalisation. Utilisez --debug pour des journaux de débogage complets.

az ml online-deployment get-logs

Obtenez les journaux de conteneur pour un déploiement en ligne.

az ml online-deployment get-logs --endpoint-name
                                 --name
                                 --resource-group
                                 --workspace-name
                                 [--container]
                                 [--lines]
                                 [--local {false, true}]

Exemples

Obtenir les journaux de conteneur pour un déploiement en ligne

az ml online-deployment get-logs --name my-deployment --endpoint-name my-endpoint --lines 100 --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--endpoint-name -e

Nom du point de terminaison en ligne.

--name -n

Nom du déploiement.

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut en utilisant az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

--container -c

Type de conteneur à partir duquel récupérer les journaux. Valeurs autorisées : inference-server, storage-initializer.

--lines -l

Nombre maximal de lignes à queue.

valeur par défaut: 5000
--local

Obtenez des journaux d’activité à partir du déploiement local dans l’environnement Docker.

valeurs acceptées: false, true
valeur par défaut: False
Paramètres globaux
--debug

Augmentez le niveau de détail de la journalisation pour afficher tous les journaux de débogage.

--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

--output -o

Format de sortie.

valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
valeur par défaut: json
--query

Chaîne de requêtes JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut en utilisant az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de détail de la journalisation. Utilisez --debug pour des journaux de débogage complets.

az ml online-deployment list

Répertorie les déploiements.

az ml online-deployment list --endpoint-name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]

Exemples

Répertorier le déploiement dans un point de terminaison

az ml online-deployment list --endpoint-name my-endpoint --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--endpoint-name -e

Nom du point de terminaison,

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut en utilisant az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

--local

Répertoriez le déploiement local sous ce point de terminaison local.

valeurs acceptées: false, true
valeur par défaut: False
Paramètres globaux
--debug

Augmentez le niveau de détail de la journalisation pour afficher tous les journaux de débogage.

--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

--output -o

Format de sortie.

valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
valeur par défaut: json
--query

Chaîne de requêtes JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut en utilisant az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de détail de la journalisation. Utilisez --debug pour des journaux de débogage complets.

az ml online-deployment show

Afficher un déploiement.

az ml online-deployment show --endpoint-name
                             --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--web]

Exemples

Afficher un déploiement

az ml online-deployment show --name my-deployment --endpoint-name my-endpoint --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--endpoint-name -e

Nom du point de terminaison en ligne.

--name -n

Nom du déploiement.

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut en utilisant az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

--local

Afficher le déploiement local à partir de l’environnement Docker.

valeurs acceptées: false, true
valeur par défaut: False
--web

Affichez les détails du déploiement dans Azure ML Studio dans un navigateur web.

valeur par défaut: False
Paramètres globaux
--debug

Augmentez le niveau de détail de la journalisation pour afficher tous les journaux de débogage.

--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

--output -o

Format de sortie.

valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
valeur par défaut: json
--query

Chaîne de requêtes JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut en utilisant az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de détail de la journalisation. Utilisez --debug pour des journaux de débogage complets.

az ml online-deployment update

Mettez à jour un déploiement.

az ml online-deployment update --resource-group
                               --workspace-name
                               [--add]
                               [--endpoint-name]
                               [--file]
                               [--force-string]
                               [--local {false, true}]
                               [--local-enable-gpu {false, true}]
                               [--name]
                               [--no-wait]
                               [--remove]
                               [--set]
                               [--skip-script-validation]
                               [--vscode-debug {false, true}]
                               [--web]

Exemples

Mettre à jour un déploiement à partir d’un fichier de spécification YAML

az ml online-deployment update --file deployment.yaml --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut en utilisant az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

--add

Ajoutez un objet à une liste d’objets en spécifiant un chemin d’accès et des paires clé-valeur. Exemple : --add property.listProperty <key=value, string or JSON string>.

valeur par défaut: []
--endpoint-name -e

Nom du point de terminaison en ligne.

--file -f

Chemin local du fichier YAML contenant la spécification de déploiement en ligne Azure ML. Les documents de référence YAML pour le déploiement en ligne sont disponibles à l’adresse : https://aka.ms/ml-cli-v2-deployment-managed-online-yaml-reference, https://aka.ms/ml-cli-v2-deployment-kubernetes-online-yaml-reference.

--force-string

Lorsque vous utilisez « set » ou « add », conservez les littéraux de chaîne au lieu de tenter de convertir en JSON.

valeur par défaut: False
--local

Mettez à jour le déploiement local dans l’environnement Docker.

valeurs acceptées: false, true
valeur par défaut: False
--local-enable-gpu

Activez le GPU pour le déploiement local.

valeurs acceptées: false, true
valeur par défaut: False
--name -n

Nom du déploiement.

--no-wait

Ne pas attendre la fin de l’opération de longue durée.

valeur par défaut: False
--remove

Supprimez une propriété ou un élément d’une liste. Exemple : --remove property.list <indexToRemove> OR --remove propertyToRemove.

valeur par défaut: []
--set

Mettez à jour un objet en spécifiant un chemin d’accès et une valeur de propriété à définir. Exemple : --set property1.property2=<value>.

valeur par défaut: []
--skip-script-validation

Permet à l’utilisateur de contourner la validation du script de scoring de déploiement.

valeur par défaut: False
--vscode-debug

Mettez à jour le point de terminaison local et attachez à nouveau le débogueur VSCode. Fonctionne uniquement avec l’indicateur --local.

valeurs acceptées: false, true
valeur par défaut: False
--web

Affichez les détails du déploiement dans Azure ML Studio dans un navigateur web.

valeur par défaut: False
Paramètres globaux
--debug

Augmentez le niveau de détail de la journalisation pour afficher tous les journaux de débogage.

--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

--output -o

Format de sortie.

valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
valeur par défaut: json
--query

Chaîne de requêtes JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut en utilisant az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de détail de la journalisation. Utilisez --debug pour des journaux de débogage complets.