az ml online-deployment

Nota

Questo riferimento fa parte dell'estensione ml per l'interfaccia della riga di comando di Azure (versione 2.15.0 o successiva). L'estensione installerà automaticamente la prima volta che si esegue un comando az ml online-deployment . Altre informazioni sulle estensioni.

Gestire le distribuzioni online di Azure ML.

Le distribuzioni di Azure ML offrono un'interfaccia semplice per la creazione e la gestione delle distribuzioni di modelli.

Comandi

Nome	Descrizione	Tipo	Stato
az ml online-deployment create	Creare una distribuzione. Se la distribuzione esiste già, avrà esito negativo. Se si vuole aggiornare la distribuzione esistente, usare az ml online-deployment update.	Estensione	Disponibilità generale
az ml online-deployment delete	Eliminare una distribuzione.	Estensione	Disponibilità generale
az ml online-deployment get-logs	Ottenere i log dei contenitori per una distribuzione online.	Estensione	Disponibilità generale
az ml online-deployment list	Elencare le distribuzioni.	Estensione	Disponibilità generale
az ml online-deployment show	Visualizzare una distribuzione.	Estensione	Disponibilità generale
az ml online-deployment update	Aggiornare una distribuzione.	Estensione	Disponibilità generale

az ml online-deployment create

Creare una distribuzione. Se la distribuzione esiste già, avrà esito negativo. Se si vuole aggiornare la distribuzione esistente, usare az ml online-deployment update.

Lo SKU di calcolo minimo consigliato è Standard_DS3_v2 per gli endpoint per utilizzo generico. Altre informazioni sugli SKU sono disponibili qui: https://learn.microsoft.com/en-us/azure/machine-learning/reference-managed-online-endpoints-vm-sku-list.

az ml online-deployment create --file
                               --resource-group
                               --workspace-name
                               [--all-traffic]
                               [--endpoint-name]
                               [--local {false, true}]
                               [--local-enable-gpu {false, true}]
                               [--name]
                               [--no-wait]
                               [--package-model]
                               [--set]
                               [--skip-script-validation]
                               [--vscode-debug {false, true}]
                               [--web]

Esempio

Creare una distribuzione da un file di specifica YAML

az ml online-deployment create --file deployment.yaml --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--file -f

Percorso locale del file YAML contenente la specifica di distribuzione online di Azure ML. La documentazione di riferimento YAML per la distribuzione online è disponibile in: https://aka.ms/ml-cli-v2-deployment-managed-online-yaml-reference, https://aka.ms/ml-cli-v2-deployment-kubernetes-online-yaml-reference.

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito con az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

--all-traffic

Imposta il traffico dell'endpoint al 100% su questa distribuzione dopo la corretta creazione, non funziona con --no-wait.

valore predefinito: False

--endpoint-name -e

Nome dell'endpoint online.

--local

Creare la distribuzione in locale usando Docker. È consentita una sola distribuzione per endpoint. Nota: se l'endpoint specificato non esiste, verrà creato.

valori accettati: false, true

valore predefinito: False

--local-enable-gpu

Abilitare LA GPU per la distribuzione locale.

valori accettati: false, true

valore predefinito: False

--name -n

Nome della distribuzione.

--no-wait

Indica che non è necessario attendere il termine dell'operazione a esecuzione prolungata.

valore predefinito: False

--package-model

[QUESTA È IN ANTEPRIMA] Creare un ambiente in pacchetto dal file yaml di distribuzione e usare l'ambiente in pacchetto per la distribuzione.

valore predefinito: False

--set

Aggiornare un oggetto specificando un percorso di proprietà e un valore da impostare. Esempio: --set property1.property2=.

--skip-script-validation

Consente all'utente di ignorare la convalida dello script di assegnazione dei punteggi della distribuzione.

valore predefinito: False

--vscode-debug

Creare un endpoint locale e collegare il debugger VSCode. Funziona solo con il flag --local.

valori accettati: false, true

valore predefinito: False

--web

Visualizzare i dettagli della distribuzione in Azure ML Studio in un Web browser.

valore predefinito: False

Parametri globali

--debug

Aumenta il livello di dettaglio della registrazione per mostrare tutti i log di debug.

--help -h

Visualizza questo messaggio della guida ed esce.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

--output -o

Formato di output.

valori accettati: json, jsonc, none, table, tsv, yaml, yamlc

valore predefinito: json

--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la sottoscrizione predefinita usando az account set -s NAME_OR_ID.

--verbose

Aumenta il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

az ml online-deployment delete

Eliminare una distribuzione.

az ml online-deployment delete --endpoint-name
                               --name
                               --resource-group
                               --workspace-name
                               [--local {false, true}]
                               [--no-wait]
                               [--yes]

Esempio

Eliminare una distribuzione con conferma

az ml online-deployment delete --name my-deployment --endpoint-name my-endpoint --yes --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--endpoint-name -e

Nome dell'endpoint online.

--name -n

Nome della distribuzione.

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito con az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

--local

Eliminare la distribuzione locale dall'ambiente Docker.

valori accettati: false, true

valore predefinito: False

--no-wait

Indica che non è necessario attendere il termine dell'operazione a esecuzione prolungata.

valore predefinito: False

--yes -y

Indica che non è richiesta la conferma.

valore predefinito: False

Parametri globali

--debug

Aumenta il livello di dettaglio della registrazione per mostrare tutti i log di debug.

--help -h

Visualizza questo messaggio della guida ed esce.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

--output -o

Formato di output.

valori accettati: json, jsonc, none, table, tsv, yaml, yamlc

valore predefinito: json

--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la sottoscrizione predefinita usando az account set -s NAME_OR_ID.

--verbose

Aumenta il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

az ml online-deployment get-logs

Ottenere i log dei contenitori per una distribuzione online.

az ml online-deployment get-logs --endpoint-name
                                 --name
                                 --resource-group
                                 --workspace-name
                                 [--container]
                                 [--lines]
                                 [--local {false, true}]

Esempio

Ottenere i log dei contenitori per una distribuzione online

az ml online-deployment get-logs --name my-deployment --endpoint-name my-endpoint --lines 100 --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--endpoint-name -e

Nome dell'endpoint online.

--name -n

Nome della distribuzione.

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito con az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

--container -c

Tipo di contenitore da cui recuperare i log. Valori consentiti: inference-server, storage-initializer.

--lines -l

Numero massimo di linee a coda.

valore predefinito: 5000

--local

Ottenere i log dalla distribuzione locale nell'ambiente Docker.

valori accettati: false, true

valore predefinito: False

Parametri globali

--debug

Aumenta il livello di dettaglio della registrazione per mostrare tutti i log di debug.

--help -h

Visualizza questo messaggio della guida ed esce.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

--output -o

Formato di output.

valori accettati: json, jsonc, none, table, tsv, yaml, yamlc

valore predefinito: json

--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la sottoscrizione predefinita usando az account set -s NAME_OR_ID.

--verbose

Aumenta il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

az ml online-deployment list

Elencare le distribuzioni.

az ml online-deployment list --endpoint-name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]

Esempio

Elencare la distribuzione in un endpoint

az ml online-deployment list --endpoint-name my-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--endpoint-name -e

Nome dell'endpoint.

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito con az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

--local

Elencare la distribuzione locale in questo endpoint locale.

valori accettati: false, true

valore predefinito: False

Parametri globali

--debug

Aumenta il livello di dettaglio della registrazione per mostrare tutti i log di debug.

--help -h

Visualizza questo messaggio della guida ed esce.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

--output -o

Formato di output.

valori accettati: json, jsonc, none, table, tsv, yaml, yamlc

valore predefinito: json

--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la sottoscrizione predefinita usando az account set -s NAME_OR_ID.

--verbose

Aumenta il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

az ml online-deployment show

Visualizzare una distribuzione.

az ml online-deployment show --endpoint-name
                             --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--web]

Esempio

Visualizzare una distribuzione

az ml online-deployment show --name my-deployment --endpoint-name my-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--endpoint-name -e

Nome dell'endpoint online.

--name -n

Nome della distribuzione.

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito con az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

--local

Visualizzare la distribuzione locale dall'ambiente Docker.

valori accettati: false, true

valore predefinito: False

--web

Visualizzare i dettagli della distribuzione in Azure ML Studio in un Web browser.

valore predefinito: False

Parametri globali

--debug

Aumenta il livello di dettaglio della registrazione per mostrare tutti i log di debug.

--help -h

Visualizza questo messaggio della guida ed esce.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

--output -o

Formato di output.

valori accettati: json, jsonc, none, table, tsv, yaml, yamlc

valore predefinito: json

--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la sottoscrizione predefinita usando az account set -s NAME_OR_ID.

--verbose

Aumenta il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

az ml online-deployment update

Aggiornare una distribuzione.

az ml online-deployment update --resource-group
                               --workspace-name
                               [--add]
                               [--endpoint-name]
                               [--file]
                               [--force-string]
                               [--local {false, true}]
                               [--local-enable-gpu {false, true}]
                               [--name]
                               [--no-wait]
                               [--remove]
                               [--set]
                               [--skip-script-validation]
                               [--vscode-debug {false, true}]
                               [--web]

Esempio

Aggiornare una distribuzione da un file di specifica YAML

az ml online-deployment update --file deployment.yaml --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito con az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

--add

Aggiungere un oggetto a un elenco di oggetti specificando un percorso e coppie chiave-valore. Esempio: --add property.listProperty <key=value, string or JSON string>.

valore predefinito: []

--endpoint-name -e

Nome dell'endpoint online.

--file -f

Percorso locale del file YAML contenente la specifica di distribuzione online di Azure ML. La documentazione di riferimento YAML per la distribuzione online è disponibile in: https://aka.ms/ml-cli-v2-deployment-managed-online-yaml-reference, https://aka.ms/ml-cli-v2-deployment-kubernetes-online-yaml-reference.

--force-string

Quando si usa 'set' o 'add', mantenere i valori letterali stringa anziché tentare di eseguire la conversione in JSON.

valore predefinito: False

--local

Aggiornare la distribuzione locale nell'ambiente Docker.

valori accettati: false, true

valore predefinito: False

--local-enable-gpu

Abilitare LA GPU per la distribuzione locale.

valori accettati: false, true

valore predefinito: False

--name -n

Nome della distribuzione.

--no-wait

Indica che non è necessario attendere il termine dell'operazione a esecuzione prolungata.

valore predefinito: False

--remove

Rimuovere una proprietà o un elemento da un elenco. Esempio: --remove property.list <indexToRemove> OR --remove propertyToRemove.

valore predefinito: []

--set

Aggiornare un oggetto specificando un percorso di proprietà e un valore da impostare. Esempio: --set property1.property2=<value>.

valore predefinito: []

--skip-script-validation

Consente all'utente di ignorare la convalida dello script di assegnazione dei punteggi della distribuzione.

valore predefinito: False

--vscode-debug

Aggiornare l'endpoint locale e ricollegare il debugger VSCode. Funziona solo con il flag --local.

valori accettati: false, true

valore predefinito: False

--web

Visualizzare i dettagli della distribuzione in Azure ML Studio in un Web browser.

valore predefinito: False

Parametri globali

--debug

Aumenta il livello di dettaglio della registrazione per mostrare tutti i log di debug.

--help -h

Visualizza questo messaggio della guida ed esce.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

--output -o

Formato di output.

valori accettati: json, jsonc, none, table, tsv, yaml, yamlc

valore predefinito: json

--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la sottoscrizione predefinita usando az account set -s NAME_OR_ID.

--verbose

Aumenta il livello di dettaglio della registrazione. Usare --debug per log di debug completi.