az ml online-deployment

  • Referência

Observação

Essa referência faz parte da extensão ml para a CLI do Azure (versão 2.15.0 ou superior). A extensão será instalada automaticamente na primeira vez que você executar um comando az ml online-deployment . Saiba mais sobre extensões.

Gerenciar implantações online do Azure ML.

As implantações de ML do Azure fornecem uma interface simples para criar e gerenciar implantações de modelo.

Comandos

Nome Description Tipo Status
az ml online-deployment create

Crie uma implantação. Se a implantação já existir, ela falhará. Se você quiser atualizar a implantação existente, use az ml online-deployment update.

 Extensão GA
az ml online-deployment delete

Excluir uma implantação.

 Extensão GA
az ml online-deployment get-logs

Obtenha os logs de contêiner para uma implantação online.

 Extensão GA
az ml online-deployment list

Listar as implantações.

 Extensão GA
az ml online-deployment show

Mostrar uma implantação.

 Extensão GA
az ml online-deployment update

Atualizar uma implantação.

 Extensão GA

az ml online-deployment create

Crie uma implantação. Se a implantação já existir, ela falhará. Se você quiser atualizar a implantação existente, use az ml online-deployment update.

A SKU de computação mínima recomendada é Standard_DS3_v2 para pontos de extremidade de uso geral. Saiba mais sobre SKUs aqui: https://learn.microsoft.com/en-us/azure/machine-learning/reference-managed-online-endpoints-vm-sku-list.

az ml online-deployment create --file
                               --resource-group
                               --workspace-name
                               [--all-traffic]
                               [--endpoint-name]
                               [--local {false, true}]
                               [--local-enable-gpu {false, true}]
                               [--name]
                               [--no-wait]
                               [--package-model]
                               [--set]
                               [--skip-script-validation]
                               [--vscode-debug {false, true}]
                               [--web]

Exemplos

Criar uma implantação a partir de um arquivo de especificação YAML

az ml online-deployment create --file deployment.yaml --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--file -f

Caminho local para o arquivo YAML que contém a especificação de implantação online do Azure ML. Os documentos de referência do YAML para implantação on-line podem ser encontrados em: https://aka.ms/ml-cli-v2-deployment-managed-online-yaml-reference, https://aka.ms/ml-cli-v2-deployment-kubernetes-online-yaml-reference.

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros Opcionais

--all-traffic

Define o tráfego de ponto de extremidade 100% para esta implantação após a criação bem-sucedida, não funciona com --no-wait.

valor padrão: False
--endpoint-name -e

Nome do ponto de extremidade online.

--local

Crie a implantação localmente usando o Docker. Apenas uma implantação por ponto de extremidade é permitida. Nota: Se o ponto de extremidade especificado não existir, ele será criado.

valores aceitos: false, true
valor padrão: False
--local-enable-gpu

Habilite a GPU para implantação local.

valores aceitos: false, true
valor padrão: False
--name -n

Nome da implantação.

--no-wait

Não aguarde a conclusão da operação de execução longa.

valor padrão: False
--package-model

[ISTO ESTÁ EM PRÉ-VISUALIZAÇÃO] Crie um ambiente empacotado a partir do yaml de implantação e use o ambiente empacotado para a implantação.

valor padrão: False
--set

Atualize um objeto especificando um caminho de propriedade e um valor a serem definidos. Exemplo: --set property1.property2=.

--skip-script-validation

Permite que o usuário ignore a validação do script de pontuação de implantação.

valor padrão: False
--vscode-debug

Crie um ponto de extremidade local e anexe o depurador VSCode. Só funciona com --bandeira local.

valores aceitos: false, true
valor padrão: False
--web

Mostrar os detalhes da implantação no estúdio do Azure ML em um navegador da Web.

valor padrão: False
Parâmetros Globais
--debug

Aumente o detalhamento do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar o detalhamento do log. Use --debug para logs de depuração completos.

az ml online-deployment delete

Excluir uma implantação.

az ml online-deployment delete --endpoint-name
                               --name
                               --resource-group
                               --workspace-name
                               [--local {false, true}]
                               [--no-wait]
                               [--yes]

Exemplos

Excluir uma implantação com confirmação

az ml online-deployment delete --name my-deployment --endpoint-name my-endpoint --yes --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--endpoint-name -e

Nome do ponto de extremidade online.

--name -n

Nome da implantação.

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros Opcionais

--local

Exclua a implantação local do ambiente do Docker.

valores aceitos: false, true
valor padrão: False
--no-wait

Não aguarde a conclusão da operação de execução longa.

valor padrão: False
--yes -y

Não solicite confirmação.

valor padrão: False
Parâmetros Globais
--debug

Aumente o detalhamento do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar o detalhamento do log. Use --debug para logs de depuração completos.

az ml online-deployment get-logs

Obtenha os logs de contêiner para uma implantação online.

az ml online-deployment get-logs --endpoint-name
                                 --name
                                 --resource-group
                                 --workspace-name
                                 [--container]
                                 [--lines]
                                 [--local {false, true}]

Exemplos

Obter os logs de contêiner para uma implantação on-line

az ml online-deployment get-logs --name my-deployment --endpoint-name my-endpoint --lines 100 --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--endpoint-name -e

Nome do ponto de extremidade online.

--name -n

Nome da implantação.

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros Opcionais

--container -c

O tipo de contêiner do qual recuperar logs. Valores permitidos: inference-server, storage-initializer.

--lines -l

O número máximo de linhas para a cauda.

valor padrão: 5000
--local

Obtenha logs da implantação local no ambiente do Docker.

valores aceitos: false, true
valor padrão: False
Parâmetros Globais
--debug

Aumente o detalhamento do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar o detalhamento do log. Use --debug para logs de depuração completos.

az ml online-deployment list

Listar as implantações.

az ml online-deployment list --endpoint-name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]

Exemplos

Implantação de lista em um ponto de extremidade

az ml online-deployment list --endpoint-name my-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--endpoint-name -e

Nome do ponto de extremidade.

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros Opcionais

--local

Liste a implantação local nesse ponto de extremidade local.

valores aceitos: false, true
valor padrão: False
Parâmetros Globais
--debug

Aumente o detalhamento do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar o detalhamento do log. Use --debug para logs de depuração completos.

az ml online-deployment show

Mostrar uma implantação.

az ml online-deployment show --endpoint-name
                             --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--web]

Exemplos

Mostrar uma implantação

az ml online-deployment show --name my-deployment --endpoint-name my-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--endpoint-name -e

Nome do ponto de extremidade online.

--name -n

Nome da implantação.

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros Opcionais

--local

Mostrar a implantação local do ambiente do Docker.

valores aceitos: false, true
valor padrão: False
--web

Mostrar os detalhes da implantação no estúdio do Azure ML em um navegador da Web.

valor padrão: False
Parâmetros Globais
--debug

Aumente o detalhamento do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar o detalhamento do log. Use --debug para logs de depuração completos.

az ml online-deployment update

Atualizar uma implantação.

az ml online-deployment update --resource-group
                               --workspace-name
                               [--add]
                               [--endpoint-name]
                               [--file]
                               [--force-string]
                               [--local {false, true}]
                               [--local-enable-gpu {false, true}]
                               [--name]
                               [--no-wait]
                               [--remove]
                               [--set]
                               [--skip-script-validation]
                               [--vscode-debug {false, true}]
                               [--web]

Exemplos

Atualizar uma implantação a partir de um arquivo de especificação YAML

az ml online-deployment update --file deployment.yaml --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros Opcionais

--add

Adicione um objeto a uma lista de objetos especificando um caminho e pares de valores de chave. Exemplo: --add property.listProperty <key=value, string or JSON string>.

valor padrão: []
--endpoint-name -e

Nome do ponto de extremidade online.

--file -f

Caminho local para o arquivo YAML que contém a especificação de implantação online do Azure ML. Os documentos de referência do YAML para implantação on-line podem ser encontrados em: https://aka.ms/ml-cli-v2-deployment-managed-online-yaml-reference, https://aka.ms/ml-cli-v2-deployment-kubernetes-online-yaml-reference.

--force-string

Ao usar 'set' ou 'add', preserve literais de cadeia de caracteres em vez de tentar converter para JSON.

valor padrão: False
--local

Atualize a implantação local no ambiente do Docker.

valores aceitos: false, true
valor padrão: False
--local-enable-gpu

Habilite a GPU para implantação local.

valores aceitos: false, true
valor padrão: False
--name -n

Nome da implantação.

--no-wait

Não aguarde a conclusão da operação de execução longa.

valor padrão: False
--remove

Remova uma propriedade ou um elemento de uma lista. Exemplo: --remove property.list <indexToRemove> OU --remove propertyToRemove.

valor padrão: []
--set

Atualize um objeto especificando um caminho de propriedade e um valor a serem definidos. Exemplo: --set property1.property2=<value>.

valor padrão: []
--skip-script-validation

Permite que o usuário ignore a validação do script de pontuação de implantação.

valor padrão: False
--vscode-debug

Atualize o ponto de extremidade local e anexe novamente o depurador VSCode. Só funciona com --bandeira local.

valores aceitos: false, true
valor padrão: False
--web

Mostrar os detalhes da implantação no estúdio do Azure ML em um navegador da Web.

valor padrão: False
Parâmetros Globais
--debug

Aumente o detalhamento do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar o detalhamento do log. Use --debug para logs de depuração completos.