Compartilhar via

az ml batch-endpoint

  • Referência

Observação

Essa referência faz parte da extensão ml para a CLI do Azure (versão 2.15.0 ou superior). A extensão será instalada automaticamente na primeira vez que você executar um comando az ml batch-endpoint . Saiba mais sobre extensões.

Gerenciar pontos de extremidade em lote do Azure ML.

Os pontos de extremidade do Azure ML fornecem uma interface simples para criar e gerenciar implantações de modelo. Cada ponto de extremidade pode ter uma ou mais implantações. Os pontos de extremidade de lote são usados para pontuação de lote offline.

Comandos

Nome Description Tipo Status
az ml batch-endpoint create

Crie um ponto de extremidade.

 Extensão GA
az ml batch-endpoint delete

Excluir um ponto de extremidade.

 Extensão GA
az ml batch-endpoint invoke

Invoque um ponto de extremidade.

 Extensão GA
az ml batch-endpoint list

Listar pontos de extremidade em um espaço de trabalho.

 Extensão GA
az ml batch-endpoint list-jobs

Liste os trabalhos de pontuação em lote para um ponto de extremidade em lote.

 Extensão GA
az ml batch-endpoint show

Mostrar detalhes de um ponto de extremidade.

 Extensão GA
az ml batch-endpoint update

Atualizar um ponto de extremidade.

 Extensão GA

az ml batch-endpoint create

Crie um ponto de extremidade.

Para criar um ponto de extremidade, forneça um arquivo YAML com uma configuração de ponto de extremidade em lote. Se o ponto de extremidade já existir, ele será substituído pelas novas configurações.

az ml batch-endpoint create --resource-group
                            --workspace-name
                            [--file]
                            [--name]
                            [--no-wait]
                            [--set]

Exemplos

Criar um ponto de extremidade a partir de um arquivo de especificação YAML

az ml batch-endpoint create --file endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Criar um ponto de extremidade com nome

az ml batch-endpoint create --name endpointname --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros Opcionais

--file -f

Caminho local para o arquivo YAML que contém a especificação de ponto de extremidade em lote do Azure ML. Os documentos de referência do YAML para ponto de extremidade em lote podem ser encontrados em: https://aka.ms/ml-cli-v2-endpoint-batch-yaml-reference.

--name -n

Nome do ponto de extremidade do lote.

--no-wait

Não espere que a operação de longa duração termine. O padrão é Falso.

valor padrão: False
--set

Atualize um objeto especificando um caminho de propriedade e um valor a serem definidos. Exemplo: --set property1.property2=.

Parâmetros Globais
--debug

Aumente o detalhamento do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar o detalhamento do log. Use --debug para logs de depuração completos.

az ml batch-endpoint delete

Excluir um ponto de extremidade.

az ml batch-endpoint delete --name
                            --resource-group
                            --workspace-name
                            [--no-wait]
                            [--yes]

Exemplos

Excluir um ponto de extremidade em lote, incluindo todas as suas implantações

az ml batch-endpoint delete --name my-batch-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--name -n

Nome do ponto de extremidade do lote.

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros Opcionais

--no-wait

Não espere que a operação de longa duração termine. O padrão é Falso.

valor padrão: False
--yes -y

Não solicite confirmação.

valor padrão: False
Parâmetros Globais
--debug

Aumente o detalhamento do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar o detalhamento do log. Use --debug para logs de depuração completos.

az ml batch-endpoint invoke

Invoque um ponto de extremidade.

Você pode iniciar a execução de inferência em lote invocando o ponto de extremidade com alguns dados. Para pontos de extremidade em lote, a invocação acionará um trabalho de pontuação em lote assíncrono.

az ml batch-endpoint invoke --name
                            --resource-group
                            --workspace-name
                            [--deployment-name]
                            [--experiment-name]
                            [--file]
                            [--input]
                            [--input-type]
                            [--inputs]
                            [--instance-count]
                            [--job-name]
                            [--mini-batch-size]
                            [--output-path]
                            [--outputs]
                            [--set]

Exemplos

Chame um ponto de extremidade em lote com dados de entrada de um ativo de dados ML do Azure registrado e substitua a configuração de implantação padrão para mini_batch_size

az ml batch-endpoint invoke --name my-batch-endpoint --input azureml:my-dataset:1 --mini-batch-size 64 --resource-group my-resource-group --workspace-name my-workspace

Invocar um ponto de extremidade em lote com arquivo de entrada de um URI público

az ml batch-endpoint invoke --name my-batch-endpoint --input-type uri_file --input https://pipelinedata.blob.core.windows.net/sampledata/mnist/0.png --resource-group my-resource-group --workspace-name my-workspace

Invocar um ponto de extremidade em lote com arquivo de entrada de um armazenamento de dados registrado

az ml batch-endpoint invoke --name my-batch-endpoint --input-type uri_file --input azureml://datastores/workspaceblobstore/paths/{path_to_data}/mnist/0.png --resource-group my-resource-group --workspace-name my-workspace

Invocar um ponto de extremidade em lote com pasta de entrada de um URI público

az ml batch-endpoint invoke --name my-batch-endpoint --input-type uri_folder --input https://pipelinedata.blob.core.windows.net/sampledata/mnist --resource-group my-resource-group --workspace-name my-workspace

Invocar um ponto de extremidade em lote com pasta de entrada de um armazenamento de dados registrado

az ml batch-endpoint invoke --name my-batch-endpoint --input-type uri_folder --input azureml://datastores/workspaceblobstore/paths/{path_to_data}/mnist --resource-group my-resource-group --workspace-name my-workspace

Invocar um ponto de extremidade em lote com arquivos em uma pasta local

az ml batch-endpoint invoke --name my-batch-endpoint --input ./mnist_folder --resource-group my-resource-group --workspace-name my-workspace

Invocar um ponto de extremidade em lote com uma pasta local como caminho de entrada e saída e substituir algumas configurações de implantação em lote durante a chamada de ponto de extremidade

az ml batch-endpoint invoke --name my-batch-endpoint --input ./mnist_folder --instance-count 2 --mini-batch-size 5 --output-path azureml://datastores/workspaceblobstore/paths/tests/output --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--name -n

Nome do ponto de extremidade do lote.

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros Opcionais

--deployment-name -d

Nome da implantação para o destino.

--experiment-name

Nome do experimento para implantação do componente de pipeline.

--file -f

Nome do arquivo usado para a chamada em lote.

--input

Referência aos dados de entrada a serem usados para inferência em lote. Pode ser um caminho no armazenamento de dados, URI público, um ativo de dados registrado ou um caminho de pasta local.

--input-type

Tipo da entrada, especificando se é um arquivo ou uma pasta. Use isso quando estiver usando um caminho no armazenamento de dados ou no URI público. Valores suportados: uri_folder, uri_file.

--inputs

Dicionário de entradas de trabalhos de invocação.

--instance-count -c

Número de instâncias em que a previsão será executada.

--job-name

Nome do trabalho para chamada em lote.

--mini-batch-size -m

Tamanho de cada mini lote em que os dados de entrada serão divididos para previsão.

--output-path

Caminho no armazenamento de dados para o qual os arquivos de saída serão carregados.

--outputs

Dicionário para especificar onde armazenar os resultados.

--set

Atualize um objeto especificando um caminho de propriedade e um valor a serem definidos. Exemplo: --set property1.property2=.

Parâmetros Globais
--debug

Aumente o detalhamento do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar o detalhamento do log. Use --debug para logs de depuração completos.

az ml batch-endpoint list

Listar pontos de extremidade em um espaço de trabalho.

az ml batch-endpoint list --resource-group
                          --workspace-name

Exemplos

Listar todos os pontos de extremidade em lote em um espaço de trabalho

az ml batch-endpoint list --resource-group my-resource-group --workspace-name my-workspace

Listar todos os pontos de extremidade em lote em um espaço de trabalho

az ml batch-endpoint list  --resource-group my-resource-group --workspace-name my-workspace

Liste todos os pontos de extremidade em lote em um espaço de trabalho usando o argumento --query para executar uma consulta JMESPath nos resultados dos comandos.

az ml batch-endpoint list --query "[].{Name:name}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros Globais
--debug

Aumente o detalhamento do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar o detalhamento do log. Use --debug para logs de depuração completos.

az ml batch-endpoint list-jobs

Liste os trabalhos de pontuação em lote para um ponto de extremidade em lote.

az ml batch-endpoint list-jobs --name
                               --resource-group
                               --workspace-name

Exemplos

Listar todos os trabalhos de pontuação em lote para um ponto de extremidade

az ml batch-endpoint list-jobs --name my-batch-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--name -n

Nome do ponto de extremidade do lote.

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros Globais
--debug

Aumente o detalhamento do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar o detalhamento do log. Use --debug para logs de depuração completos.

az ml batch-endpoint show

Mostrar detalhes de um ponto de extremidade.

az ml batch-endpoint show --name
                          --resource-group
                          --workspace-name

Exemplos

Mostrar os detalhes de um ponto de extremidade em lote

az ml batch-endpoint show --name my-batch-endpoint  --resource-group my-resource-group --workspace-name my-workspace

Mostrar o estado de provisionamento de um ponto de extremidade usando o argumento --query para executar uma consulta JMESPath nos resultados dos comandos.

az ml batch-endpoint show -n my-endpoint --query "{Name:name,State:provisioning_state}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--name -n

Nome do ponto de extremidade do lote.

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros Globais
--debug

Aumente o detalhamento do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar o detalhamento do log. Use --debug para logs de depuração completos.

az ml batch-endpoint update

Atualizar um ponto de extremidade.

As propriedades 'description', 'tags' e 'defaults' de um endpoint podem ser atualizadas. Além disso, novas implantações podem ser adicionadas a um ponto de extremidade e as implantações existentes podem ser atualizadas.

az ml batch-endpoint update --resource-group
                            --workspace-name
                            [--add]
                            [--defaults]
                            [--file]
                            [--force-string]
                            [--name]
                            [--no-wait]
                            [--remove]
                            [--set]

Exemplos

Atualizar um ponto de extremidade a partir de um arquivo de especificação YAML

az ml batch-endpoint update --name my-batch-endpoint --file updated_endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Adicionar uma nova implantação a um ponto de extremidade existente

az ml batch-endpoint update --name my-batch-endpoint  --set defaults.deployment_name=depname  --resource-group my-resource-group --workspace-name my-workspace

Parâmetros Exigidos

--resource-group -g

Nome do grupo de recursos. Você pode configurar o grupo padrão usando az configure --defaults group=<name>.

--workspace-name -w

Nome do espaço de trabalho do Azure ML. Você pode configurar o espaço de trabalho padrão usando az configure --defaults workspace=<name>o .

Parâmetros Opcionais

--add

Adicione um objeto a uma lista de objetos especificando um caminho e pares de valores de chave. Exemplo: --add property.listProperty <key=value, string or JSON string>.

valor padrão: []
--defaults

Atualize deployment_name dentro das configurações padrão para invocar ponto de extremidade.

--file -f

Caminho local para o arquivo YAML que contém a especificação de ponto de extremidade em lote do Azure ML. Os documentos de referência do YAML para ponto de extremidade em lote podem ser encontrados em: https://aka.ms/ml-cli-v2-endpoint-batch-yaml-reference.

--force-string

Ao usar 'set' ou 'add', preserve literais de cadeia de caracteres em vez de tentar converter para JSON.

valor padrão: False
--name -n

Nome do ponto de extremidade do lote.

--no-wait

Não espere que a operação de longa duração termine. O padrão é Falso.

valor padrão: False
--remove

Remova uma propriedade ou um elemento de uma lista. Exemplo: --remove property.list <indexToRemove> OU --remove propertyToRemove.

valor padrão: []
--set

Atualize um objeto especificando um caminho de propriedade e um valor a serem definidos. Exemplo: --set property1.property2=<value>.

valor padrão: []
Parâmetros Globais
--debug

Aumente o detalhamento do log para mostrar todos os logs de depuração.

--help -h

Mostrar esta mensagem de ajuda e sair.

--only-show-errors

Mostrar apenas erros, suprimindo avisos.

--output -o

Formato de saída.

valores aceitos: json, jsonc, none, table, tsv, yaml, yamlc
valor padrão: json
--query

Cadeia de caracteres de consulta JMESPath. Consulte http://jmespath.org/ para obter mais informações e exemplos.

--subscription

Nome ou ID da assinatura. Você pode configurar a assinatura padrão usando az account set -s NAME_OR_ID.

--verbose

Aumentar o detalhamento do log. Use --debug para logs de depuração completos.