az ml online-endpoint

Poznámka:

Tento odkaz je součástí rozšíření ml pro Azure CLI (verze 2.15.0 nebo vyšší). Rozšíření se automaticky nainstaluje při prvním spuštění příkazu az ml online-endpoint . Přečtěte si další informace o rozšířeních.

Správa online koncových bodů Azure ML

Koncové body Azure ML poskytují jednoduché rozhraní pro vytváření a správu nasazení modelů. Každý koncový bod může mít jedno nebo více nasazení, což v případě potřeby umožní obsluhovat provoz z jednoho bodujícího koncového bodu do více nasazení. To je užitečné pro scénáře, jako je řízené zavedení.

Azure ML podporuje dva typy koncových bodů: online a dávkové. Online koncové body podporují odvozování v reálném čase, zatímco dávkové koncové body se používají pro bodování v offline dávkách.

Příkazy

Name	Description	Typ	Stav
az ml online-endpoint create	Vytvořte koncový bod.	Rozšíření	GA
az ml online-endpoint delete	Odstranění koncového bodu	Rozšíření	GA
az ml online-endpoint get-credentials	Vypíše token nebo klíče pro online koncový bod.	Rozšíření	GA
az ml online-endpoint invoke	Vyvolání koncového bodu	Rozšíření	GA
az ml online-endpoint list	Výpis koncových bodů v pracovním prostoru	Rozšíření	GA
az ml online-endpoint regenerate-keys	Znovu vygenerujte klíče pro online koncový bod.	Rozšíření	GA
az ml online-endpoint show	Zobrazení podrobností o koncovém bodu	Rozšíření	GA
az ml online-endpoint update	Aktualizace koncového bodu	Rozšíření	GA

az ml online-endpoint create

Vytvořte koncový bod.

Pokud chcete vytvořit koncový bod, zadejte soubor YAML s konfigurací online koncového bodu. Pokud už koncový bod existuje, selže. Pokud chcete aktualizovat existující koncový bod, použijte příkaz az ml online-endpoint update.

az ml online-endpoint create --resource-group
                             --workspace-name
                             [--auth-mode]
                             [--file]
                             [--local {false, true}]
                             [--name]
                             [--no-wait]
                             [--set]
                             [--web]

Příklady

Vytvoření koncového bodu ze souboru specifikace YAML

az ml online-endpoint create --file endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Povinné parametry

--resource-group -g

Název skupiny prostředků. Výchozí skupinu můžete nakonfigurovat pomocí az configure --defaults group=<name>.

--workspace-name -w

Název pracovního prostoru Azure ML Výchozí pracovní prostor můžete nakonfigurovat pomocí az configure --defaults workspace=<name>.

Volitelné parametry

--auth-mode

Metoda ověřování pro koncový bod Povolené hodnoty: klíč, aml_token. Výchozí hodnota: klíč.

--file -f

Místní cesta k souboru YAML obsahujícímu specifikaci online koncového bodu Azure ML Referenční dokumenty YAML pro online koncový bod najdete tady: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--local

Místní vytvoření koncového bodu Poznámka: Provoz a ověřování se nepodporují místně. Příkaz az ml online-deployment create --local můžete použít přímo. Pokud neexistuje, vytvoří se koncový bod.

přijímané hodnoty: false, true

výchozí hodnota: False

--name -n

Název online koncového bodu

--no-wait

Nečekejte na dokončení dlouhotrvající operace. Výchozí hodnota je False.

výchozí hodnota: False

--set

Aktualizujte objekt zadáním cesty vlastnosti a hodnoty, která se má nastavit. Příklad: --set property1.property2=.

--web -e

Zobrazení podrobností o koncovém bodu v nástroji Azure ML Studio ve webovém prohlížeči

výchozí hodnota: False

Globální parametry

--debug

Zvyšte úroveň podrobností protokolování, aby se zobrazily všechny protokoly ladění.

--help -h

Zobrazte tuto zprávu nápovědy a ukončete ji.

--only-show-errors

Zobrazují se pouze chyby, potlačení upozornění.

--output -o

Výstupní formát

přijímané hodnoty: json, jsonc, none, table, tsv, yaml, yamlc

výchozí hodnota: json

--query

Řetězec dotazu JMESPath Další http://jmespath.org/ informace a příklady najdete v tématu.

--subscription

Název nebo ID předplatného. Výchozí předplatné můžete nakonfigurovat pomocí az account set -s NAME_OR_ID.

--verbose

Zvyšte úroveň podrobností protokolování. K úplnému ladění protokolů použijte příkaz --debug.

az ml online-endpoint delete

Odstranění koncového bodu

az ml online-endpoint delete --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--no-wait]
                             [--yes]

Příklady

Odstranění online koncového bodu včetně všech jeho nasazení

az ml online-endpoint delete --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Povinné parametry

--name -n

Název online koncového bodu

--resource-group -g

Název skupiny prostředků. Výchozí skupinu můžete nakonfigurovat pomocí az configure --defaults group=<name>.

--workspace-name -w

Název pracovního prostoru Azure ML Výchozí pracovní prostor můžete nakonfigurovat pomocí az configure --defaults workspace=<name>.

Volitelné parametry

--local

Odstraňte místní koncový bod.

přijímané hodnoty: false, true

výchozí hodnota: False

--no-wait

Nečekejte na dokončení dlouhotrvající operace. Výchozí hodnota je False.

výchozí hodnota: False

--yes -y

Nezotvádejte výzvu k potvrzení.

výchozí hodnota: False

Globální parametry

--debug

Zvyšte úroveň podrobností protokolování, aby se zobrazily všechny protokoly ladění.

--help -h

Zobrazte tuto zprávu nápovědy a ukončete ji.

--only-show-errors

Zobrazují se pouze chyby, potlačení upozornění.

--output -o

Výstupní formát

přijímané hodnoty: json, jsonc, none, table, tsv, yaml, yamlc

výchozí hodnota: json

--query

Řetězec dotazu JMESPath Další http://jmespath.org/ informace a příklady najdete v tématu.

--subscription

Název nebo ID předplatného. Výchozí předplatné můžete nakonfigurovat pomocí az account set -s NAME_OR_ID.

--verbose

Zvyšte úroveň podrobností protokolování. K úplnému ladění protokolů použijte příkaz --debug.

az ml online-endpoint get-credentials

Vypíše token nebo klíče pro online koncový bod.

az ml online-endpoint get-credentials --name
                                      --resource-group
                                      --workspace-name

Příklady

Výpis klíčů pro online koncový bod

az ml online-endpoint get-credentials --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Povinné parametry

--name -n

Název online koncového bodu

--resource-group -g

Název skupiny prostředků. Výchozí skupinu můžete nakonfigurovat pomocí az configure --defaults group=<name>.

--workspace-name -w

Název pracovního prostoru Azure ML Výchozí pracovní prostor můžete nakonfigurovat pomocí az configure --defaults workspace=<name>.

Globální parametry

--debug

Zvyšte úroveň podrobností protokolování, aby se zobrazily všechny protokoly ladění.

--help -h

Zobrazte tuto zprávu nápovědy a ukončete ji.

--only-show-errors

Zobrazují se pouze chyby, potlačení upozornění.

--output -o

Výstupní formát

přijímané hodnoty: json, jsonc, none, table, tsv, yaml, yamlc

výchozí hodnota: json

--query

Řetězec dotazu JMESPath Další http://jmespath.org/ informace a příklady najdete v tématu.

--subscription

Název nebo ID předplatného. Výchozí předplatné můžete nakonfigurovat pomocí az account set -s NAME_OR_ID.

--verbose

Zvyšte úroveň podrobností protokolování. K úplnému ladění protokolů použijte příkaz --debug.

az ml online-endpoint invoke

Vyvolání koncového bodu

Můžete vyvolat online koncový bod s některými daty žádosti. To bude odvození v reálném čase a výsledky vyhodnocování se vrátí okamžitě.

az ml online-endpoint invoke --name
                             --resource-group
                             --workspace-name
                             [--deployment-name]
                             [--local {false, true}]
                             [--request-file]

Příklady

Vyvolání online koncového bodu s daty požadavku

az ml online-endpoint invoke --name my-online-endpoint --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Vyvolání online koncového bodu, který cílí na konkrétní nasazení

az ml online-endpoint invoke --name my-online-endpoint --deployment my-deployment --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Povinné parametry

--name -n

Název online koncového bodu

--resource-group -g

Název skupiny prostředků. Výchozí skupinu můžete nakonfigurovat pomocí az configure --defaults group=<name>.

--workspace-name -w

Název pracovního prostoru Azure ML Výchozí pracovní prostor můžete nakonfigurovat pomocí az configure --defaults workspace=<name>.

Volitelné parametry

--deployment-name -d

Název nasazení, které se má cílit.

--local

Vyvolání místního koncového bodu To bude fungovat pouze v případě, že pro tento koncový bod bylo vytvořeno místní nasazení.

přijímané hodnoty: false, true

výchozí hodnota: False

--request-file -r

Místní cesta k souboru JSON obsahujícímu data požadavku.

Globální parametry

--debug

Zvyšte úroveň podrobností protokolování, aby se zobrazily všechny protokoly ladění.

--help -h

Zobrazte tuto zprávu nápovědy a ukončete ji.

--only-show-errors

Zobrazují se pouze chyby, potlačení upozornění.

--output -o

Výstupní formát

přijímané hodnoty: json, jsonc, none, table, tsv, yaml, yamlc

výchozí hodnota: json

--query

Řetězec dotazu JMESPath Další http://jmespath.org/ informace a příklady najdete v tématu.

--subscription

Název nebo ID předplatného. Výchozí předplatné můžete nakonfigurovat pomocí az account set -s NAME_OR_ID.

--verbose

Zvyšte úroveň podrobností protokolování. K úplnému ladění protokolů použijte příkaz --debug.

az ml online-endpoint list

Výpis koncových bodů v pracovním prostoru

az ml online-endpoint list --resource-group
                           --workspace-name
                           [--local {false, true}]

Příklady

Výpis všech online koncových bodů v pracovním prostoru

az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace

Výpis všech dávkových koncových bodů v pracovním prostoru

az ml online-endpoint list  --resource-group my-resource-group --workspace-name my-workspace

Vypište všechny online koncové body v pracovním prostoru pomocí argumentu --query ke spuštění dotazu JMESPath na výsledky příkazů.

az ml online-endpoint list --query "[].{Name:name}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Povinné parametry

--resource-group -g

Název skupiny prostředků. Výchozí skupinu můžete nakonfigurovat pomocí az configure --defaults group=<name>.

--workspace-name -w

Název pracovního prostoru Azure ML Výchozí pracovní prostor můžete nakonfigurovat pomocí az configure --defaults workspace=<name>.

Volitelné parametry

--local

Zobrazí seznam všech místních koncových bodů.

přijímané hodnoty: false, true

výchozí hodnota: False

Globální parametry

--debug

Zvyšte úroveň podrobností protokolování, aby se zobrazily všechny protokoly ladění.

--help -h

Zobrazte tuto zprávu nápovědy a ukončete ji.

--only-show-errors

Zobrazují se pouze chyby, potlačení upozornění.

--output -o

Výstupní formát

přijímané hodnoty: json, jsonc, none, table, tsv, yaml, yamlc

výchozí hodnota: json

--query

Řetězec dotazu JMESPath Další http://jmespath.org/ informace a příklady najdete v tématu.

--subscription

Název nebo ID předplatného. Výchozí předplatné můžete nakonfigurovat pomocí az account set -s NAME_OR_ID.

--verbose

Zvyšte úroveň podrobností protokolování. K úplnému ladění protokolů použijte příkaz --debug.

az ml online-endpoint regenerate-keys

Znovu vygenerujte klíče pro online koncový bod.

az ml online-endpoint regenerate-keys --name
                                      --resource-group
                                      --workspace-name
                                      [--key-type]
                                      [--no-wait]

Příklady

Opětovné vygenerování klíčů pro online koncový bod

az ml online-endpoint regenerate-keys --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Povinné parametry

--name -n

Název online koncového bodu

--resource-group -g

Název skupiny prostředků. Výchozí skupinu můžete nakonfigurovat pomocí az configure --defaults group=<name>.

--workspace-name -w

Název pracovního prostoru Azure ML Výchozí pracovní prostor můžete nakonfigurovat pomocí az configure --defaults workspace=<name>.

Volitelné parametry

--key-type

Typ klíče, který se má znovu vygenerovat. Povolené hodnoty: primární, sekundární.

výchozí hodnota: primary

--no-wait

Nečekejte na dokončení dlouhotrvající operace. Výchozí hodnota je False.

výchozí hodnota: False

Globální parametry

--debug

Zvyšte úroveň podrobností protokolování, aby se zobrazily všechny protokoly ladění.

--help -h

Zobrazte tuto zprávu nápovědy a ukončete ji.

--only-show-errors

Zobrazují se pouze chyby, potlačení upozornění.

--output -o

Výstupní formát

přijímané hodnoty: json, jsonc, none, table, tsv, yaml, yamlc

výchozí hodnota: json

--query

Řetězec dotazu JMESPath Další http://jmespath.org/ informace a příklady najdete v tématu.

--subscription

Název nebo ID předplatného. Výchozí předplatné můžete nakonfigurovat pomocí az account set -s NAME_OR_ID.

--verbose

Zvyšte úroveň podrobností protokolování. K úplnému ladění protokolů použijte příkaz --debug.

az ml online-endpoint show

Zobrazení podrobností o koncovém bodu

az ml online-endpoint show --name
                           --resource-group
                           --workspace-name
                           [--local {false, true}]
                           [--web]

Příklady

Zobrazení podrobností o dávkovém koncovém bodu

az ml online-endpoint show --name my-online-endpoint  --resource-group my-resource-group --workspace-name my-workspace

Umožňuje zobrazit stav zřizování koncového bodu pomocí argumentu --query ke spuštění dotazu JMESPath na výsledky příkazů.

az ml online-endpoint show -n my-endpoint --query "{Name:name,State:provisioning_state}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Povinné parametry

--name -n

Název online koncového bodu

--resource-group -g

Název skupiny prostředků. Výchozí skupinu můžete nakonfigurovat pomocí az configure --defaults group=<name>.

--workspace-name -w

Název pracovního prostoru Azure ML Výchozí pracovní prostor můžete nakonfigurovat pomocí az configure --defaults workspace=<name>.

Volitelné parametry

--local

Zobrazit místní koncový bod.

přijímané hodnoty: false, true

výchozí hodnota: False

--web -e

Zobrazení podrobností o koncovém bodu v nástroji Azure ML Studio ve webovém prohlížeči

výchozí hodnota: False

Globální parametry

--debug

Zvyšte úroveň podrobností protokolování, aby se zobrazily všechny protokoly ladění.

--help -h

Zobrazte tuto zprávu nápovědy a ukončete ji.

--only-show-errors

Zobrazují se pouze chyby, potlačení upozornění.

--output -o

Výstupní formát

přijímané hodnoty: json, jsonc, none, table, tsv, yaml, yamlc

výchozí hodnota: json

--query

Řetězec dotazu JMESPath Další http://jmespath.org/ informace a příklady najdete v tématu.

--subscription

Název nebo ID předplatného. Výchozí předplatné můžete nakonfigurovat pomocí az account set -s NAME_OR_ID.

--verbose

Zvyšte úroveň podrobností protokolování. K úplnému ladění protokolů použijte příkaz --debug.

az ml online-endpoint update

Aktualizace koncového bodu

Vlastnosti "description", "tags" a "traffic" koncového bodu je možné aktualizovat. Kromě toho je možné do koncového bodu přidat nová nasazení a stávající nasazení je možné aktualizovat.

az ml online-endpoint update --resource-group
                             --workspace-name
                             [--add]
                             [--file]
                             [--force-string]
                             [--local {false, true}]
                             [--mirror-traffic]
                             [--name]
                             [--no-wait]
                             [--remove]
                             [--set]
                             [--traffic]
                             [--web]

Příklady

Aktualizace koncového bodu ze souboru specifikace YAML

az ml online-endpoint update --file updated_endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Aktualizace nastavení provozu pro koncový bod

az ml online-endpoint update --name my-online-endpoint  --traffic "my-new-deployment=100" --resource-group my-resource-group --workspace-name my-workspace

Povinné parametry

--resource-group -g

Název skupiny prostředků. Výchozí skupinu můžete nakonfigurovat pomocí az configure --defaults group=<name>.

--workspace-name -w

Název pracovního prostoru Azure ML Výchozí pracovní prostor můžete nakonfigurovat pomocí az configure --defaults workspace=<name>.

Volitelné parametry

--add

Přidejte objekt do seznamu objektů zadáním párů cest a klíč-hodnota. Příklad: --add property.listProperty <key=value, string or JSON string>.

výchozí hodnota: []

--file -f

Místní cesta k souboru YAML obsahujícímu specifikaci online koncového bodu Azure ML Referenční dokumenty YAML pro online koncový bod najdete tady: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--force-string

Při použití set nebo add zachovávejte řetězcové literály místo pokusu o převod na JSON.

výchozí hodnota: False

--local

Aktualizace místního koncového bodu

přijímané hodnoty: false, true

výchozí hodnota: False

--mirror-traffic

Nasměruje duplicitní procento živého provozu na trénování nasazení.

--name -n

Název online koncového bodu

--no-wait

Nečekejte na dokončení dlouhotrvající operace. Výchozí hodnota je False.

výchozí hodnota: False

--remove

Odeberte vlastnost nebo prvek ze seznamu. Příklad: --remove property.list <indexToRemove> OR --remove propertyToRemove.

výchozí hodnota: []

--set

Aktualizujte objekt zadáním cesty vlastnosti a hodnoty, která se má nastavit. Příklad: --set property1.property2=<value>.

výchozí hodnota: []

--traffic -r

Páry klíč-hodnota oddělené mezerami v uvozovkách pro nastavení provozu pro koncový bod.

--web -e

Zobrazení podrobností o koncovém bodu v nástroji Azure ML Studio ve webovém prohlížeči

výchozí hodnota: False

Globální parametry

--debug

Zvyšte úroveň podrobností protokolování, aby se zobrazily všechny protokoly ladění.

--help -h

Zobrazte tuto zprávu nápovědy a ukončete ji.

--only-show-errors

Zobrazují se pouze chyby, potlačení upozornění.

--output -o

Výstupní formát

přijímané hodnoty: json, jsonc, none, table, tsv, yaml, yamlc

výchozí hodnota: json

--query

Řetězec dotazu JMESPath Další http://jmespath.org/ informace a příklady najdete v tématu.

--subscription

Název nebo ID předplatného. Výchozí předplatné můžete nakonfigurovat pomocí az account set -s NAME_OR_ID.

--verbose

Zvyšte úroveň podrobností protokolování. K úplnému ladění protokolů použijte příkaz --debug.