az ml online-endpoint

Referens

Anteckning

Den här referensen är en del av ml-tillägget för Azure CLI (version 2.15.0 eller senare). Tillägget installeras automatiskt första gången du kör ett az ml online-endpoint kommando. Läs mer om tillägg.

Hantera Azure ML-slutpunkter online.

Azure ML-slutpunkter tillhandahåller ett enkelt gränssnitt för att skapa och hantera modelldistributioner. Varje slutpunkt kan ha en eller flera distributioner, vilket gör att trafiken från en enda poängslutpunkt kan hanteras till flera distributioner om det behövs. Detta är användbart för scenarier som kontrollerad distribution.

Azure ML stöder två typer av slutpunkter: online och batch. Onlineslutpunkter stöder slutsatsdragning i realtid, medan batchslutpunkter används för batchbedömning offline.

Kommandon

Name	Description	Typ	Status
az ml online-endpoint create	Skapa en slutpunkt.	Förlängning	GA
az ml online-endpoint delete	Ta bort en slutpunkt.	Förlängning	GA
az ml online-endpoint get-credentials	Visa en lista över token/nycklar för en onlineslutpunkt.	Förlängning	GA
az ml online-endpoint invoke	Anropa en slutpunkt.	Förlängning	GA
az ml online-endpoint list	Visa en lista över slutpunkter i en arbetsyta.	Förlängning	GA
az ml online-endpoint regenerate-keys	Återskapa nycklarna för en onlineslutpunkt.	Förlängning	GA
az ml online-endpoint show	Visa information för en slutpunkt.	Förlängning	GA
az ml online-endpoint update	Uppdatera en slutpunkt.	Förlängning	GA

az ml online-endpoint create

Skapa en slutpunkt.

Om du vill skapa en slutpunkt anger du en YAML-fil med onlineslutpunktskonfiguration. Om slutpunkten redan finns misslyckas den. Om du vill uppdatera en befintlig slutpunkt använder du az ml online-endpoint update.

Azure CLI

az ml online-endpoint create --resource-group
                             --workspace-name
                             [--auth-mode]
                             [--file]
                             [--local {false, true}]
                             [--name]
                             [--no-wait]
                             [--set]
                             [--web]

Exempel

Skapa en slutpunkt från en YAML-specifikationsfil

Azure CLI

az ml online-endpoint create --file endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Obligatoriska parametrar

--resource-group -g

Namn på resursgrupp. Du kan konfigurera standardgruppen med hjälp av az configure --defaults group=<name>.

--workspace-name -w

Namnet på Azure ML-arbetsytan. Du kan konfigurera standardarbetsytan med hjälp av az configure --defaults workspace=<name>.

Valfria parametrar

--auth-mode

Autentiseringsmetod för slutpunkten. Tillåtna värden: nyckel, aml_token. Standard: nyckel.

--file -f

Lokal sökväg till YAML-filen som innehåller Azure ML online-slutpunktsspecifikationen. YAML-referensdokumenten för onlineslutpunkten finns på: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--local

Skapa slutpunkt lokalt. Obs! Trafik och autentisering stöds inte lokalt. Du kan använda "az ml online-deployment create --local" direkt. Den skapar en slutpunkt om den inte finns.

Godkända värden: false, true

Standardvärde: False

--name -n

Namnet på onlineslutpunkten.

--no-wait

Vänta inte tills den tidskrävande åtgärden har slutförts. Standardvärdet är Falskt.

Standardvärde: False

--set

Uppdatera ett objekt genom att ange en egenskapssökväg och ett värde som ska anges. Exempel: --set property1.property2=value.

--web -e

Visa slutpunktens information i Azure ML Studio i en webbläsare.

Standardvärde: False

Globala parametrar

--debug

Öka loggningsverositeten för att visa alla felsökningsloggar.

--help -h

Visa det här hjälpmeddelandet och avsluta.

--only-show-errors

Visa bara fel och ignorera varningar.

--output -o

Utdataformat.

Godkända värden: json, jsonc, none, table, tsv, yaml, yamlc

Standardvärde: json

--query

JMESPath-frågesträng. Mer information och exempel finns i http://jmespath.org/.

--subscription

Namn eller ID för prenumeration. Du kan konfigurera standardprenumerationen med hjälp av az account set -s NAME_OR_ID.

--verbose

Öka loggningsverbositeten. Använd --debug för fullständiga felsökningsloggar.

az ml online-endpoint delete

Ta bort en slutpunkt.

Azure CLI

az ml online-endpoint delete --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--no-wait]
                             [--yes]

Exempel

Ta bort en onlineslutpunkt, inklusive alla dess distributioner

Azure CLI

az ml online-endpoint delete --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Obligatoriska parametrar

--name -n

Namnet på onlineslutpunkten.

--resource-group -g

Namn på resursgrupp. Du kan konfigurera standardgruppen med hjälp av az configure --defaults group=<name>.

--workspace-name -w

Namnet på Azure ML-arbetsytan. Du kan konfigurera standardarbetsytan med hjälp av az configure --defaults workspace=<name>.

Valfria parametrar

--local

Ta bort lokal slutpunkt.

Godkända värden: false, true

Standardvärde: False

--no-wait

Vänta inte tills den tidskrävande åtgärden har slutförts. Standardvärdet är Falskt.

Standardvärde: False

--yes -y

Fråga inte efter bekräftelse.

Standardvärde: False

Globala parametrar

--debug

Öka loggningsverositeten för att visa alla felsökningsloggar.

--help -h

Visa det här hjälpmeddelandet och avsluta.

--only-show-errors

Visa bara fel och ignorera varningar.

--output -o

Utdataformat.

Godkända värden: json, jsonc, none, table, tsv, yaml, yamlc

Standardvärde: json

--query

JMESPath-frågesträng. Mer information och exempel finns i http://jmespath.org/.

--subscription

Namn eller ID för prenumeration. Du kan konfigurera standardprenumerationen med hjälp av az account set -s NAME_OR_ID.

--verbose

Öka loggningsverbositeten. Använd --debug för fullständiga felsökningsloggar.

az ml online-endpoint get-credentials

Visa en lista över token/nycklar för en onlineslutpunkt.

Azure CLI

az ml online-endpoint get-credentials --name
                                      --resource-group
                                      --workspace-name

Exempel

Visa en lista över nycklarna för en onlineslutpunkt

Azure CLI

az ml online-endpoint get-credentials --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Obligatoriska parametrar

--name -n

Namnet på onlineslutpunkten.

--resource-group -g

Namn på resursgrupp. Du kan konfigurera standardgruppen med hjälp av az configure --defaults group=<name>.

--workspace-name -w

Namnet på Azure ML-arbetsytan. Du kan konfigurera standardarbetsytan med hjälp av az configure --defaults workspace=<name>.

Globala parametrar

--debug

Öka loggningsverositeten för att visa alla felsökningsloggar.

--help -h

Visa det här hjälpmeddelandet och avsluta.

--only-show-errors

Visa bara fel och ignorera varningar.

--output -o

Utdataformat.

Godkända värden: json, jsonc, none, table, tsv, yaml, yamlc

Standardvärde: json

--query

JMESPath-frågesträng. Mer information och exempel finns i http://jmespath.org/.

--subscription

Namn eller ID för prenumeration. Du kan konfigurera standardprenumerationen med hjälp av az account set -s NAME_OR_ID.

--verbose

Öka loggningsverbositeten. Använd --debug för fullständiga felsökningsloggar.

az ml online-endpoint invoke

Anropa en slutpunkt.

Du kan anropa en onlineslutpunkt med vissa begärandedata. Detta kommer att vara slutsatsdragning i realtid och bedömningsresultatet returneras omedelbart.

Azure CLI

az ml online-endpoint invoke --name
                             --resource-group
                             --workspace-name
                             [--deployment-name]
                             [--local {false, true}]
                             [--request-file]

Exempel

Anropa en onlineslutpunkt med vissa begärandedata

Azure CLI

az ml online-endpoint invoke --name my-online-endpoint --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Anropa en onlineslutpunkt som riktar sig mot en specifik distribution

Azure CLI

az ml online-endpoint invoke --name my-online-endpoint --deployment my-deployment --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Obligatoriska parametrar

--name -n

Namnet på onlineslutpunkten.

--resource-group -g

Namn på resursgrupp. Du kan konfigurera standardgruppen med hjälp av az configure --defaults group=<name>.

--workspace-name -w

Namnet på Azure ML-arbetsytan. Du kan konfigurera standardarbetsytan med hjälp av az configure --defaults workspace=<name>.

Valfria parametrar

--deployment-name -d

Namnet på distributionen till målet.

--local

Anropa lokal slutpunkt. Detta fungerar bara om en lokal distribution har skapats för den här slutpunkten.

Godkända värden: false, true

Standardvärde: False

--request-file -r

Lokal sökväg till JSON-filen som innehåller begärandedata.

Globala parametrar

--debug

Öka loggningsverositeten för att visa alla felsökningsloggar.

--help -h

Visa det här hjälpmeddelandet och avsluta.

--only-show-errors

Visa bara fel och ignorera varningar.

--output -o

Utdataformat.

Godkända värden: json, jsonc, none, table, tsv, yaml, yamlc

Standardvärde: json

--query

JMESPath-frågesträng. Mer information och exempel finns i http://jmespath.org/.

--subscription

Namn eller ID för prenumeration. Du kan konfigurera standardprenumerationen med hjälp av az account set -s NAME_OR_ID.

--verbose

Öka loggningsverbositeten. Använd --debug för fullständiga felsökningsloggar.

az ml online-endpoint list

Visa en lista över slutpunkter i en arbetsyta.

Azure CLI

az ml online-endpoint list --resource-group
                           --workspace-name
                           [--local {false, true}]

Exempel

Visa en lista över alla onlineslutpunkter på en arbetsyta

Azure CLI

az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace

Visa en lista över alla batchslutpunkter i en arbetsyta

Azure CLI

az ml online-endpoint list  --resource-group my-resource-group --workspace-name my-workspace

Visa en lista över alla onlineslutpunkter i en arbetsyta med argumentet --query för att köra en JMESPath-fråga på resultatet av kommandon.

Azure CLI

az ml online-endpoint list --query "[].{Name:name}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Obligatoriska parametrar

--resource-group -g

Namn på resursgrupp. Du kan konfigurera standardgruppen med hjälp av az configure --defaults group=<name>.

--workspace-name -w

Namnet på Azure ML-arbetsytan. Du kan konfigurera standardarbetsytan med hjälp av az configure --defaults workspace=<name>.

Valfria parametrar

--local

Visa en lista över alla lokala slutpunkter.

Godkända värden: false, true

Standardvärde: False

Globala parametrar

--debug

Öka loggningsverositeten för att visa alla felsökningsloggar.

--help -h

Visa det här hjälpmeddelandet och avsluta.

--only-show-errors

Visa bara fel och ignorera varningar.

--output -o

Utdataformat.

Godkända värden: json, jsonc, none, table, tsv, yaml, yamlc

Standardvärde: json

--query

JMESPath-frågesträng. Mer information och exempel finns i http://jmespath.org/.

--subscription

Namn eller ID för prenumeration. Du kan konfigurera standardprenumerationen med hjälp av az account set -s NAME_OR_ID.

--verbose

Öka loggningsverbositeten. Använd --debug för fullständiga felsökningsloggar.

az ml online-endpoint regenerate-keys

Återskapa nycklarna för en onlineslutpunkt.

Azure CLI

az ml online-endpoint regenerate-keys --name
                                      --resource-group
                                      --workspace-name
                                      [--key-type]
                                      [--no-wait]

Exempel

Återskapa nycklarna för en onlineslutpunkt

Azure CLI

az ml online-endpoint regenerate-keys --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Obligatoriska parametrar

--name -n

Namnet på onlineslutpunkten.

--resource-group -g

Namn på resursgrupp. Du kan konfigurera standardgruppen med hjälp av az configure --defaults group=<name>.

--workspace-name -w

Namnet på Azure ML-arbetsytan. Du kan konfigurera standardarbetsytan med hjälp av az configure --defaults workspace=<name>.

Valfria parametrar

--key-type

Vilken typ av nyckel som ska återskapas. Tillåtna värden: primär, sekundär.

Standardvärde: primary

--no-wait

Vänta inte tills den tidskrävande åtgärden har slutförts. Standardvärdet är Falskt.

Standardvärde: False

Globala parametrar

--debug

Öka loggningsverositeten för att visa alla felsökningsloggar.

--help -h

Visa det här hjälpmeddelandet och avsluta.

--only-show-errors

Visa bara fel och ignorera varningar.

--output -o

Utdataformat.

Godkända värden: json, jsonc, none, table, tsv, yaml, yamlc

Standardvärde: json

--query

JMESPath-frågesträng. Mer information och exempel finns i http://jmespath.org/.

--subscription

Namn eller ID för prenumeration. Du kan konfigurera standardprenumerationen med hjälp av az account set -s NAME_OR_ID.

--verbose

Öka loggningsverbositeten. Använd --debug för fullständiga felsökningsloggar.

az ml online-endpoint show

Visa information för en slutpunkt.

Azure CLI

az ml online-endpoint show --name
                           --resource-group
                           --workspace-name
                           [--local {false, true}]
                           [--web]

Exempel

Visa information för en batchslutpunkt

Azure CLI

az ml online-endpoint show --name my-online-endpoint  --resource-group my-resource-group --workspace-name my-workspace

Visa etableringstillståndet för en slutpunkt med argumentet --query för att köra en JMESPath-fråga på resultatet av kommandon.

Azure CLI

az ml online-endpoint show -n my-endpoint --query "{Name:name,State:provisioning_state}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Obligatoriska parametrar

--name -n

Namnet på onlineslutpunkten.

--resource-group -g

Namn på resursgrupp. Du kan konfigurera standardgruppen med hjälp av az configure --defaults group=<name>.

--workspace-name -w

Namnet på Azure ML-arbetsytan. Du kan konfigurera standardarbetsytan med hjälp av az configure --defaults workspace=<name>.

Valfria parametrar

--local

Visa lokal slutpunkt.

Godkända värden: false, true

Standardvärde: False

--web -e

Visa slutpunktens information i Azure ML Studio i en webbläsare.

Standardvärde: False

Globala parametrar

--debug

Öka loggningsverositeten för att visa alla felsökningsloggar.

--help -h

Visa det här hjälpmeddelandet och avsluta.

--only-show-errors

Visa bara fel och ignorera varningar.

--output -o

Utdataformat.

Godkända värden: json, jsonc, none, table, tsv, yaml, yamlc

Standardvärde: json

--query

JMESPath-frågesträng. Mer information och exempel finns i http://jmespath.org/.

--subscription

Namn eller ID för prenumeration. Du kan konfigurera standardprenumerationen med hjälp av az account set -s NAME_OR_ID.

--verbose

Öka loggningsverbositeten. Använd --debug för fullständiga felsökningsloggar.

az ml online-endpoint update

Uppdatera en slutpunkt.

Egenskaperna "description", "tags" och "traffic" för en slutpunkt kan uppdateras. Dessutom kan nya distributioner läggas till i en slutpunkt och befintliga distributioner kan uppdateras.

Azure CLI

az ml online-endpoint update --resource-group
                             --workspace-name
                             [--add]
                             [--file]
                             [--force-string]
                             [--local {false, true}]
                             [--mirror-traffic]
                             [--name]
                             [--no-wait]
                             [--remove]
                             [--set]
                             [--traffic]
                             [--web]

Exempel

Uppdatera en slutpunkt från en YAML-specifikationsfil

Azure CLI

az ml online-endpoint update --file updated_endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Uppdatera trafikinställningarna för en slutpunkt

Azure CLI

az ml online-endpoint update --name my-online-endpoint  --traffic "my-new-deployment=100" --resource-group my-resource-group --workspace-name my-workspace

Obligatoriska parametrar

--resource-group -g

Namn på resursgrupp. Du kan konfigurera standardgruppen med hjälp av az configure --defaults group=<name>.

--workspace-name -w

Namnet på Azure ML-arbetsytan. Du kan konfigurera standardarbetsytan med hjälp av az configure --defaults workspace=<name>.

Valfria parametrar

--add

Lägg till ett objekt i en lista över objekt genom att ange en sökväg och nyckelvärdepar. Exempel: --add property.listProperty <key=value, string or JSON string>.

Standardvärde: []

--file -f

--force-string

När du använder "set" eller "add" bevarar du strängliteraler i stället för att försöka konvertera till JSON.

Standardvärde: False

--local

Uppdatera den lokala slutpunkten.

Godkända värden: false, true

Standardvärde: False

--mirror-traffic

Dirigerar en duplicerad procentandel av livetrafik till en träningsdistribution.

--name -n

Namnet på onlineslutpunkten.

--no-wait

Vänta inte tills den tidskrävande åtgärden har slutförts. Standardvärdet är Falskt.

Standardvärde: False

--remove

Ta bort en egenskap eller ett element från en lista. Exempel: --remove property.list <indexToRemove> ELLER --remove propertyToRemove.

Standardvärde: []

--set

Uppdatera ett objekt genom att ange en egenskapssökväg och ett värde som ska anges. Exempel: --set property1.property2=<value>.

Standardvärde: []

--traffic -r

Blankstegsavgränsade nyckel/värde-par, inom citattecken, för trafikinställningarna för slutpunkten.

--web -e

Visa slutpunktens information i Azure ML Studio i en webbläsare.

Standardvärde: False

Globala parametrar

--debug

Öka loggningsverositeten för att visa alla felsökningsloggar.

--help -h

Visa det här hjälpmeddelandet och avsluta.

--only-show-errors

Visa bara fel och ignorera varningar.

--output -o

Utdataformat.

Godkända värden: json, jsonc, none, table, tsv, yaml, yamlc

Standardvärde: json

--query

JMESPath-frågesträng. Mer information och exempel finns i http://jmespath.org/.

--subscription

Namn eller ID för prenumeration. Du kan konfigurera standardprenumerationen med hjälp av az account set -s NAME_OR_ID.

--verbose

Öka loggningsverbositeten. Använd --debug för fullständiga felsökningsloggar.

Dela via

az ml online-endpoint

Kommandon

az ml online-endpoint create

Exempel

Obligatoriska parametrar

Valfria parametrar

az ml online-endpoint delete

Exempel

Obligatoriska parametrar

Valfria parametrar

az ml online-endpoint get-credentials

Exempel

Obligatoriska parametrar

az ml online-endpoint invoke

Exempel

Obligatoriska parametrar

Valfria parametrar

az ml online-endpoint list

Exempel

Obligatoriska parametrar

Valfria parametrar

az ml online-endpoint regenerate-keys

Exempel

Obligatoriska parametrar

Valfria parametrar

az ml online-endpoint show

Exempel

Obligatoriska parametrar

Valfria parametrar

az ml online-endpoint update

Exempel

Obligatoriska parametrar

Valfria parametrar

Ytterligare resurser