az ml online-endpoint

  • Odwołanie

Uwaga

Ta dokumentacja jest częścią rozszerzenia ml dla interfejsu wiersza polecenia platformy Azure (wersja 2.15.0 lub nowsza). Rozszerzenie zostanie automatycznie zainstalowane przy pierwszym uruchomieniu polecenia az ml online-endpoint . Dowiedz się więcej o rozszerzeniach.

Zarządzanie punktami końcowymi online usługi Azure ML.

Punkty końcowe usługi Azure ML zapewniają prosty interfejs do tworzenia wdrożeń modelu i zarządzania nimi. Każdy punkt końcowy może mieć co najmniej jedno wdrożenie, umożliwiając obsługę ruchu z jednego punktu końcowego oceniania do wielu wdrożeń w razie potrzeby. Jest to przydatne w scenariuszach, takich jak kontrolowane wdrażanie.

Usługa Azure ML obsługuje dwa typy punktów końcowych: online i batch. Punkty końcowe online obsługują wnioskowanie w czasie rzeczywistym, podczas gdy punkty końcowe wsadowe są używane do oceniania wsadowego w trybie offline.

Polecenia

Nazwa Opis Typ Stan
az ml online-endpoint create

Utwórz punkt końcowy.

 Numer wewnętrzny Ogólna dostępność
az ml online-endpoint delete

Usuwanie punktu końcowego.

 Numer wewnętrzny Ogólna dostępność
az ml online-endpoint get-credentials

Wyświetl listę tokenów/kluczy dla punktu końcowego online.

 Numer wewnętrzny Ogólna dostępność
az ml online-endpoint invoke

Wywoływanie punktu końcowego.

 Numer wewnętrzny Ogólna dostępność
az ml online-endpoint list

Wyświetlanie listy punktów końcowych w obszarze roboczym.

 Numer wewnętrzny Ogólna dostępność
az ml online-endpoint regenerate-keys

Wygeneruj ponownie klucze dla punktu końcowego online.

 Numer wewnętrzny Ogólna dostępność
az ml online-endpoint show

Pokaż szczegóły punktu końcowego.

 Numer wewnętrzny Ogólna dostępność
az ml online-endpoint update

Aktualizowanie punktu końcowego.

 Numer wewnętrzny Ogólna dostępność

az ml online-endpoint create

Utwórz punkt końcowy.

Aby utworzyć punkt końcowy, podaj plik YAML z konfiguracją punktu końcowego online. Jeśli punkt końcowy już istnieje, zakończy się niepowodzeniem. Jeśli chcesz zaktualizować istniejący punkt końcowy, użyj polecenia az ml online-endpoint update.

az ml online-endpoint create --resource-group
                             --workspace-name
                             [--auth-mode]
                             [--file]
                             [--local {false, true}]
                             [--name]
                             [--no-wait]
                             [--set]
                             [--web]

Przykłady

Tworzenie punktu końcowego na podstawie pliku specyfikacji YAML

az ml online-endpoint create --file endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Parametry wymagane

--resource-group -g

Nazwa grupy zasobów. Grupę domyślną można skonfigurować przy użyciu polecenia az configure --defaults group=<name>.

--workspace-name -w

Nazwa obszaru roboczego usługi Azure ML. Domyślny obszar roboczy można skonfigurować przy użyciu polecenia az configure --defaults workspace=<name>.

Parametry opcjonalne

--auth-mode

Metoda uwierzytelniania dla punktu końcowego. Dozwolone wartości: klucz, aml_token. Wartość domyślna: klucz.

--file -f

Ścieżka lokalna do pliku YAML zawierającego specyfikację punktu końcowego online usługi Azure ML. Dokumentację referencyjną YAML dotyczącą punktu końcowego online można znaleźć na stronie: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--local

Utwórz punkt końcowy lokalnie. Uwaga: ruch i uwierzytelnianie nie są obsługiwane lokalnie. Możesz bezpośrednio użyć polecenia "az ml online-deployment create --local". Jeśli taki punkt końcowy nie istnieje, zostanie utworzony punkt końcowy.

akceptowane wartości: false, true
wartość domyślna: False
--name -n

Nazwa punktu końcowego online.

--no-wait

Nie czekaj na zakończenie długotrwałej operacji. Wartość domyślna to False.

wartość domyślna: False
--set

Zaktualizuj obiekt, określając ścieżkę właściwości i wartość do ustawienia. Przykład: --set property1.property2=.

--web -e

Pokaż szczegóły punktu końcowego w programie Azure ML Studio w przeglądarce internetowej.

wartość domyślna: False
Parametry globalne
--debug

Zwiększ szczegółowość rejestrowania, aby wyświetlić wszystkie dzienniki debugowania.

--help -h

Pokaż ten komunikat pomocy i zakończ pracę.

--only-show-errors

Pokaż tylko błędy, pomijając ostrzeżenia.

--output -o

Format danych wyjściowych.

akceptowane wartości: json, jsonc, none, table, tsv, yaml, yamlc
wartość domyślna: json
--query

Ciąg zapytania JMESPath. Zobacz http://jmespath.org/ , aby uzyskać więcej informacji i przykładów.

--subscription

Nazwa lub identyfikator subskrypcji. Subskrypcję domyślną można skonfigurować przy użyciu polecenia az account set -s NAME_OR_ID.

--verbose

Zwiększ szczegółowość rejestrowania. Użyj --debuguj, aby uzyskać pełne dzienniki debugowania.

az ml online-endpoint delete

Usuwanie punktu końcowego.

az ml online-endpoint delete --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--no-wait]
                             [--yes]

Przykłady

Usuwanie punktu końcowego online, w tym wszystkich wdrożeń

az ml online-endpoint delete --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parametry wymagane

--name -n

Nazwa punktu końcowego online.

--resource-group -g

Nazwa grupy zasobów. Grupę domyślną można skonfigurować przy użyciu polecenia az configure --defaults group=<name>.

--workspace-name -w

Nazwa obszaru roboczego usługi Azure ML. Domyślny obszar roboczy można skonfigurować przy użyciu polecenia az configure --defaults workspace=<name>.

Parametry opcjonalne

--local

Usuń lokalny punkt końcowy.

akceptowane wartości: false, true
wartość domyślna: False
--no-wait

Nie czekaj na zakończenie długotrwałej operacji. Wartość domyślna to False.

wartość domyślna: False
--yes -y

Nie monituj o potwierdzenie.

wartość domyślna: False
Parametry globalne
--debug

Zwiększ szczegółowość rejestrowania, aby wyświetlić wszystkie dzienniki debugowania.

--help -h

Pokaż ten komunikat pomocy i zakończ pracę.

--only-show-errors

Pokaż tylko błędy, pomijając ostrzeżenia.

--output -o

Format danych wyjściowych.

akceptowane wartości: json, jsonc, none, table, tsv, yaml, yamlc
wartość domyślna: json
--query

Ciąg zapytania JMESPath. Zobacz http://jmespath.org/ , aby uzyskać więcej informacji i przykładów.

--subscription

Nazwa lub identyfikator subskrypcji. Subskrypcję domyślną można skonfigurować przy użyciu polecenia az account set -s NAME_OR_ID.

--verbose

Zwiększ szczegółowość rejestrowania. Użyj --debuguj, aby uzyskać pełne dzienniki debugowania.

az ml online-endpoint get-credentials

Wyświetl listę tokenów/kluczy dla punktu końcowego online.

az ml online-endpoint get-credentials --name
                                      --resource-group
                                      --workspace-name

Przykłady

Wyświetlanie listy kluczy dla punktu końcowego online

az ml online-endpoint get-credentials --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parametry wymagane

--name -n

Nazwa punktu końcowego online.

--resource-group -g

Nazwa grupy zasobów. Grupę domyślną można skonfigurować przy użyciu polecenia az configure --defaults group=<name>.

--workspace-name -w

Nazwa obszaru roboczego usługi Azure ML. Domyślny obszar roboczy można skonfigurować przy użyciu polecenia az configure --defaults workspace=<name>.

Parametry globalne
--debug

Zwiększ szczegółowość rejestrowania, aby wyświetlić wszystkie dzienniki debugowania.

--help -h

Pokaż ten komunikat pomocy i zakończ pracę.

--only-show-errors

Pokaż tylko błędy, pomijając ostrzeżenia.

--output -o

Format danych wyjściowych.

akceptowane wartości: json, jsonc, none, table, tsv, yaml, yamlc
wartość domyślna: json
--query

Ciąg zapytania JMESPath. Zobacz http://jmespath.org/ , aby uzyskać więcej informacji i przykładów.

--subscription

Nazwa lub identyfikator subskrypcji. Subskrypcję domyślną można skonfigurować przy użyciu polecenia az account set -s NAME_OR_ID.

--verbose

Zwiększ szczegółowość rejestrowania. Użyj --debuguj, aby uzyskać pełne dzienniki debugowania.

az ml online-endpoint invoke

Wywoływanie punktu końcowego.

Możesz wywołać punkt końcowy online z niektórymi danymi żądania. Będzie to wnioskowanie w czasie rzeczywistym, a wyniki oceniania zostaną zwrócone natychmiast.

az ml online-endpoint invoke --name
                             --resource-group
                             --workspace-name
                             [--deployment-name]
                             [--local {false, true}]
                             [--request-file]

Przykłady

Wywoływanie punktu końcowego online z danymi żądania

az ml online-endpoint invoke --name my-online-endpoint --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Wywoływanie punktu końcowego online przeznaczonego dla określonego wdrożenia

az ml online-endpoint invoke --name my-online-endpoint --deployment my-deployment --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Parametry wymagane

--name -n

Nazwa punktu końcowego online.

--resource-group -g

Nazwa grupy zasobów. Grupę domyślną można skonfigurować przy użyciu polecenia az configure --defaults group=<name>.

--workspace-name -w

Nazwa obszaru roboczego usługi Azure ML. Domyślny obszar roboczy można skonfigurować przy użyciu polecenia az configure --defaults workspace=<name>.

Parametry opcjonalne

--deployment-name -d

Nazwa wdrożenia docelowego.

--local

Wywoływanie lokalnego punktu końcowego. Będzie to działać tylko w przypadku utworzenia lokalnego wdrożenia dla tego punktu końcowego.

akceptowane wartości: false, true
wartość domyślna: False
--request-file -r

Ścieżka lokalna do pliku JSON zawierającego dane żądania.

Parametry globalne
--debug

Zwiększ szczegółowość rejestrowania, aby wyświetlić wszystkie dzienniki debugowania.

--help -h

Pokaż ten komunikat pomocy i zakończ pracę.

--only-show-errors

Pokaż tylko błędy, pomijając ostrzeżenia.

--output -o

Format danych wyjściowych.

akceptowane wartości: json, jsonc, none, table, tsv, yaml, yamlc
wartość domyślna: json
--query

Ciąg zapytania JMESPath. Zobacz http://jmespath.org/ , aby uzyskać więcej informacji i przykładów.

--subscription

Nazwa lub identyfikator subskrypcji. Subskrypcję domyślną można skonfigurować przy użyciu polecenia az account set -s NAME_OR_ID.

--verbose

Zwiększ szczegółowość rejestrowania. Użyj --debuguj, aby uzyskać pełne dzienniki debugowania.

az ml online-endpoint list

Wyświetlanie listy punktów końcowych w obszarze roboczym.

az ml online-endpoint list --resource-group
                           --workspace-name
                           [--local {false, true}]

Przykłady

Wyświetlanie listy wszystkich punktów końcowych online w obszarze roboczym

az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace

Wyświetlanie listy wszystkich punktów końcowych wsadowych w obszarze roboczym

az ml online-endpoint list  --resource-group my-resource-group --workspace-name my-workspace

Wyświetl listę wszystkich punktów końcowych online w obszarze roboczym przy użyciu argumentu --query w celu wykonania zapytania JMESPath na wynikach poleceń.

az ml online-endpoint list --query "[].{Name:name}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Parametry wymagane

--resource-group -g

Nazwa grupy zasobów. Grupę domyślną można skonfigurować przy użyciu polecenia az configure --defaults group=<name>.

--workspace-name -w

Nazwa obszaru roboczego usługi Azure ML. Domyślny obszar roboczy można skonfigurować przy użyciu polecenia az configure --defaults workspace=<name>.

Parametry opcjonalne

--local

Wyświetl listę wszystkich lokalnych punktów końcowych.

akceptowane wartości: false, true
wartość domyślna: False
Parametry globalne
--debug

Zwiększ szczegółowość rejestrowania, aby wyświetlić wszystkie dzienniki debugowania.

--help -h

Pokaż ten komunikat pomocy i zakończ pracę.

--only-show-errors

Pokaż tylko błędy, pomijając ostrzeżenia.

--output -o

Format danych wyjściowych.

akceptowane wartości: json, jsonc, none, table, tsv, yaml, yamlc
wartość domyślna: json
--query

Ciąg zapytania JMESPath. Zobacz http://jmespath.org/ , aby uzyskać więcej informacji i przykładów.

--subscription

Nazwa lub identyfikator subskrypcji. Subskrypcję domyślną można skonfigurować przy użyciu polecenia az account set -s NAME_OR_ID.

--verbose

Zwiększ szczegółowość rejestrowania. Użyj --debuguj, aby uzyskać pełne dzienniki debugowania.

az ml online-endpoint regenerate-keys

Wygeneruj ponownie klucze dla punktu końcowego online.

az ml online-endpoint regenerate-keys --name
                                      --resource-group
                                      --workspace-name
                                      [--key-type]
                                      [--no-wait]

Przykłady

Ponowne generowanie kluczy dla punktu końcowego online

az ml online-endpoint regenerate-keys --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parametry wymagane

--name -n

Nazwa punktu końcowego online.

--resource-group -g

Nazwa grupy zasobów. Grupę domyślną można skonfigurować przy użyciu polecenia az configure --defaults group=<name>.

--workspace-name -w

Nazwa obszaru roboczego usługi Azure ML. Domyślny obszar roboczy można skonfigurować przy użyciu polecenia az configure --defaults workspace=<name>.

Parametry opcjonalne

--key-type

Typ klucza do ponownego wygenerowania. Dozwolone wartości: podstawowy, pomocniczy.

wartość domyślna: primary
--no-wait

Nie czekaj na zakończenie długotrwałej operacji. Wartość domyślna to False.

wartość domyślna: False
Parametry globalne
--debug

Zwiększ szczegółowość rejestrowania, aby wyświetlić wszystkie dzienniki debugowania.

--help -h

Pokaż ten komunikat pomocy i zakończ pracę.

--only-show-errors

Pokaż tylko błędy, pomijając ostrzeżenia.

--output -o

Format danych wyjściowych.

akceptowane wartości: json, jsonc, none, table, tsv, yaml, yamlc
wartość domyślna: json
--query

Ciąg zapytania JMESPath. Zobacz http://jmespath.org/ , aby uzyskać więcej informacji i przykładów.

--subscription

Nazwa lub identyfikator subskrypcji. Subskrypcję domyślną można skonfigurować przy użyciu polecenia az account set -s NAME_OR_ID.

--verbose

Zwiększ szczegółowość rejestrowania. Użyj --debuguj, aby uzyskać pełne dzienniki debugowania.

az ml online-endpoint show

Pokaż szczegóły punktu końcowego.

az ml online-endpoint show --name
                           --resource-group
                           --workspace-name
                           [--local {false, true}]
                           [--web]

Przykłady

Pokaż szczegóły punktu końcowego wsadowego

az ml online-endpoint show --name my-online-endpoint  --resource-group my-resource-group --workspace-name my-workspace

Pokaż stan aprowizacji punktu końcowego przy użyciu argumentu --query w celu wykonania zapytania JMESPath na wynikach poleceń.

az ml online-endpoint show -n my-endpoint --query "{Name:name,State:provisioning_state}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Parametry wymagane

--name -n

Nazwa punktu końcowego online.

--resource-group -g

Nazwa grupy zasobów. Grupę domyślną można skonfigurować przy użyciu polecenia az configure --defaults group=<name>.

--workspace-name -w

Nazwa obszaru roboczego usługi Azure ML. Domyślny obszar roboczy można skonfigurować przy użyciu polecenia az configure --defaults workspace=<name>.

Parametry opcjonalne

--local

Pokaż lokalny punkt końcowy.

akceptowane wartości: false, true
wartość domyślna: False
--web -e

Pokaż szczegóły punktu końcowego w programie Azure ML Studio w przeglądarce internetowej.

wartość domyślna: False
Parametry globalne
--debug

Zwiększ szczegółowość rejestrowania, aby wyświetlić wszystkie dzienniki debugowania.

--help -h

Pokaż ten komunikat pomocy i zakończ pracę.

--only-show-errors

Pokaż tylko błędy, pomijając ostrzeżenia.

--output -o

Format danych wyjściowych.

akceptowane wartości: json, jsonc, none, table, tsv, yaml, yamlc
wartość domyślna: json
--query

Ciąg zapytania JMESPath. Zobacz http://jmespath.org/ , aby uzyskać więcej informacji i przykładów.

--subscription

Nazwa lub identyfikator subskrypcji. Subskrypcję domyślną można skonfigurować przy użyciu polecenia az account set -s NAME_OR_ID.

--verbose

Zwiększ szczegółowość rejestrowania. Użyj --debuguj, aby uzyskać pełne dzienniki debugowania.

az ml online-endpoint update

Aktualizowanie punktu końcowego.

Właściwości "description", "tags" i "traffic" punktu końcowego można zaktualizować. Ponadto nowe wdrożenia można dodać do punktu końcowego, a istniejące wdrożenia można zaktualizować.

az ml online-endpoint update --resource-group
                             --workspace-name
                             [--add]
                             [--file]
                             [--force-string]
                             [--local {false, true}]
                             [--mirror-traffic]
                             [--name]
                             [--no-wait]
                             [--remove]
                             [--set]
                             [--traffic]
                             [--web]

Przykłady

Aktualizowanie punktu końcowego z pliku specyfikacji YAML

az ml online-endpoint update --file updated_endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Aktualizowanie ustawień ruchu dla punktu końcowego

az ml online-endpoint update --name my-online-endpoint  --traffic "my-new-deployment=100" --resource-group my-resource-group --workspace-name my-workspace

Parametry wymagane

--resource-group -g

Nazwa grupy zasobów. Grupę domyślną można skonfigurować przy użyciu polecenia az configure --defaults group=<name>.

--workspace-name -w

Nazwa obszaru roboczego usługi Azure ML. Domyślny obszar roboczy można skonfigurować przy użyciu polecenia az configure --defaults workspace=<name>.

Parametry opcjonalne

--add

Dodaj obiekt do listy obiektów, określając pary ścieżki i wartości klucza. Przykład: --add property.listProperty <key=value, string or JSON string>.

wartość domyślna: []
--file -f

Ścieżka lokalna do pliku YAML zawierającego specyfikację punktu końcowego online usługi Azure ML. Dokumentację referencyjną YAML dotyczącą punktu końcowego online można znaleźć na stronie: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--force-string

W przypadku używania polecenia "set" lub "add" zachowaj literały ciągu zamiast próbować konwertować na format JSON.

wartość domyślna: False
--local

Zaktualizuj lokalny punkt końcowy.

akceptowane wartości: false, true
wartość domyślna: False
--mirror-traffic

Kieruje zduplikowany procent ruchu na żywo do trenowania wdrożenia.

--name -n

Nazwa punktu końcowego online.

--no-wait

Nie czekaj na zakończenie długotrwałej operacji. Wartość domyślna to False.

wartość domyślna: False
--remove

Usuń właściwość lub element z listy. Przykład: --remove property.list <indexToRemove> OR --remove propertyToRemove.

wartość domyślna: []
--set

Zaktualizuj obiekt, określając ścieżkę właściwości i wartość do ustawienia. Przykład: --set property1.property2=<value>.

wartość domyślna: []
--traffic -r

Pary klucz-wartość rozdzielone spacjami w cudzysłowie dla ustawień ruchu dla punktu końcowego.

--web -e

Pokaż szczegóły punktu końcowego w programie Azure ML Studio w przeglądarce internetowej.

wartość domyślna: False
Parametry globalne
--debug

Zwiększ szczegółowość rejestrowania, aby wyświetlić wszystkie dzienniki debugowania.

--help -h

Pokaż ten komunikat pomocy i zakończ pracę.

--only-show-errors

Pokaż tylko błędy, pomijając ostrzeżenia.

--output -o

Format danych wyjściowych.

akceptowane wartości: json, jsonc, none, table, tsv, yaml, yamlc
wartość domyślna: json
--query

Ciąg zapytania JMESPath. Zobacz http://jmespath.org/ , aby uzyskać więcej informacji i przykładów.

--subscription

Nazwa lub identyfikator subskrypcji. Subskrypcję domyślną można skonfigurować przy użyciu polecenia az account set -s NAME_OR_ID.

--verbose

Zwiększ szczegółowość rejestrowania. Użyj --debuguj, aby uzyskać pełne dzienniki debugowania.