az ml online-endpoint

  • Referenz

Hinweis

Diese Referenz ist Teil der ml-Erweiterung für die Azure CLI (Version 2.15.0 oder höher). Die Erweiterung wird automatisch installiert, wenn Sie einen Az ml Online-Endpunktbefehl zum ersten Mal ausführen. Weitere Informationen zu Erweiterungen

Verwalten von Azure ML-Onlineendpunkten.

Azure ML-Endpunkte bieten eine einfache Schnittstelle zum Erstellen und Verwalten von Modellbereitstellungen. Jeder Endpunkt kann über eine oder mehrere Bereitstellungen verfügen, sodass der Datenverkehr von einem einzelnen Bewertungsendpunkt bei Bedarf an mehrere Bereitstellungen bereitgestellt werden kann. Dies ist nützlich für Szenarien wie das kontrollierte Rollout.

Azure ML unterstützt zwei Arten von Endpunkten: Online und Batch. Onlineendpunkte unterstützen die Echtzeit-Ableitung, während Batchendpunkte für die Offlinebatchbewertung verwendet werden.

Befehle

Name Beschreibung Typ Status
az ml online-endpoint create

Erstellen Sie einen Endpunkt.

 Erweiterung Allgemein verfügbar
az ml online-endpoint delete

Löschen eines Endpunkts.

 Erweiterung Allgemein verfügbar
az ml online-endpoint get-credentials

Listen Sie die Token/Schlüssel für einen Onlineendpunkt auf.

 Erweiterung Allgemein verfügbar
az ml online-endpoint invoke

Rufen Sie einen Endpunkt auf.

 Erweiterung Allgemein verfügbar
az ml online-endpoint list

Endpunkte in einem Arbeitsbereich auflisten.

 Erweiterung Allgemein verfügbar
az ml online-endpoint regenerate-keys

Generieren Sie die Schlüssel für einen Onlineendpunkt neu.

 Erweiterung Allgemein verfügbar
az ml online-endpoint show

Details für einen Endpunkt anzeigen.

 Erweiterung Allgemein verfügbar
az ml online-endpoint update

Aktualisieren eines Endpunkts.

 Erweiterung Allgemein verfügbar

az ml online-endpoint create

Erstellen Sie einen Endpunkt.

Um einen Endpunkt zu erstellen, stellen Sie eine YAML-Datei mit der Onlineendpunktkonfiguration bereit. Wenn der Endpunkt bereits vorhanden ist, schlägt er fehl. Wenn Sie vorhandenen Endpunkt aktualisieren möchten, verwenden Sie az ml Online-Endpunktupdate.

az ml online-endpoint create --resource-group
                             --workspace-name
                             [--auth-mode]
                             [--file]
                             [--local {false, true}]
                             [--name]
                             [--no-wait]
                             [--set]
                             [--web]

Beispiele

Erstellen eines Endpunkts aus einer YAML-Spezifikationsdatei

az ml online-endpoint create --file endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Optionale Parameter

--auth-mode

Authentifizierungsmethode für den Endpunkt. Zulässige Werte: Schlüssel, aml_token. Standard: Taste.

--file -f

Lokaler Pfad zur YAML-Datei, die die Azure ML-Onlineendpunktspezifikation enthält. Die YAML-Referenzdokumente für Den Onlineendpunkt finden Sie unter: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--local

Endpunkt lokal erstellen. Hinweis: Datenverkehr und Authentifizierung werden lokal nicht unterstützt. Sie können "az ml online-deployment create --local" direkt verwenden. Wenn kein Endpunkt vorhanden ist, wird ein Endpunkt erstellt.

Zulässige Werte: false, true
Standardwert: False
--name -n

Name des Onlineendpunkts.

--no-wait

Warten Sie nicht, bis der lange ausgeführte Vorgang abgeschlossen ist. Der Standardwert lautet False.

Standardwert: False
--set

Aktualisieren Sie ein Objekt, indem Sie einen festzulegenden Eigenschaftspfad und -wert angeben. Beispiel: --set property1.property2=.

--web -e

Zeigen Sie die Details des Endpunkts in Azure ML Studio in einem Webbrowser an.

Standardwert: False
Globale Parameter
--debug

Ausführlichkeit der Protokollierung erhöhen, um alle Debugprotokolle anzuzeigen.

--help -h

Zeigen Sie diese Hilfemeldung an, und schließen Sie sie.

--only-show-errors

Nur Fehler anzeigen und Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
Standardwert: json
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Der Name oder die ID des Abonnements. Sie können das standardmäßig verwendete Abonnement mittels az account set -s NAME_OR_ID konfigurieren.

--verbose

Ausführlichkeit der Protokollierung erhöhen. „--debug“ für vollständige Debugprotokolle verwenden.

az ml online-endpoint delete

Löschen eines Endpunkts.

az ml online-endpoint delete --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--no-wait]
                             [--yes]

Beispiele

Löschen eines Onlineendpunkts, einschließlich aller Bereitstellungen

az ml online-endpoint delete --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--name -n

Name des Onlineendpunkts.

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Optionale Parameter

--local

Löschen Sie den lokalen Endpunkt.

Zulässige Werte: false, true
Standardwert: False
--no-wait

Warten Sie nicht, bis der lange ausgeführte Vorgang abgeschlossen ist. Der Standardwert lautet False.

Standardwert: False
--yes -y

Nicht zur Bestätigung auffordern

Standardwert: False
Globale Parameter
--debug

Ausführlichkeit der Protokollierung erhöhen, um alle Debugprotokolle anzuzeigen.

--help -h

Zeigen Sie diese Hilfemeldung an, und schließen Sie sie.

--only-show-errors

Nur Fehler anzeigen und Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
Standardwert: json
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Der Name oder die ID des Abonnements. Sie können das standardmäßig verwendete Abonnement mittels az account set -s NAME_OR_ID konfigurieren.

--verbose

Ausführlichkeit der Protokollierung erhöhen. „--debug“ für vollständige Debugprotokolle verwenden.

az ml online-endpoint get-credentials

Listen Sie die Token/Schlüssel für einen Onlineendpunkt auf.

az ml online-endpoint get-credentials --name
                                      --resource-group
                                      --workspace-name

Beispiele

Auflisten der Schlüssel für einen Onlineendpunkt

az ml online-endpoint get-credentials --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--name -n

Name des Onlineendpunkts.

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Globale Parameter
--debug

Ausführlichkeit der Protokollierung erhöhen, um alle Debugprotokolle anzuzeigen.

--help -h

Zeigen Sie diese Hilfemeldung an, und schließen Sie sie.

--only-show-errors

Nur Fehler anzeigen und Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
Standardwert: json
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Der Name oder die ID des Abonnements. Sie können das standardmäßig verwendete Abonnement mittels az account set -s NAME_OR_ID konfigurieren.

--verbose

Ausführlichkeit der Protokollierung erhöhen. „--debug“ für vollständige Debugprotokolle verwenden.

az ml online-endpoint invoke

Rufen Sie einen Endpunkt auf.

Sie können einen Onlineendpunkt mit einigen Anforderungsdaten aufrufen. Dies erfolgt in Echtzeit, und die Bewertungsergebnisse werden sofort zurückgegeben.

az ml online-endpoint invoke --name
                             --resource-group
                             --workspace-name
                             [--deployment-name]
                             [--local {false, true}]
                             [--request-file]

Beispiele

Aufrufen eines Onlineendpunkts mit einigen Anforderungsdaten

az ml online-endpoint invoke --name my-online-endpoint --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Aufrufen eines Onlineendpunkts für eine bestimmte Bereitstellung

az ml online-endpoint invoke --name my-online-endpoint --deployment my-deployment --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--name -n

Name des Onlineendpunkts.

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Optionale Parameter

--deployment-name -d

Name der Bereitstellung, die als Ziel verwendet werden soll.

--local

Rufen Sie den lokalen Endpunkt auf. Dies funktioniert nur, wenn für diesen Endpunkt eine lokale Bereitstellung erstellt wurde.

Zulässige Werte: false, true
Standardwert: False
--request-file -r

Lokaler Pfad zur JSON-Datei, die die Anforderungsdaten enthält.

Globale Parameter
--debug

Ausführlichkeit der Protokollierung erhöhen, um alle Debugprotokolle anzuzeigen.

--help -h

Zeigen Sie diese Hilfemeldung an, und schließen Sie sie.

--only-show-errors

Nur Fehler anzeigen und Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
Standardwert: json
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Der Name oder die ID des Abonnements. Sie können das standardmäßig verwendete Abonnement mittels az account set -s NAME_OR_ID konfigurieren.

--verbose

Ausführlichkeit der Protokollierung erhöhen. „--debug“ für vollständige Debugprotokolle verwenden.

az ml online-endpoint list

Endpunkte in einem Arbeitsbereich auflisten.

az ml online-endpoint list --resource-group
                           --workspace-name
                           [--local {false, true}]

Beispiele

Auflisten aller Onlineendpunkte in einem Arbeitsbereich

az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace

Auflisten aller Batchendpunkte in einem Arbeitsbereich

az ml online-endpoint list  --resource-group my-resource-group --workspace-name my-workspace

Listet alle Onlineendpunkte in einem Arbeitsbereich mithilfe des Arguments --query auf, um eine JMESPath-Abfrage für die Ergebnisse von Befehlen auszuführen.

az ml online-endpoint list --query "[].{Name:name}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Optionale Parameter

--local

Listet alle lokalen Endpunkte auf.

Zulässige Werte: false, true
Standardwert: False
Globale Parameter
--debug

Ausführlichkeit der Protokollierung erhöhen, um alle Debugprotokolle anzuzeigen.

--help -h

Zeigen Sie diese Hilfemeldung an, und schließen Sie sie.

--only-show-errors

Nur Fehler anzeigen und Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
Standardwert: json
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Der Name oder die ID des Abonnements. Sie können das standardmäßig verwendete Abonnement mittels az account set -s NAME_OR_ID konfigurieren.

--verbose

Ausführlichkeit der Protokollierung erhöhen. „--debug“ für vollständige Debugprotokolle verwenden.

az ml online-endpoint regenerate-keys

Generieren Sie die Schlüssel für einen Onlineendpunkt neu.

az ml online-endpoint regenerate-keys --name
                                      --resource-group
                                      --workspace-name
                                      [--key-type]
                                      [--no-wait]

Beispiele

Neu generieren der Schlüssel für einen Onlineendpunkt

az ml online-endpoint regenerate-keys --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--name -n

Name des Onlineendpunkts.

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Optionale Parameter

--key-type

Der Typ des zu generierenden Schlüssels. Zulässige Werte: primär, sekundär.

Standardwert: primary
--no-wait

Warten Sie nicht, bis der lange ausgeführte Vorgang abgeschlossen ist. Der Standardwert lautet False.

Standardwert: False
Globale Parameter
--debug

Ausführlichkeit der Protokollierung erhöhen, um alle Debugprotokolle anzuzeigen.

--help -h

Zeigen Sie diese Hilfemeldung an, und schließen Sie sie.

--only-show-errors

Nur Fehler anzeigen und Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
Standardwert: json
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Der Name oder die ID des Abonnements. Sie können das standardmäßig verwendete Abonnement mittels az account set -s NAME_OR_ID konfigurieren.

--verbose

Ausführlichkeit der Protokollierung erhöhen. „--debug“ für vollständige Debugprotokolle verwenden.

az ml online-endpoint show

Details für einen Endpunkt anzeigen.

az ml online-endpoint show --name
                           --resource-group
                           --workspace-name
                           [--local {false, true}]
                           [--web]

Beispiele

Anzeigen der Details für einen Batchendpunkt

az ml online-endpoint show --name my-online-endpoint  --resource-group my-resource-group --workspace-name my-workspace

Zeigen Sie den Bereitstellungsstatus eines Endpunkts mithilfe des Arguments --query an, um eine JMESPath-Abfrage für die Ergebnisse von Befehlen auszuführen.

az ml online-endpoint show -n my-endpoint --query "{Name:name,State:provisioning_state}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--name -n

Name des Onlineendpunkts.

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Optionale Parameter

--local

Zeigen Sie den lokalen Endpunkt an.

Zulässige Werte: false, true
Standardwert: False
--web -e

Zeigen Sie die Details des Endpunkts in Azure ML Studio in einem Webbrowser an.

Standardwert: False
Globale Parameter
--debug

Ausführlichkeit der Protokollierung erhöhen, um alle Debugprotokolle anzuzeigen.

--help -h

Zeigen Sie diese Hilfemeldung an, und schließen Sie sie.

--only-show-errors

Nur Fehler anzeigen und Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
Standardwert: json
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Der Name oder die ID des Abonnements. Sie können das standardmäßig verwendete Abonnement mittels az account set -s NAME_OR_ID konfigurieren.

--verbose

Ausführlichkeit der Protokollierung erhöhen. „--debug“ für vollständige Debugprotokolle verwenden.

az ml online-endpoint update

Aktualisieren eines Endpunkts.

Die Eigenschaften "description", "tags" und "traffic" eines Endpunkts können aktualisiert werden. Darüber hinaus können neue Bereitstellungen zu einem Endpunkt hinzugefügt werden, und vorhandene Bereitstellungen können aktualisiert werden.

az ml online-endpoint update --resource-group
                             --workspace-name
                             [--add]
                             [--file]
                             [--force-string]
                             [--local {false, true}]
                             [--mirror-traffic]
                             [--name]
                             [--no-wait]
                             [--remove]
                             [--set]
                             [--traffic]
                             [--web]

Beispiele

Aktualisieren eines Endpunkts aus einer YAML-Spezifikationsdatei

az ml online-endpoint update --file updated_endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Aktualisieren der Datenverkehrseinstellungen für einen Endpunkt

az ml online-endpoint update --name my-online-endpoint  --traffic "my-new-deployment=100" --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--resource-group -g

Name der Ressourcengruppe Sie können die Standardgruppe mit az configure --defaults group=<name> konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Optionale Parameter

--add

Fügen Sie einer Liste von Objekten ein Objekt hinzu, indem Sie ein Pfad- und Schlüsselwertpaar angeben. Beispiel: --add property.listProperty <key=value, string or JSON string>.

Standardwert: []
--file -f

Lokaler Pfad zur YAML-Datei, die die Azure ML-Onlineendpunktspezifikation enthält. Die YAML-Referenzdokumente für Den Onlineendpunkt finden Sie unter: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--force-string

Wenn Sie "set" oder "add" verwenden, behalten Sie Zeichenfolgenliterale bei, anstatt zu versuchen, in JSON zu konvertieren.

Standardwert: False
--local

Aktualisieren sie den lokalen Endpunkt.

Zulässige Werte: false, true
Standardwert: False
--mirror-traffic

Leitet einen doppelten Prozentsatz des Livedatenverkehrs an einen Zug einer Bereitstellung weiter.

--name -n

Name des Onlineendpunkts.

--no-wait

Warten Sie nicht, bis der lange ausgeführte Vorgang abgeschlossen ist. Der Standardwert lautet False.

Standardwert: False
--remove

Entfernen sie eine Eigenschaft oder ein Element aus einer Liste. Beispiel: --remove property.list <indexToRemove> ODER --remove propertyToRemove.

Standardwert: []
--set

Aktualisieren Sie ein Objekt, indem Sie einen festzulegenden Eigenschaftspfad und -wert angeben. Beispiel: --set property1.property2=<value>.

Standardwert: []
--traffic -r

Leerzeichentrennte Schlüsselwertpaare in Anführungszeichen für die Datenverkehrseinstellungen für den Endpunkt.

--web -e

Zeigen Sie die Details des Endpunkts in Azure ML Studio in einem Webbrowser an.

Standardwert: False
Globale Parameter
--debug

Ausführlichkeit der Protokollierung erhöhen, um alle Debugprotokolle anzuzeigen.

--help -h

Zeigen Sie diese Hilfemeldung an, und schließen Sie sie.

--only-show-errors

Nur Fehler anzeigen und Warnungen unterdrücken.

--output -o

Ausgabeformat.

Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
Standardwert: json
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Der Name oder die ID des Abonnements. Sie können das standardmäßig verwendete Abonnement mittels az account set -s NAME_OR_ID konfigurieren.

--verbose

Ausführlichkeit der Protokollierung erhöhen. „--debug“ für vollständige Debugprotokolle verwenden.