az ml online-deployment
Note
This reference is part of the ml extension for the Azure CLI (version 2.15.0 or higher). Die Erweiterung wird automatisch installiert, wenn Sie einen az ml Onlinebereitstellungsbefehl ausführen. Learn more about extensions.
Verwalten von Azure ML-Onlinebereitstellungen.
Azure ML-Bereitstellungen bieten eine einfache Schnittstelle zum Erstellen und Verwalten von Modellbereitstellungen.
Befehle
Name | Beschreibung | Typ | Status |
---|---|---|---|
az ml online-deployment create |
Erstellen Sie eine Bereitstellung. Wenn die Bereitstellung bereits vorhanden ist, schlägt sie fehl. Wenn Sie die vorhandene Bereitstellung aktualisieren möchten, verwenden Sie az ml Onlinebereitstellungsupdate. |
Extension | GA |
az ml online-deployment delete |
Löscht eine Bereitstellung. |
Extension | GA |
az ml online-deployment get-logs |
Rufen Sie die Containerprotokolle für eine Onlinebereitstellung ab. |
Extension | GA |
az ml online-deployment list |
List deployments. |
Extension | GA |
az ml online-deployment show |
Anzeigen einer Bereitstellung. |
Extension | GA |
az ml online-deployment update |
Aktualisieren sie eine Bereitstellung. |
Extension | GA |
az ml online-deployment create
Erstellen Sie eine Bereitstellung. Wenn die Bereitstellung bereits vorhanden ist, schlägt sie fehl. Wenn Sie die vorhandene Bereitstellung aktualisieren möchten, verwenden Sie az ml Onlinebereitstellungsupdate.
Die empfohlene Compute-SKU ist Standard_DS3_v2 für endpunkte allgemeine Zwecke. Weitere Informationen zu SKUs finden Sie hier: https://learn.microsoft.com/en-us/azure/machine-learning/reference-managed-online-endpoints-vm-sku-list.
az ml online-deployment create --file
--resource-group
--workspace-name
[--all-traffic]
[--endpoint-name]
[--local {false, true}]
[--local-enable-gpu {false, true}]
[--name]
[--no-wait]
[--package-model]
[--set]
[--skip-script-validation]
[--vscode-debug {false, true}]
[--web]
Beispiele
Erstellen einer Bereitstellung aus einer YAML-Spezifikationsdatei
az ml online-deployment create --file deployment.yaml --resource-group my-resource-group --workspace-name my-workspace
Erforderliche Parameter
Lokaler Pfad zur YAML-Datei, die die Azure ML-Onlinebereitstellungsspezifikation enthält. Die YAML-Referenzdokumente für die Onlinebereitstellung finden Sie unter: https://aka.ms/ml-cli-v2-deployment-managed-online-yaml-reference, https://aka.ms/ml-cli-v2-deployment-kubernetes-online-yaml-reference.
Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>
konfigurieren.
Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>
.
Optionale Parameter
The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.
Legt endpunktverkehr 100% auf diese Bereitstellung nach erfolgreicher Erstellung fest, funktioniert nicht mit --no-wait.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Name des Onlineendpunkts.
Erstellen Sie die Bereitstellung lokal mithilfe von Docker. Pro Endpunkt ist nur eine Bereitstellung zulässig. Hinweis: Wenn der angegebene Endpunkt nicht vorhanden ist, wird er erstellt.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Zulässige Werte: | false, true |
Aktivieren Sie GPU für die lokale Bereitstellung.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Zulässige Werte: | false, true |
Name der Bereitstellung.
Warten Sie nicht, bis der lange ausgeführte Vorgang abgeschlossen ist.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
[DIES BEFINDET SICH IN DER VORSCHAU] Erstellen Sie eine verpackte Umgebung aus dem Bereitstellungs-Yaml, und verwenden Sie die verpackte Umgebung für die Bereitstellung.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Aktualisieren Sie ein Objekt, indem Sie einen festzulegenden Eigenschaftspfad und -wert angeben. Beispiel: --set property1.property2=value.
Ermöglicht es Benutzern, die Überprüfung von Bereitstellungsbewertungsskripts zu umgehen.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Erstellen Sie einen lokalen Endpunkt, und fügen Sie den VSCode-Debugger an. Funktioniert nur mit --local flag.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Zulässige Werte: | false, true |
Zeigen Sie die Details der Bereitstellung in Azure ML Studio in einem Webbrowser an.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Globale Parameter
Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Diese Hilfemeldung anzeigen und schließen.
Nur Fehler anzeigen, Warnungen unterdrücken.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Output format.
Eigenschaft | Wert |
---|---|
Standardwert: | json |
Zulässige Werte: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.
Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_ID
konfigurieren.
Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
az ml online-deployment delete
Löscht eine Bereitstellung.
az ml online-deployment delete --endpoint-name
--name
--resource-group
--workspace-name
[--local {false, true}]
[--no-wait]
[--yes]
Beispiele
Löschen einer Bereitstellung mit Bestätigung
az ml online-deployment delete --name my-deployment --endpoint-name my-endpoint --yes --resource-group my-resource-group --workspace-name my-workspace
Erforderliche Parameter
Name des Onlineendpunkts.
Name der Bereitstellung.
Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>
konfigurieren.
Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>
.
Optionale Parameter
The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.
Löschen Sie die lokale Bereitstellung aus der Docker-Umgebung.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Zulässige Werte: | false, true |
Warten Sie nicht, bis der lange ausgeführte Vorgang abgeschlossen ist.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Zur Bestätigung nicht auffordern.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Globale Parameter
Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Diese Hilfemeldung anzeigen und schließen.
Nur Fehler anzeigen, Warnungen unterdrücken.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Output format.
Eigenschaft | Wert |
---|---|
Standardwert: | json |
Zulässige Werte: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.
Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_ID
konfigurieren.
Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
az ml online-deployment get-logs
Rufen Sie die Containerprotokolle für eine Onlinebereitstellung ab.
az ml online-deployment get-logs --endpoint-name
--name
--resource-group
--workspace-name
[--container]
[--lines]
[--local {false, true}]
Beispiele
Abrufen der Containerprotokolle für eine Onlinebereitstellung
az ml online-deployment get-logs --name my-deployment --endpoint-name my-endpoint --lines 100 --resource-group my-resource-group --workspace-name my-workspace
Erforderliche Parameter
Name des Onlineendpunkts.
Name der Bereitstellung.
Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>
konfigurieren.
Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>
.
Optionale Parameter
The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.
Der Containertyp, aus dem Protokolle abgerufen werden sollen. Zulässige Werte: Inference-Server, Storage-Initializer.
Die maximale Anzahl von Linien bis zum Schwanz.
Eigenschaft | Wert |
---|---|
Standardwert: | 5000 |
Abrufen von Protokollen aus der lokalen Bereitstellung in der Docker-Umgebung.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Zulässige Werte: | false, true |
Globale Parameter
Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Diese Hilfemeldung anzeigen und schließen.
Nur Fehler anzeigen, Warnungen unterdrücken.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Output format.
Eigenschaft | Wert |
---|---|
Standardwert: | json |
Zulässige Werte: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.
Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_ID
konfigurieren.
Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
az ml online-deployment list
List deployments.
az ml online-deployment list --endpoint-name
--resource-group
--workspace-name
[--local {false, true}]
Beispiele
Auflisten der Bereitstellung in einem Endpunkt
az ml online-deployment list --endpoint-name my-endpoint --resource-group my-resource-group --workspace-name my-workspace
Erforderliche Parameter
Name des Endpunkts.
Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>
konfigurieren.
Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>
.
Optionale Parameter
The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.
Auflisten der lokalen Bereitstellung unter diesem lokalen Endpunkt.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Zulässige Werte: | false, true |
Globale Parameter
Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Diese Hilfemeldung anzeigen und schließen.
Nur Fehler anzeigen, Warnungen unterdrücken.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Output format.
Eigenschaft | Wert |
---|---|
Standardwert: | json |
Zulässige Werte: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.
Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_ID
konfigurieren.
Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
az ml online-deployment show
Anzeigen einer Bereitstellung.
az ml online-deployment show --endpoint-name
--name
--resource-group
--workspace-name
[--local {false, true}]
[--web]
Beispiele
Anzeigen einer Bereitstellung
az ml online-deployment show --name my-deployment --endpoint-name my-endpoint --resource-group my-resource-group --workspace-name my-workspace
Erforderliche Parameter
Name des Onlineendpunkts.
Name der Bereitstellung.
Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>
konfigurieren.
Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>
.
Optionale Parameter
The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.
Lokale Bereitstellung aus Docker-Umgebung anzeigen.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Zulässige Werte: | false, true |
Zeigen Sie die Details der Bereitstellung in Azure ML Studio in einem Webbrowser an.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Globale Parameter
Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Diese Hilfemeldung anzeigen und schließen.
Nur Fehler anzeigen, Warnungen unterdrücken.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Output format.
Eigenschaft | Wert |
---|---|
Standardwert: | json |
Zulässige Werte: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.
Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_ID
konfigurieren.
Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
az ml online-deployment update
Aktualisieren sie eine Bereitstellung.
az ml online-deployment update --resource-group
--workspace-name
[--add]
[--endpoint-name]
[--file]
[--force-string]
[--local {false, true}]
[--local-enable-gpu {false, true}]
[--name]
[--no-wait]
[--remove]
[--set]
[--skip-script-validation]
[--vscode-debug {false, true}]
[--web]
Beispiele
Aktualisieren einer Bereitstellung aus einer YAML-Spezifikationsdatei
az ml online-deployment update --file deployment.yaml --resource-group my-resource-group --workspace-name my-workspace
Erforderliche Parameter
Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>
konfigurieren.
Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>
.
Optionale Parameter
The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.
Fügen Sie einer Liste von Objekten ein Objekt hinzu, indem Sie ein Pfad- und Schlüsselwertpaar angeben. Beispiel: --add property.listProperty <key=value, string or JSON string>
.
Eigenschaft | Wert |
---|---|
Parameter group: | Generic Update Arguments |
Standardwert: | [] |
Name des Onlineendpunkts.
Lokaler Pfad zur YAML-Datei, die die Azure ML-Onlinebereitstellungsspezifikation enthält. Die YAML-Referenzdokumente für die Onlinebereitstellung finden Sie unter: https://aka.ms/ml-cli-v2-deployment-managed-online-yaml-reference, https://aka.ms/ml-cli-v2-deployment-kubernetes-online-yaml-reference.
Wenn Sie "set" oder "add" verwenden, behalten Sie Zeichenfolgenliterale bei, anstatt zu versuchen, in JSON zu konvertieren.
Eigenschaft | Wert |
---|---|
Parameter group: | Generic Update Arguments |
Standardwert: | False |
Aktualisieren sie die lokale Bereitstellung in der Docker-Umgebung.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Zulässige Werte: | false, true |
Aktivieren Sie GPU für die lokale Bereitstellung.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Zulässige Werte: | false, true |
Name der Bereitstellung.
Warten Sie nicht, bis der lange ausgeführte Vorgang abgeschlossen ist.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Entfernen sie eine Eigenschaft oder ein Element aus einer Liste. Beispiel: --remove property.list <indexToRemove>
ODER --remove propertyToRemove
.
Eigenschaft | Wert |
---|---|
Parameter group: | Generic Update Arguments |
Standardwert: | [] |
Aktualisieren Sie ein Objekt, indem Sie einen festzulegenden Eigenschaftspfad und -wert angeben. Beispiel: --set property1.property2=<value>
.
Eigenschaft | Wert |
---|---|
Parameter group: | Generic Update Arguments |
Standardwert: | [] |
Ermöglicht es Benutzern, die Überprüfung von Bereitstellungsbewertungsskripts zu umgehen.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Aktualisieren Des lokalen Endpunkts und erneutes Anfügen des VSCode-Debuggers. Funktioniert nur mit --local flag.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Zulässige Werte: | false, true |
Zeigen Sie die Details der Bereitstellung in Azure ML Studio in einem Webbrowser an.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Globale Parameter
Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Diese Hilfemeldung anzeigen und schließen.
Nur Fehler anzeigen, Warnungen unterdrücken.
Eigenschaft | Wert |
---|---|
Standardwert: | False |
Output format.
Eigenschaft | Wert |
---|---|
Standardwert: | json |
Zulässige Werte: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.
Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_ID
konfigurieren.
Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.
Eigenschaft | Wert |
---|---|
Standardwert: | False |