Freigeben über


az ml online-deployment

Note

This reference is part of the ml extension for the Azure CLI (version 2.15.0 or higher). Die Erweiterung wird automatisch installiert, wenn Sie einen az ml Onlinebereitstellungsbefehl ausführen. Learn more about extensions.

Verwalten von Azure ML-Onlinebereitstellungen.

Azure ML-Bereitstellungen bieten eine einfache Schnittstelle zum Erstellen und Verwalten von Modellbereitstellungen.

Befehle

Name Beschreibung Typ Status
az ml online-deployment create

Erstellen Sie eine Bereitstellung. Wenn die Bereitstellung bereits vorhanden ist, schlägt sie fehl. Wenn Sie die vorhandene Bereitstellung aktualisieren möchten, verwenden Sie az ml Onlinebereitstellungsupdate.

Extension GA
az ml online-deployment delete

Löscht eine Bereitstellung.

Extension GA
az ml online-deployment get-logs

Rufen Sie die Containerprotokolle für eine Onlinebereitstellung ab.

Extension GA
az ml online-deployment list

List deployments.

Extension GA
az ml online-deployment show

Anzeigen einer Bereitstellung.

Extension GA
az ml online-deployment update

Aktualisieren sie eine Bereitstellung.

Extension GA

az ml online-deployment create

Erstellen Sie eine Bereitstellung. Wenn die Bereitstellung bereits vorhanden ist, schlägt sie fehl. Wenn Sie die vorhandene Bereitstellung aktualisieren möchten, verwenden Sie az ml Onlinebereitstellungsupdate.

Die empfohlene Compute-SKU ist Standard_DS3_v2 für endpunkte allgemeine Zwecke. Weitere Informationen zu SKUs finden Sie hier: https://learn.microsoft.com/en-us/azure/machine-learning/reference-managed-online-endpoints-vm-sku-list.

az ml online-deployment create --file
                               --resource-group
                               --workspace-name
                               [--all-traffic]
                               [--endpoint-name]
                               [--local {false, true}]
                               [--local-enable-gpu {false, true}]
                               [--name]
                               [--no-wait]
                               [--package-model]
                               [--set]
                               [--skip-script-validation]
                               [--vscode-debug {false, true}]
                               [--web]

Beispiele

Erstellen einer Bereitstellung aus einer YAML-Spezifikationsdatei

az ml online-deployment create --file deployment.yaml --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--file -f

Lokaler Pfad zur YAML-Datei, die die Azure ML-Onlinebereitstellungsspezifikation enthält. Die YAML-Referenzdokumente für die Onlinebereitstellung finden Sie unter: https://aka.ms/ml-cli-v2-deployment-managed-online-yaml-reference, https://aka.ms/ml-cli-v2-deployment-kubernetes-online-yaml-reference.

--resource-group -g

Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Optionale Parameter

The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.

--all-traffic

Legt endpunktverkehr 100% auf diese Bereitstellung nach erfolgreicher Erstellung fest, funktioniert nicht mit --no-wait.

Eigenschaft Wert
Standardwert: False
--endpoint-name -e

Name des Onlineendpunkts.

--local

Erstellen Sie die Bereitstellung lokal mithilfe von Docker. Pro Endpunkt ist nur eine Bereitstellung zulässig. Hinweis: Wenn der angegebene Endpunkt nicht vorhanden ist, wird er erstellt.

Eigenschaft Wert
Standardwert: False
Zulässige Werte: false, true
--local-enable-gpu

Aktivieren Sie GPU für die lokale Bereitstellung.

Eigenschaft Wert
Standardwert: False
Zulässige Werte: false, true
--name -n

Name der Bereitstellung.

--no-wait

Warten Sie nicht, bis der lange ausgeführte Vorgang abgeschlossen ist.

Eigenschaft Wert
Standardwert: False
--package-model

[DIES BEFINDET SICH IN DER VORSCHAU] Erstellen Sie eine verpackte Umgebung aus dem Bereitstellungs-Yaml, und verwenden Sie die verpackte Umgebung für die Bereitstellung.

Eigenschaft Wert
Standardwert: False
--set

Aktualisieren Sie ein Objekt, indem Sie einen festzulegenden Eigenschaftspfad und -wert angeben. Beispiel: --set property1.property2=value.

--skip-script-validation

Ermöglicht es Benutzern, die Überprüfung von Bereitstellungsbewertungsskripts zu umgehen.

Eigenschaft Wert
Standardwert: False
--vscode-debug

Erstellen Sie einen lokalen Endpunkt, und fügen Sie den VSCode-Debugger an. Funktioniert nur mit --local flag.

Eigenschaft Wert
Standardwert: False
Zulässige Werte: false, true
--web

Zeigen Sie die Details der Bereitstellung in Azure ML Studio in einem Webbrowser an.

Eigenschaft Wert
Standardwert: False
Globale Parameter
--debug

Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.

Eigenschaft Wert
Standardwert: False
--help -h

Diese Hilfemeldung anzeigen und schließen.

--only-show-errors

Nur Fehler anzeigen, Warnungen unterdrücken.

Eigenschaft Wert
Standardwert: False
--output -o

Output format.

Eigenschaft Wert
Standardwert: json
Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.

--verbose

Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.

Eigenschaft Wert
Standardwert: False

az ml online-deployment delete

Löscht eine Bereitstellung.

az ml online-deployment delete --endpoint-name
                               --name
                               --resource-group
                               --workspace-name
                               [--local {false, true}]
                               [--no-wait]
                               [--yes]

Beispiele

Löschen einer Bereitstellung mit Bestätigung

az ml online-deployment delete --name my-deployment --endpoint-name my-endpoint --yes --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--endpoint-name -e

Name des Onlineendpunkts.

--name -n

Name der Bereitstellung.

--resource-group -g

Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Optionale Parameter

The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.

--local

Löschen Sie die lokale Bereitstellung aus der Docker-Umgebung.

Eigenschaft Wert
Standardwert: False
Zulässige Werte: false, true
--no-wait

Warten Sie nicht, bis der lange ausgeführte Vorgang abgeschlossen ist.

Eigenschaft Wert
Standardwert: False
--yes -y

Zur Bestätigung nicht auffordern.

Eigenschaft Wert
Standardwert: False
Globale Parameter
--debug

Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.

Eigenschaft Wert
Standardwert: False
--help -h

Diese Hilfemeldung anzeigen und schließen.

--only-show-errors

Nur Fehler anzeigen, Warnungen unterdrücken.

Eigenschaft Wert
Standardwert: False
--output -o

Output format.

Eigenschaft Wert
Standardwert: json
Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.

--verbose

Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.

Eigenschaft Wert
Standardwert: False

az ml online-deployment get-logs

Rufen Sie die Containerprotokolle für eine Onlinebereitstellung ab.

az ml online-deployment get-logs --endpoint-name
                                 --name
                                 --resource-group
                                 --workspace-name
                                 [--container]
                                 [--lines]
                                 [--local {false, true}]

Beispiele

Abrufen der Containerprotokolle für eine Onlinebereitstellung

az ml online-deployment get-logs --name my-deployment --endpoint-name my-endpoint --lines 100 --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--endpoint-name -e

Name des Onlineendpunkts.

--name -n

Name der Bereitstellung.

--resource-group -g

Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Optionale Parameter

The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.

--container -c

Der Containertyp, aus dem Protokolle abgerufen werden sollen. Zulässige Werte: Inference-Server, Storage-Initializer.

--lines -l

Die maximale Anzahl von Linien bis zum Schwanz.

Eigenschaft Wert
Standardwert: 5000
--local

Abrufen von Protokollen aus der lokalen Bereitstellung in der Docker-Umgebung.

Eigenschaft Wert
Standardwert: False
Zulässige Werte: false, true
Globale Parameter
--debug

Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.

Eigenschaft Wert
Standardwert: False
--help -h

Diese Hilfemeldung anzeigen und schließen.

--only-show-errors

Nur Fehler anzeigen, Warnungen unterdrücken.

Eigenschaft Wert
Standardwert: False
--output -o

Output format.

Eigenschaft Wert
Standardwert: json
Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.

--verbose

Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.

Eigenschaft Wert
Standardwert: False

az ml online-deployment list

List deployments.

az ml online-deployment list --endpoint-name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]

Beispiele

Auflisten der Bereitstellung in einem Endpunkt

az ml online-deployment list --endpoint-name my-endpoint --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--endpoint-name -e

Name des Endpunkts.

--resource-group -g

Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Optionale Parameter

The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.

--local

Auflisten der lokalen Bereitstellung unter diesem lokalen Endpunkt.

Eigenschaft Wert
Standardwert: False
Zulässige Werte: false, true
Globale Parameter
--debug

Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.

Eigenschaft Wert
Standardwert: False
--help -h

Diese Hilfemeldung anzeigen und schließen.

--only-show-errors

Nur Fehler anzeigen, Warnungen unterdrücken.

Eigenschaft Wert
Standardwert: False
--output -o

Output format.

Eigenschaft Wert
Standardwert: json
Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.

--verbose

Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.

Eigenschaft Wert
Standardwert: False

az ml online-deployment show

Anzeigen einer Bereitstellung.

az ml online-deployment show --endpoint-name
                             --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--web]

Beispiele

Anzeigen einer Bereitstellung

az ml online-deployment show --name my-deployment --endpoint-name my-endpoint --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--endpoint-name -e

Name des Onlineendpunkts.

--name -n

Name der Bereitstellung.

--resource-group -g

Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Optionale Parameter

The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.

--local

Lokale Bereitstellung aus Docker-Umgebung anzeigen.

Eigenschaft Wert
Standardwert: False
Zulässige Werte: false, true
--web

Zeigen Sie die Details der Bereitstellung in Azure ML Studio in einem Webbrowser an.

Eigenschaft Wert
Standardwert: False
Globale Parameter
--debug

Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.

Eigenschaft Wert
Standardwert: False
--help -h

Diese Hilfemeldung anzeigen und schließen.

--only-show-errors

Nur Fehler anzeigen, Warnungen unterdrücken.

Eigenschaft Wert
Standardwert: False
--output -o

Output format.

Eigenschaft Wert
Standardwert: json
Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.

--verbose

Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.

Eigenschaft Wert
Standardwert: False

az ml online-deployment update

Aktualisieren sie eine Bereitstellung.

az ml online-deployment update --resource-group
                               --workspace-name
                               [--add]
                               [--endpoint-name]
                               [--file]
                               [--force-string]
                               [--local {false, true}]
                               [--local-enable-gpu {false, true}]
                               [--name]
                               [--no-wait]
                               [--remove]
                               [--set]
                               [--skip-script-validation]
                               [--vscode-debug {false, true}]
                               [--web]

Beispiele

Aktualisieren einer Bereitstellung aus einer YAML-Spezifikationsdatei

az ml online-deployment update --file deployment.yaml --resource-group my-resource-group --workspace-name my-workspace

Erforderliche Parameter

--resource-group -g

Name der Ressourcengruppe. Sie können die Standardgruppe mit az configure --defaults group=<name>konfigurieren.

--workspace-name -w

Name des Azure ML-Arbeitsbereichs. Sie können den Standardarbeitsbereich mithilfe von az configure --defaults workspace=<name>.

Optionale Parameter

The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.

--add

Fügen Sie einer Liste von Objekten ein Objekt hinzu, indem Sie ein Pfad- und Schlüsselwertpaar angeben. Beispiel: --add property.listProperty <key=value, string or JSON string>.

Eigenschaft Wert
Parameter group: Generic Update Arguments
Standardwert: []
--endpoint-name -e

Name des Onlineendpunkts.

--file -f

Lokaler Pfad zur YAML-Datei, die die Azure ML-Onlinebereitstellungsspezifikation enthält. Die YAML-Referenzdokumente für die Onlinebereitstellung finden Sie unter: https://aka.ms/ml-cli-v2-deployment-managed-online-yaml-reference, https://aka.ms/ml-cli-v2-deployment-kubernetes-online-yaml-reference.

--force-string

Wenn Sie "set" oder "add" verwenden, behalten Sie Zeichenfolgenliterale bei, anstatt zu versuchen, in JSON zu konvertieren.

Eigenschaft Wert
Parameter group: Generic Update Arguments
Standardwert: False
--local

Aktualisieren sie die lokale Bereitstellung in der Docker-Umgebung.

Eigenschaft Wert
Standardwert: False
Zulässige Werte: false, true
--local-enable-gpu

Aktivieren Sie GPU für die lokale Bereitstellung.

Eigenschaft Wert
Standardwert: False
Zulässige Werte: false, true
--name -n

Name der Bereitstellung.

--no-wait

Warten Sie nicht, bis der lange ausgeführte Vorgang abgeschlossen ist.

Eigenschaft Wert
Standardwert: False
--remove

Entfernen sie eine Eigenschaft oder ein Element aus einer Liste. Beispiel: --remove property.list <indexToRemove> ODER --remove propertyToRemove.

Eigenschaft Wert
Parameter group: Generic Update Arguments
Standardwert: []
--set

Aktualisieren Sie ein Objekt, indem Sie einen festzulegenden Eigenschaftspfad und -wert angeben. Beispiel: --set property1.property2=<value>.

Eigenschaft Wert
Parameter group: Generic Update Arguments
Standardwert: []
--skip-script-validation

Ermöglicht es Benutzern, die Überprüfung von Bereitstellungsbewertungsskripts zu umgehen.

Eigenschaft Wert
Standardwert: False
--vscode-debug

Aktualisieren Des lokalen Endpunkts und erneutes Anfügen des VSCode-Debuggers. Funktioniert nur mit --local flag.

Eigenschaft Wert
Standardwert: False
Zulässige Werte: false, true
--web

Zeigen Sie die Details der Bereitstellung in Azure ML Studio in einem Webbrowser an.

Eigenschaft Wert
Standardwert: False
Globale Parameter
--debug

Erhöhen Sie die Ausführlichkeit der Protokollierung, um alle Debugprotokolle anzuzeigen.

Eigenschaft Wert
Standardwert: False
--help -h

Diese Hilfemeldung anzeigen und schließen.

--only-show-errors

Nur Fehler anzeigen, Warnungen unterdrücken.

Eigenschaft Wert
Standardwert: False
--output -o

Output format.

Eigenschaft Wert
Standardwert: json
Zulässige Werte: json, jsonc, none, table, tsv, yaml, yamlc
--query

JMESPath-Abfragezeichenfolge. Weitere Informationen und Beispiele finden Sie unter http://jmespath.org/.

--subscription

Name oder ID des Abonnements. Sie können das Standardabonnement mithilfe von az account set -s NAME_OR_IDkonfigurieren.

--verbose

Erhöhen Sie die Ausführlichkeit der Protokollierung. Verwenden Sie "-debug" für vollständige Debugprotokolle.

Eigenschaft Wert
Standardwert: False