az ml online-deployment

參考

注意

此參考是 Azure CLI 的 ml 延伸模組的一部分（2.15.0 版或更高版本）。擴充功能會在您第一次執行 az ml online-deployment 命令時自動安裝。深入了解擴充功能。

管理 Azure ML 在線部署。

Azure ML 部署提供簡單的介面來建立和管理模型部署。

命令

名稱	Description	類型	狀態
az ml online-deployment create	建立部署。如果部署已經存在，將會失敗。如果您想要更新現有的部署，請使用 az ml online-deployment update。	副檔名	GA
az ml online-deployment delete	刪除部署。	副檔名	GA
az ml online-deployment get-logs	取得在線部署的容器記錄。	副檔名	GA
az ml online-deployment list	列出部署。	副檔名	GA
az ml online-deployment show	顯示部署。	副檔名	GA
az ml online-deployment update	更新部署。	副檔名	GA

az ml online-deployment create

建立部署。如果部署已經存在，將會失敗。如果您想要更新現有的部署，請使用 az ml online-deployment update。

針對一般用途端點，建議的最低計算 SKU Standard_DS3_v2。在這裡深入瞭解 SKU： https://learn.microsoft.com/en-us/azure/machine-learning/reference-managed-online-endpoints-vm-sku-list。

az ml online-deployment create --file
                               --resource-group
                               --workspace-name
                               [--all-traffic]
                               [--endpoint-name]
                               [--local {false, true}]
                               [--local-enable-gpu {false, true}]
                               [--name]
                               [--no-wait]
                               [--package-model]
                               [--set]
                               [--skip-script-validation]
                               [--vscode-debug {false, true}]
                               [--web]

範例

從 YAML 規格檔案建立部署

az ml online-deployment create --file deployment.yaml --resource-group my-resource-group --workspace-name my-workspace

必要參數

--file -f

YAML 檔案的本機路徑，其中包含 Azure ML 在線部署規格。在線部署的 YAML 參考檔位於： https://aka.ms/ml-cli-v2-deployment-managed-online-yaml-reference、 https://aka.ms/ml-cli-v2-deployment-kubernetes-online-yaml-reference。

--resource-group -g

資源群組的名稱。您可以使用 az configure --defaults group=<name> 來設定預設群組。

--workspace-name -w

Azure ML 工作區的名稱。您可以使用來設定預設工作區 az configure --defaults workspace=<name>。

選擇性參數

--all-traffic

在成功建立之後，將端點流量 100% 設定為此部署，不適用於 --no-wait。

預設值: False

--endpoint-name -e

在線端點的名稱。

--local

使用 Docker 在本機建立部署。每個端點只允許一個部署。注意：如果指定的端點不存在，則會建立它。

接受的值: false, true

預設值: False

--local-enable-gpu

啟用 GPU 以進行本機部署。

接受的值: false, true

預設值: False

--name -n

部署的名稱。

--no-wait

請勿等候長時間執行的作業完成。

預設值: False

--package-model

[這是預覽版]從部署 yaml 建立封裝環境，並使用封裝的環境進行部署。

預設值: False

--set

指定要設定的屬性路徑和值，以更新物件。範例：--set property1.property2=。

--skip-script-validation

允許使用者略過部署評分腳本驗證。

預設值: False

--vscode-debug

建立本機端點並附加 VSCode 調試程式。僅適用於 --local 旗標。

接受的值: false, true

預設值: False

--web

在網頁瀏覽器中顯示 Azure ML Studio 中的部署詳細數據。

預設值: False

全域參數

--debug

增加記錄詳細資訊，以顯示所有偵錯記錄。

--help -h

顯示此說明訊息並結束。

--only-show-errors

只顯示錯誤，隱藏警告。

--output -o

輸出格式。

接受的值: json, jsonc, none, table, tsv, yaml, yamlc

預設值: json

--query

JMESPath 查詢字串。如需詳細資訊和範例，請參閱 http://jmespath.org/。

--subscription

訂用帳戶的名稱或識別碼。您可以使用來設定預設訂用 az account set -s NAME_OR_ID帳戶。

--verbose

增加記錄詳細資訊。使用 --debug 來取得完整偵錯記錄。

az ml online-deployment delete

刪除部署。

az ml online-deployment delete --endpoint-name
                               --name
                               --resource-group
                               --workspace-name
                               [--local {false, true}]
                               [--no-wait]
                               [--yes]

範例

使用確認刪除部署

az ml online-deployment delete --name my-deployment --endpoint-name my-endpoint --yes --resource-group my-resource-group --workspace-name my-workspace

必要參數

--endpoint-name -e

在線端點的名稱。

--name -n

部署的名稱。

--resource-group -g

資源群組的名稱。您可以使用 az configure --defaults group=<name> 來設定預設群組。

--workspace-name -w

Azure ML 工作區的名稱。您可以使用來設定預設工作區 az configure --defaults workspace=<name>。

選擇性參數

--local

從 Docker 環境刪除本機部署。

接受的值: false, true

預設值: False

--no-wait

請勿等候長時間執行的作業完成。

預設值: False

--yes -y

不提示確認。

預設值: False

全域參數

--debug

增加記錄詳細資訊，以顯示所有偵錯記錄。

--help -h

顯示此說明訊息並結束。

--only-show-errors

只顯示錯誤，隱藏警告。

--output -o

輸出格式。

接受的值: json, jsonc, none, table, tsv, yaml, yamlc

預設值: json

--query

JMESPath 查詢字串。如需詳細資訊和範例，請參閱 http://jmespath.org/。

--subscription

訂用帳戶的名稱或識別碼。您可以使用來設定預設訂用 az account set -s NAME_OR_ID帳戶。

--verbose

增加記錄詳細資訊。使用 --debug 來取得完整偵錯記錄。

az ml online-deployment get-logs

取得在線部署的容器記錄。

az ml online-deployment get-logs --endpoint-name
                                 --name
                                 --resource-group
                                 --workspace-name
                                 [--container]
                                 [--lines]
                                 [--local {false, true}]

範例

取得在線部署的容器記錄

az ml online-deployment get-logs --name my-deployment --endpoint-name my-endpoint --lines 100 --resource-group my-resource-group --workspace-name my-workspace

必要參數

--endpoint-name -e

在線端點的名稱。

--name -n

部署的名稱。

--resource-group -g

資源群組的名稱。您可以使用 az configure --defaults group=<name> 來設定預設群組。

--workspace-name -w

Azure ML 工作區的名稱。您可以使用來設定預設工作區 az configure --defaults workspace=<name>。

選擇性參數

--container -c

要從中擷取記錄的容器類型。允許的值：inference-server、storage-initializer。

--lines -l

要尾端的行數上限。

預設值: 5000

--local

從 Docker 環境中的本機部署取得記錄。

接受的值: false, true

預設值: False

全域參數

--debug

增加記錄詳細資訊，以顯示所有偵錯記錄。

--help -h

顯示此說明訊息並結束。

--only-show-errors

只顯示錯誤，隱藏警告。

--output -o

輸出格式。

接受的值: json, jsonc, none, table, tsv, yaml, yamlc

預設值: json

--query

JMESPath 查詢字串。如需詳細資訊和範例，請參閱 http://jmespath.org/。

--subscription

訂用帳戶的名稱或識別碼。您可以使用來設定預設訂用 az account set -s NAME_OR_ID帳戶。

--verbose

增加記錄詳細資訊。使用 --debug 來取得完整偵錯記錄。

az ml online-deployment list

列出部署。

az ml online-deployment list --endpoint-name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]

範例

列出端點中的部署

az ml online-deployment list --endpoint-name my-endpoint --resource-group my-resource-group --workspace-name my-workspace

必要參數

--endpoint-name -e

端點的名稱。

--resource-group -g

資源群組的名稱。您可以使用 az configure --defaults group=<name> 來設定預設群組。

--workspace-name -w

Azure ML 工作區的名稱。您可以使用來設定預設工作區 az configure --defaults workspace=<name>。

選擇性參數

--local

列出此本機端點下的本機部署。

接受的值: false, true

預設值: False

全域參數

--debug

增加記錄詳細資訊，以顯示所有偵錯記錄。

--help -h

顯示此說明訊息並結束。

--only-show-errors

只顯示錯誤，隱藏警告。

--output -o

輸出格式。

接受的值: json, jsonc, none, table, tsv, yaml, yamlc

預設值: json

--query

JMESPath 查詢字串。如需詳細資訊和範例，請參閱 http://jmespath.org/。

--subscription

訂用帳戶的名稱或識別碼。您可以使用來設定預設訂用 az account set -s NAME_OR_ID帳戶。

--verbose

增加記錄詳細資訊。使用 --debug 來取得完整偵錯記錄。

az ml online-deployment show

顯示部署。

az ml online-deployment show --endpoint-name
                             --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--web]

範例

顯示部署

az ml online-deployment show --name my-deployment --endpoint-name my-endpoint --resource-group my-resource-group --workspace-name my-workspace

必要參數

--endpoint-name -e

在線端點的名稱。

--name -n

部署的名稱。

--resource-group -g

資源群組的名稱。您可以使用 az configure --defaults group=<name> 來設定預設群組。

--workspace-name -w

Azure ML 工作區的名稱。您可以使用來設定預設工作區 az configure --defaults workspace=<name>。

選擇性參數

--local

顯示來自 Docker 環境的本機部署。

接受的值: false, true

預設值: False

--web

在網頁瀏覽器中顯示 Azure ML Studio 中的部署詳細數據。

預設值: False

全域參數

--debug

增加記錄詳細資訊，以顯示所有偵錯記錄。

--help -h

顯示此說明訊息並結束。

--only-show-errors

只顯示錯誤，隱藏警告。

--output -o

輸出格式。

接受的值: json, jsonc, none, table, tsv, yaml, yamlc

預設值: json

--query

JMESPath 查詢字串。如需詳細資訊和範例，請參閱 http://jmespath.org/。

--subscription

訂用帳戶的名稱或識別碼。您可以使用來設定預設訂用 az account set -s NAME_OR_ID帳戶。

--verbose

增加記錄詳細資訊。使用 --debug 來取得完整偵錯記錄。

az ml online-deployment update

更新部署。

az ml online-deployment update --resource-group
                               --workspace-name
                               [--add]
                               [--endpoint-name]
                               [--file]
                               [--force-string]
                               [--local {false, true}]
                               [--local-enable-gpu {false, true}]
                               [--name]
                               [--no-wait]
                               [--remove]
                               [--set]
                               [--skip-script-validation]
                               [--vscode-debug {false, true}]
                               [--web]

範例

從 YAML 規格檔案更新部署

az ml online-deployment update --file deployment.yaml --resource-group my-resource-group --workspace-name my-workspace

必要參數

--resource-group -g

資源群組的名稱。您可以使用 az configure --defaults group=<name> 來設定預設群組。

--workspace-name -w

Azure ML 工作區的名稱。您可以使用來設定預設工作區 az configure --defaults workspace=<name>。

選擇性參數

--add

藉由指定路徑和索引鍵值組，將物件加入物件清單。範例：--add property.listProperty <key=value, string or JSON string>。

預設值: []

--endpoint-name -e

在線端點的名稱。

--file -f

--force-string

使用 'set' 或 'add' 時，請保留字串常值，而不是嘗試轉換成 JSON。

預設值: False

--local

更新 Docker 環境中的本機部署。

接受的值: false, true

預設值: False

--local-enable-gpu

啟用 GPU 以進行本機部署。

接受的值: false, true

預設值: False

--name -n

部署的名稱。

--no-wait

請勿等候長時間執行的作業完成。

預設值: False

--remove

從清單中移除屬性或專案。範例： --remove property.list <indexToRemove> 或 --remove propertyToRemove。

預設值: []

--set

指定要設定的屬性路徑和值，以更新物件。範例：--set property1.property2=<value>。

預設值: []

--skip-script-validation

允許使用者略過部署評分腳本驗證。

預設值: False

--vscode-debug

更新本機端點並重新附加 VSCode 調試程式。僅適用於 --local 旗標。

接受的值: false, true

預設值: False

--web

在網頁瀏覽器中顯示 Azure ML Studio 中的部署詳細數據。

預設值: False

全域參數

--debug

增加記錄詳細資訊，以顯示所有偵錯記錄。

--help -h

顯示此說明訊息並結束。

--only-show-errors

只顯示錯誤，隱藏警告。

--output -o

輸出格式。

接受的值: json, jsonc, none, table, tsv, yaml, yamlc

預設值: json

--query

JMESPath 查詢字串。如需詳細資訊和範例，請參閱 http://jmespath.org/。

--subscription

訂用帳戶的名稱或識別碼。您可以使用來設定預設訂用 az account set -s NAME_OR_ID帳戶。

--verbose

增加記錄詳細資訊。使用 --debug 來取得完整偵錯記錄。

共用方式為

az ml online-deployment

命令

az ml online-deployment create

範例

必要參數

選擇性參數

az ml online-deployment delete

範例

必要參數

選擇性參數

az ml online-deployment get-logs

範例

必要參數

選擇性參數

az ml online-deployment list

範例

必要參數

選擇性參數

az ml online-deployment show

範例

必要參數

選擇性參數

az ml online-deployment update

範例

必要參數

選擇性參數

其他資源