az ml online-deployment

Catatan

Referensi ini adalah bagian dari ekstensi ml untuk Azure CLI (versi 2.15.0 atau yang lebih tinggi). Ekstensi akan secara otomatis menginstal pertama kali Anda menjalankan perintah az ml online-deployment . Pelajari lebih lanjut tentang ekstensi.

Mengelola penyebaran online Azure ML.

Penyebaran Azure ML menyediakan antarmuka sederhana untuk membuat dan mengelola penyebaran model.

Perintah

Nama	Deskripsi	Jenis	Status
az ml online-deployment create	Buat penyebaran. Jika penyebaran sudah ada, penyebaran akan gagal. Jika Anda ingin memperbarui penyebaran yang ada, gunakan az ml online-deployment update.	Ekstensi	GA
az ml online-deployment delete	Menghapus penyebaran.	Ekstensi	GA
az ml online-deployment get-logs	Dapatkan log kontainer untuk penyebaran online.	Ekstensi	GA
az ml online-deployment list	Daftar penyebaran.	Ekstensi	GA
az ml online-deployment show	Tampilkan penyebaran.	Ekstensi	GA
az ml online-deployment update	Memperbarui penyebaran.	Ekstensi	GA

az ml online-deployment create

Buat penyebaran. Jika penyebaran sudah ada, penyebaran akan gagal. Jika Anda ingin memperbarui penyebaran yang ada, gunakan az ml online-deployment update.

SKU komputasi minimum yang direkomendasikan Standard_DS3_v2 untuk titik akhir tujuan umum. Pelajari lebih lanjut tentang SKU di sini: https://learn.microsoft.com/en-us/azure/machine-learning/reference-managed-online-endpoints-vm-sku-list.

az ml online-deployment create --file
                               --resource-group
                               --workspace-name
                               [--all-traffic]
                               [--endpoint-name]
                               [--local {false, true}]
                               [--local-enable-gpu {false, true}]
                               [--name]
                               [--no-wait]
                               [--package-model]
                               [--set]
                               [--skip-script-validation]
                               [--vscode-debug {false, true}]
                               [--web]

Contoh

Membuat penyebaran dari file spesifikasi YAML

az ml online-deployment create --file deployment.yaml --resource-group my-resource-group --workspace-name my-workspace

Parameter yang Diperlukan

--file -f

Jalur lokal ke file YAML yang berisi spesifikasi penyebaran online Azure ML. Dokumen referensi YAML untuk penyebaran online dapat ditemukan di: https://aka.ms/ml-cli-v2-deployment-managed-online-yaml-reference, https://aka.ms/ml-cli-v2-deployment-kubernetes-online-yaml-reference.

--resource-group -g

Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>.

--workspace-name -w

Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>.

Parameter Opsional

--all-traffic

Mengatur lalu lintas titik akhir 100% ke penyebaran ini setelah pembuatan berhasil, tidak berfungsi dengan --no-wait.

nilai default: False

--endpoint-name -e

Nama titik akhir online.

--local

Buat penyebaran secara lokal menggunakan Docker. Hanya satu penyebaran per titik akhir yang diizinkan. Catatan: Jika titik akhir yang ditentukan tidak ada, titik akhir akan dibuat.

nilai yang diterima: false, true

nilai default: False

--local-enable-gpu

Aktifkan GPU untuk penyebaran lokal.

nilai yang diterima: false, true

nilai default: False

--name -n

Nama penyebaran.

--no-wait

Jangan menunggu operasi jangka panjang selesai.

nilai default: False

--package-model

[INI DALAM PRATINJAU] Buat lingkungan paket dari yaml penyebaran dan gunakan lingkungan paket untuk penyebaran.

nilai default: False

--set

Perbarui objek dengan menentukan jalur properti dan nilai yang akan diatur. Contoh: --set property1.property2=.

--skip-script-validation

Memungkinkan pengguna untuk melewati validasi skrip penilaian penyebaran.

nilai default: False

--vscode-debug

Buat titik akhir lokal dan lampirkan debugger VSCode. Hanya berfungsi dengan bendera --lokal.

nilai yang diterima: false, true

nilai default: False

--web

Tampilkan detail penyebaran di studio Azure ML di browser web.

nilai default: False

Parameter Global

--debug

Meningkatkan verbositas pengelogan untuk menampilkan semua log debug.

--help -h

Menampilkan pesan bantuan ini dan keluar.

--only-show-errors

Hanya menampilkan kesalahan, menyembunyikan peringatan.

--output -o

Format output.

nilai yang diterima: json, jsonc, none, table, tsv, yaml, yamlc

nilai default: json

--query

String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi selengkapnya beserta contohnya.

--subscription

Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID.

--verbose

Meningkatkan verbositas pengelogan. Gunakan --debug untuk log waktu lengkap.

az ml online-deployment delete

Menghapus penyebaran.

az ml online-deployment delete --endpoint-name
                               --name
                               --resource-group
                               --workspace-name
                               [--local {false, true}]
                               [--no-wait]
                               [--yes]

Contoh

Menghapus penyebaran dengan konfirmasi

az ml online-deployment delete --name my-deployment --endpoint-name my-endpoint --yes --resource-group my-resource-group --workspace-name my-workspace

Parameter yang Diperlukan

--endpoint-name -e

Nama titik akhir online.

--name -n

Nama penyebaran.

--resource-group -g

Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>.

--workspace-name -w

Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>.

Parameter Opsional

--local

Hapus penyebaran lokal dari lingkungan Docker.

nilai yang diterima: false, true

nilai default: False

--no-wait

Jangan menunggu operasi jangka panjang selesai.

nilai default: False

--yes -y

Jangan meminta konfirmasi.

nilai default: False

Parameter Global

--debug

Meningkatkan verbositas pengelogan untuk menampilkan semua log debug.

--help -h

Menampilkan pesan bantuan ini dan keluar.

--only-show-errors

Hanya menampilkan kesalahan, menyembunyikan peringatan.

--output -o

Format output.

nilai yang diterima: json, jsonc, none, table, tsv, yaml, yamlc

nilai default: json

--query

String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi selengkapnya beserta contohnya.

--subscription

Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID.

--verbose

Meningkatkan verbositas pengelogan. Gunakan --debug untuk log waktu lengkap.

az ml online-deployment get-logs

Dapatkan log kontainer untuk penyebaran online.

az ml online-deployment get-logs --endpoint-name
                                 --name
                                 --resource-group
                                 --workspace-name
                                 [--container]
                                 [--lines]
                                 [--local {false, true}]

Contoh

Mendapatkan log kontainer untuk penyebaran online

az ml online-deployment get-logs --name my-deployment --endpoint-name my-endpoint --lines 100 --resource-group my-resource-group --workspace-name my-workspace

Parameter yang Diperlukan

--endpoint-name -e

Nama titik akhir online.

--name -n

Nama penyebaran.

--resource-group -g

Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>.

--workspace-name -w

Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>.

Parameter Opsional

--container -c

Jenis kontainer untuk mengambil log. Nilai yang diizinkan: inference-server, storage-initializer.

--lines -l

Jumlah maksimum garis untuk ekor.

nilai default: 5000

--local

Dapatkan log dari penyebaran lokal di lingkungan Docker.

nilai yang diterima: false, true

nilai default: False

Parameter Global

--debug

Meningkatkan verbositas pengelogan untuk menampilkan semua log debug.

--help -h

Menampilkan pesan bantuan ini dan keluar.

--only-show-errors

Hanya menampilkan kesalahan, menyembunyikan peringatan.

--output -o

Format output.

nilai yang diterima: json, jsonc, none, table, tsv, yaml, yamlc

nilai default: json

--query

String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi selengkapnya beserta contohnya.

--subscription

Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID.

--verbose

Meningkatkan verbositas pengelogan. Gunakan --debug untuk log waktu lengkap.

az ml online-deployment list

Daftar penyebaran.

az ml online-deployment list --endpoint-name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]

Contoh

Mencantumkan penyebaran di titik akhir

az ml online-deployment list --endpoint-name my-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parameter yang Diperlukan

--endpoint-name -e

Nama titik akhir.

--resource-group -g

Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>.

--workspace-name -w

Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>.

Parameter Opsional

--local

Cantumkan penyebaran lokal di bawah titik akhir lokal ini.

nilai yang diterima: false, true

nilai default: False

Parameter Global

--debug

Meningkatkan verbositas pengelogan untuk menampilkan semua log debug.

--help -h

Menampilkan pesan bantuan ini dan keluar.

--only-show-errors

Hanya menampilkan kesalahan, menyembunyikan peringatan.

--output -o

Format output.

nilai yang diterima: json, jsonc, none, table, tsv, yaml, yamlc

nilai default: json

--query

String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi selengkapnya beserta contohnya.

--subscription

Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID.

--verbose

Meningkatkan verbositas pengelogan. Gunakan --debug untuk log waktu lengkap.

az ml online-deployment show

Tampilkan penyebaran.

az ml online-deployment show --endpoint-name
                             --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--web]

Contoh

Perlihatkan penyebaran

az ml online-deployment show --name my-deployment --endpoint-name my-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parameter yang Diperlukan

--endpoint-name -e

Nama titik akhir online.

--name -n

Nama penyebaran.

--resource-group -g

Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>.

--workspace-name -w

Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>.

Parameter Opsional

--local

Tampilkan penyebaran lokal dari lingkungan Docker.

nilai yang diterima: false, true

nilai default: False

--web

Tampilkan detail penyebaran di studio Azure ML di browser web.

nilai default: False

Parameter Global

--debug

Meningkatkan verbositas pengelogan untuk menampilkan semua log debug.

--help -h

Menampilkan pesan bantuan ini dan keluar.

--only-show-errors

Hanya menampilkan kesalahan, menyembunyikan peringatan.

--output -o

Format output.

nilai yang diterima: json, jsonc, none, table, tsv, yaml, yamlc

nilai default: json

--query

String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi selengkapnya beserta contohnya.

--subscription

Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID.

--verbose

Meningkatkan verbositas pengelogan. Gunakan --debug untuk log waktu lengkap.

az ml online-deployment update

Memperbarui penyebaran.

az ml online-deployment update --resource-group
                               --workspace-name
                               [--add]
                               [--endpoint-name]
                               [--file]
                               [--force-string]
                               [--local {false, true}]
                               [--local-enable-gpu {false, true}]
                               [--name]
                               [--no-wait]
                               [--remove]
                               [--set]
                               [--skip-script-validation]
                               [--vscode-debug {false, true}]
                               [--web]

Contoh

Memperbarui penyebaran dari file spesifikasi YAML

az ml online-deployment update --file deployment.yaml --resource-group my-resource-group --workspace-name my-workspace

Parameter yang Diperlukan

--resource-group -g

Nama grup sumber daya. Anda dapat mengonfigurasi grup default menggunakan az configure --defaults group=<name>.

--workspace-name -w

Nama ruang kerja Azure ML. Anda dapat mengonfigurasi ruang kerja default menggunakan az configure --defaults workspace=<name>.

Parameter Opsional

--add

Tambahkan objek ke daftar objek dengan menentukan jalur dan pasangan nilai kunci. Contoh: --add property.listProperty <key=value, string or JSON string>.

nilai default: []

--endpoint-name -e

Nama titik akhir online.

--file -f

Jalur lokal ke file YAML yang berisi spesifikasi penyebaran online Azure ML. Dokumen referensi YAML untuk penyebaran online dapat ditemukan di: https://aka.ms/ml-cli-v2-deployment-managed-online-yaml-reference, https://aka.ms/ml-cli-v2-deployment-kubernetes-online-yaml-reference.

--force-string

Saat menggunakan 'set' atau 'add', pertahankan literal string alih-alih mencoba mengonversi ke JSON.

nilai default: False

--local

Perbarui penyebaran lokal di lingkungan Docker.

nilai yang diterima: false, true

nilai default: False

--local-enable-gpu

Aktifkan GPU untuk penyebaran lokal.

nilai yang diterima: false, true

nilai default: False

--name -n

Nama penyebaran.

--no-wait

Jangan menunggu operasi jangka panjang selesai.

nilai default: False

--remove

Menghapus properti atau elemen dari daftar. Contoh: --remove property.list <indexToRemove> ATAU --remove propertyToRemove.

nilai default: []

--set

Perbarui objek dengan menentukan jalur properti dan nilai yang akan diatur. Contoh: --set property1.property2=<value>.

nilai default: []

--skip-script-validation

Memungkinkan pengguna untuk melewati validasi skrip penilaian penyebaran.

nilai default: False

--vscode-debug

Perbarui titik akhir lokal dan lampirkan ulang debugger VSCode. Hanya berfungsi dengan bendera --lokal.

nilai yang diterima: false, true

nilai default: False

--web

Tampilkan detail penyebaran di studio Azure ML di browser web.

nilai default: False

Parameter Global

--debug

Meningkatkan verbositas pengelogan untuk menampilkan semua log debug.

--help -h

Menampilkan pesan bantuan ini dan keluar.

--only-show-errors

Hanya menampilkan kesalahan, menyembunyikan peringatan.

--output -o

Format output.

nilai yang diterima: json, jsonc, none, table, tsv, yaml, yamlc

nilai default: json

--query

String kueri JMESPath. Lihat http://jmespath.org/ untuk informasi selengkapnya beserta contohnya.

--subscription

Nama atau ID langganan. Anda dapat mengonfigurasi langganan default menggunakan az account set -s NAME_OR_ID.

--verbose

Meningkatkan verbositas pengelogan. Gunakan --debug untuk log waktu lengkap.