Mengonfigurasi kontainer layanan Ucapan
Kontainer Ucapan memungkinkan pelanggan membuat satu arsitektur aplikasi ucapan yang dioptimalkan untuk memanfaatkan kemampuan cloud yang kuat dan lokalitas tepi.
Lingkungan runtime kontainer Ucapan dikonfigurasi menggunakan docker run argumen perintah. Kontainer ini memiliki beberapa pengaturan yang diperlukan dan opsional. Pengaturan khusus kontainer adalah pengaturan tagihan.
Pengaturan konfigurasi
Kontainer memiliki pengaturan konfigurasi berikut:
| Wajib | Pengaturan | Tujuan |
|---|---|---|
| Ya | ApiKey | Melacak informasi penagihan. |
| No | ApplicationInsights | Memungkinkan menambahkan dukungan telemetri Azure Application Insights ke kontainer Anda. |
| Ya | Billing | Menentukan URI titik akhir sumber daya layanan di Azure. |
| Ya | Eula | Menunjukkan bahwa Anda telah menerima lisensi untuk kontainer. |
| No | Fluentd | Menulis log dan, secara opsional, data metrik ke server Fluentd. |
| No | Proksi HTTP | Mengonfigurasi proksi HTTP untuk membuat permintaan keluar. |
| No | Pembuatan Log | Memberikan dukungan pengelogan ASP.NET Core untuk kontainer Anda. |
| No | Pemasangan | Membaca dan menulis data dari komputer host ke kontainer dan dari kontainer kembali ke komputer host. |
Penting
Pengaturan ApiKey, Billing, dan Eula digunakan bersama-sama, dan Anda harus menyediakan nilai yang valid untuk ketiganya; jika tidak, kontainer Anda tidak akan dimulai. Untuk informasi selengkapnya tentang menggunakan pengaturan konfigurasi ini untuk membuat instans kontainer, lihat Tagihan.
Pengaturan konfigurasi ApiKey
Pengaturan ApiKey menentukan kunci sumber daya Azure yang digunakan untuk melacak informasi penagihan untuk kontainer. Anda harus menentukan nilai untuk ApiKey dan nilai harus menjadi kunci yang valid untuk sumber daya Ucapan yang ditentukan untuk pengaturan konfigurasi Billing.
Pengaturan ini dapat ditemukan di tempat berikut:
- portal Azure: Manajemen Sumber Daya Ucapan, di bawah Kunci
Pengaturan ApplicationInsights
Pengaturan ApplicationInsights memungkinkan Anda menambahkan dukungan telemetri Azure Application Insights ke kontainer Anda. Application Insights menyediakan pemantauan mendalam kontainer Anda. Anda dapat dengan mudah memantau kontainer Anda untuk mengetahui ketersediaan, performa, dan penggunaan. Anda juga dapat dengan cepat mengidentifikasi dan mendiagnosis kesalahan dalam kontainer Anda.
Tabel berikut menjelaskan pengaturan konfigurasi yang didukung di bawah bagian ApplicationInsights.
| Wajib | Nama | Jenis data | Deskripsi |
|---|---|---|---|
| No | InstrumentationKey |
String | Kunci instrumentasi instans Application Insights tempat data telemetri untuk kontainer dikirim. Untuk mengetahui informasi selengkapnya, lihat Application Insights untuk ASP.NET Core. Contoh: InstrumentationKey=123456789 |
Pengaturan konfigurasi tagihan
Pengaturan Billing menentukan URI titik akhir sumber daya Ucapan di Azure yang digunakan untuk mengukur informasi penagihan untuk kontainer. Anda harus menentukan nilai untuk pengaturan konfigurasi ini, dan nilainya harus merupakan URI titik akhir yang valid untuk sumber daya Ucapan di Azure. Kontainer melaporkan penggunaan sekitar setiap 10 hingga 15 menit.
Pengaturan ini dapat ditemukan di tempat berikut:
- portal Azure: Diberi
Endpointlabel pada halaman Gambaran Umum ucapan
| Wajib | Nama | Jenis data | Deskripsi |
|---|---|---|---|
| Ya | Billing |
String | URI titik akhir penagihan. Untuk informasi selengkapnya tentang mendapatkan URI penagihan, lihat penagihan. Untuk informasi selengkapnya dan daftar lengkap titik akhir regional, lihat Nama subdomain kustom untuk layanan Azure AI. |
Pengaturan Eula
Pengaturan Eula menunjukkan bahwa Anda telah menerima lisensi untuk kontainer. Anda harus menentukan nilai untuk pengaturan konfigurasi ini, dan nilainya harus diatur ke accept.
| Wajib | Nama | Jenis data | Deskripsi |
|---|---|---|---|
| Ya | Eula |
String | Penerimaan lisensi Contoh: Eula=accept |
Kontainer layanan Azure AI dilisensikan berdasarkan perjanjian Anda yang mengatur penggunaan Azure. Jika Anda tidak memiliki perjanjian yang sudah ada yang mengatur penggunaan Azure oleh Anda, Anda setuju bahwa perjanjian yang mengatur penggunaan Azure adalah Perjanjian Langganan Microsoft Online, yang menggabungkan Ketentuan Layanan Online. Untuk pratinjau, Anda juga menyetujui Ketentuan Penggunaan Tambahan untuk Pratinjau Microsoft Azure. Dengan menggunakan kontainer, Anda menyetujui persyaratan ini.
Pengaturan Fluentd
Fluentd adalah kolektor data sumber terbuka untuk pengelogan terpadu. Pengaturan Fluentd mengelola koneksi kontainer ke server Fluentd. Kontainer ini mencakup penyedia pembuatan log Fluentd, yang memungkinkan kontainer Anda menulis log dan, secara opsional, data metrik ke server Fluentd.
Tabel berikut menjelaskan pengaturan konfigurasi yang didukung di bawah bagian Fluentd.
| Nama | Jenis data | Deskripsi |
|---|---|---|
Host |
String | Alamat IP atau nama host DNS server Fluentd. |
Port |
Bilangan bulat | Port server Fluentd. Nilai defaultnya adalah 24224. |
HeartbeatMs |
Bilangan bulat | Interval heartbeat, dalam milidetik. Jika tidak ada lalu lintas peristiwa yang dikirim sebelum interval ini berakhir, heartbeat dikirim ke server Fluentd. Nilai defaultnya adalah 60000 milidetik (1 menit). |
SendBufferSize |
Bilangan bulat | Ruang buffer jaringan, dalam byte, dialokasikan untuk operasi pengiriman. Nilai default adalah 32768 byte (32 kilobyte). |
TlsConnectionEstablishmentTimeoutMs |
Bilangan bulat | Waktu habis, dalam hitungan milidetik, untuk membangun sambungan SSL/TLS dengan server Fluentd. Nilai defaultnya adalah 10000 milidetik (10 detik). Jika UseTLS diatur ke false, nilai ini diabaikan. |
UseTLS |
Boolean | Menunjukkan apakah kontainer harus menggunakan SSL/TLS untuk berkomunikasi dengan server Fluentd. Nilai defaultnya adalah false. |
Pengaturan info masuk proksi HTTP
Jika Anda perlu mengonfigurasi proxy HTTP untuk membuat permintaan keluar, gunakan dua argumen berikut:
| Nama | Jenis data | Deskripsi |
|---|---|---|
| HTTP_PROXY | string | Proksi yang akan digunakan, misalnya, http://proxy:8888<proxy-url> |
| HTTP_PROXY_CREDS | string | Kredensial apa pun yang diperlukan untuk mengautentikasi terhadap proxy, misalnya, username:password. Nilai ini harus dalam huruf kecil. |
<proxy-user> |
string | Pengguna untuk proksi. |
<proxy-password> |
string | Kata sandi yang terkait dengan <proxy-user> untuk proksi. |
docker run --rm -it -p 5000:5000 \
--memory 2g --cpus 1 \
--mount type=bind,src=/home/azureuser/output,target=/output \
<registry-location>/<image-name> \
Eula=accept \
Billing=<endpoint> \
ApiKey=<api-key> \
HTTP_PROXY=<proxy-url> \
HTTP_PROXY_CREDS=<proxy-user>:<proxy-password> \
Pengaturan pengelogan
Pengaturan Logging mengelola ASP.NET Core log support untuk kontainer Anda. Anda dapat menggunakan pengaturan konfigurasi dan nilai yang sama untuk kontainer yang Anda gunakan untuk ASP.NET Core.
Penyedia pembuatan log berikut didukung oleh kontainer:
| Penyedia | Tujuan |
|---|---|
| Konsol | Penyedia log ASP.NET Console Core. Semua pengaturan konfigurasi ASP.NET dan nilai default untuk penyedia pembuatan log ini didukung. |
| Debug | Penyedia log ASP.NET Debug Core. Semua pengaturan konfigurasi ASP.NET dan nilai default untuk penyedia pembuatan log ini didukung. |
| Hard | Penyedia pencatatan log JSON. Penyedia pencatatan log ini menulis data log ke tempat output. |
Perintah kontainer ini menyimpan informasi pencatatan dalam format JSON ke tempat output:
docker run --rm -it -p 5000:5000 \
--memory 2g --cpus 1 \
--mount type=bind,src=/home/azureuser/output,target=/output \
<registry-location>/<image-name> \
Eula=accept \
Billing=<endpoint> \
ApiKey=<api-key> \
Logging:Disk:Format=json \
Mounts:Output=/output
Perintah kontainer ini menunjukkan informasi debugging, dia awali dengan dbug, saat kontainer sedang berjalan:
docker run --rm -it -p 5000:5000 \
--memory 2g --cpus 1 \
<registry-location>/<image-name> \
Eula=accept \
Billing=<endpoint> \
ApiKey=<api-key> \
Logging:Console:LogLevel:Default=Debug
Pencatatan log disk
Penyedia pencatatan log Disk mendukung setelan konfigurasi berikut ini:
| Nama | Jenis data | Deskripsi |
|---|---|---|
Format |
String | Format output untuk file log. Catatan: Nilai ini harus disetel json untuk mengaktifkan penyedia pembuatan log. Jika nilai ini ditentukan tanpa juga menentukan dudukan output saat instantiating kontainer, kesalahan terjadi. |
MaxFileSize |
Bilangan bulat | Ukuran maksimum, dalam megabyte (MB), dari file log. Ketika ukuran file log saat ini memenuhi atau melebihi nilai ini, file log baru dimulai oleh penyedia pembuatan log. Jika -1 dispesifikasikan, ukuran berkas log hanya dibatasi oleh ukuran berkas maksimum, jika ada, untuk keluaran mount. Nilai default adalah 1. |
Untuk informasi selengkapnya tentang mengonfigurasi ASP.NET log Core, lihat Pengaturan konfigurasi file.
Pengaturan Pemasangan
Gunakan pemasangan ikat untuk membaca dan menulis data ke dan dari kontainer. Anda dapat menentukan pemasangan input atau pemasangan output dengan menentukan opsi --mount di perintah eksekusi docker.
Kontainer Ucapan Standar tidak menggunakan pemasangan input atau output untuk menyimpan data pelatihan atau layanan. Namun, kontainer ucapan kustom mengandalkan pemasangan volume.
Sintaks yang tepat untuk lokasi pemasangan host bervariasi tergantung sistem operasi host. Selain itu, lokasi pemasangan komputer host mungkin tidak dapat diakses karena konflik antara izin yang digunakan oleh akun layanan docker dan izin lokasi pemasangan host.
| Opsional | Nama | Jenis data | Deskripsi |
|---|---|---|---|
| Tidak diizinkan | Input |
String | Kontainer Ucapan Standar tidak menggunakan ini. Kontainer ucapan kustom menggunakan pemasangan volume. |
| Opsional | Output |
String | Target dari pemasangan output. Nilai defaultnya adalah /output. Ini adalah lokasi log. Ini termasuk log kontainer. Contoh: --mount type=bind,src=c:\output,target=/output |
Pengaturan pemasangan volume
Kontainer ucapan kustom menggunakan pemasangan volume untuk mempertahankan model kustom. Anda dapat menentukan pemasangan volume dengan menambahkan opsi -v (atau --volume) ke perintah eksekusi docker.
Catatan
Pengaturan pemasangan volume hanya berlaku untuk kontainer ucapan ke teks kustom.
Model kustom diunduh pertama kali model baru diserap sebagai bagian dari perintah kontainer docker run ucapan kustom. Eksekusi berurutan yang sama ModelId untuk kontainer ucapan kustom menggunakan model yang diunduh sebelumnya. Jika pemasangan volume tidak disediakan, model kustom tidak dapat dipertahankan.
Pengaturan pemasangan volume terdiri dari tiga bidang yang dipisahkan : warna:
- Bidang pertama adalah nama volume pada komputer host, misalnya C:\input.
- Bidang kedua adalah direktori dalam kontainer, misalnya /usr/local/model.
- Bidang ketiga (opsional) adalah daftar opsi yang dipisahkan koma, untuk informasi selengkapnya, lihat menggunakan volume.
Berikut adalah contoh pemasangan volume yang memasang direktori C:\input komputer host ke direktori kontainer /usr/local/models.
-v C:\input:/usr/local/models