Menggunakan kontainer Docker di lingkungan yang terputus

Artikel
09/01/2024

Kontainer memungkinkan Anda menjalankan API layanan Azure AI di lingkungan Anda sendiri, dan sangat bagus untuk persyaratan keamanan dan tata kelola data spesifik Anda. Kontainer yang terputus memungkinkan Anda menggunakan beberapa API ini yang terputus dari internet. Saat ini, kontainer berikut dapat dijalankan dengan cara ini:

Sebelum mencoba menjalankan kontainer Docker di lingkungan offline, pastikan Anda mengetahui langkah-langkah untuk berhasil mengunduh dan menggunakan kontainer. Contohnya:

Persyaratan dan rekomendasi komputer host
Perintah Docker pull akan Anda gunakan untuk mengunduh kontainer.
Cara memvalidasi bahwa kontainer sedang berjalan.
Cara mengirim kueri ke titik akhir kontainer, setelah berjalan.

Meminta akses untuk menggunakan kontainer di lingkungan yang terputus

Isi dan kirimkan formulir permintaan untuk meminta persetujuan untuk menjalankan kontainer yang terputus dari internet.

Formulir meminta informasi tentang Anda, perusahaan Anda, dan skenario pengguna yang akan Anda gunakan untuk kontainer. Setelah Anda mengirimkan formulir, tim layanan Azure AI meninjaunya dan mengirimi Anda email dengan keputusan dalam waktu 10 hari kerja.

Penting

Pada formulir, Anda harus menggunakan alamat email yang terkait dengan ID langganan Azure.
Sumber daya Azure yang Anda gunakan untuk menjalankan kontainer harus dibuat dengan ID langganan Azure yang disetujui.
Periksa email Anda (kotak masuk dan folder sampah) untuk pembaruan status aplikasi Anda dari Microsoft.

Setelah disetujui, Anda akan dapat menjalankan kontainer setelah mengunduhnya dari Microsoft Container Registry (MCR), yang dijelaskan kemudian dalam artikel.

Anda tidak akan dapat menjalankan kontainer jika langganan Azure Anda belum disetujui.

Akses terbatas pada pelanggan yang memenuhi persyaratan berikut:

Organisasi Anda harus diidentifikasi sebagai pelanggan strategis atau bermitra dengan Microsoft.
Kontainer yang terputus diharapkan berjalan sepenuhnya offline, oleh karena itu kasus penggunaan Anda harus memenuhi salah satu persyaratan di bawah ini atau serupa:
- Lingkungan atau perangkat (s) dengan konektivitas nol ke internet.
- Lokasi terpencil yang terkadang memiliki akses internet.
- Organisasi di bawah peraturan ketat untuk tidak mengirim data apa pun kembali ke cloud.
Aplikasi selesai seperti yang diinstruksikan - Harap perhatikan panduan yang diberikan di seluruh aplikasi untuk memastikan Anda memberikan semua informasi yang diperlukan untuk persetujuan.

Membeli paket harga tingkat komitmen untuk kontainer yang terputus

Membuat grup sumber daya baru

Masuk ke portal Azure dan pilih Buat sumber daya baru untuk salah satu layanan Azure AI yang berlaku yang tercantum di atas.
Masukkan informasi yang berlaku untuk membuat sumber daya Anda. Pastikan untuk memilih kontainer terputus tingkat Komitmen sebagai tingkat harga Anda.
Catatan
- Anda hanya akan melihat opsi untuk membeli tingkat komitmen jika Anda telah disetujui oleh Microsoft.
- Detail harga misalnya saja.
Pilih Tinjau + Buat di bagian bawah halaman. Tinjau informasi dan pilih Buat.

Mengonfigurasi kontainer untuk penggunaan terputus

Lihat dokumentasi berikut untuk langkah-langkah mengunduh dan mengonfigurasi kontainer untuk penggunaan yang terputus:

Layanan Ucapan

Layanan Bahasa

Nama variabel lingkungan dalam penyebaran Kubernetes

Beberapa Kontainer Azure AI, misalnya Penerjemah, mengharuskan pengguna untuk meneruskan nama variabel lingkungan yang menyertakan titik dua (:) saat menjalankan kontainer. Ini akan berfungsi dengan baik saat menggunakan Docker, tetapi Kubernetes tidak menerima titik dua dalam nama variabel lingkungan. Untuk mengatasinya, Anda dapat mengganti titik dua dengan karakter garis bawah ganda (__) saat menyebarkan ke Kubernetes. Lihat contoh format yang dapat diterima berikut untuk nama variabel lingkungan:

        env:  
        - name: Mounts__License
          value: "/license"
        - name: Mounts__Output
          value: "/output"

Contoh ini menggantikan format default untuk Mounts:License nama variabel lingkungan dan Mounts:Output dalam perintah jalankan docker.

Pembaruan gambar dan lisensi kontainer

File lisensi kontainer digunakan sebagai kunci untuk mendekripsi file tertentu dalam setiap gambar kontainer. Jika file terenkripsi ini kebetulan diperbarui dalam gambar kontainer baru, file lisensi yang Anda miliki mungkin gagal memulai kontainer meskipun bekerja dengan versi gambar kontainer sebelumnya. Untuk menghindari masalah ini, kami sarankan Anda mengunduh file lisensi baru dari titik akhir sumber daya untuk kontainer Anda yang disediakan di portal Azure setelah Anda menarik versi gambar baru dari mcr.microsoft.com.

Untuk mengunduh file lisensi baru, Anda dapat menambahkan DownloadLicense=True ke perintah jalankan docker bersama dengan pemasangan lisensi, Kunci API, dan titik akhir penagihan Anda. Lihat dokumentasi kontainer Anda untuk instruksi terperinci.

Rekaman Penggunaan

Saat mengoperasikan kontainer Docker di lingkungan yang terputus, kontainer akan menulis catatan penggunaan ke volume di mana mereka dikumpulkan dari waktu ke waktu. Anda juga dapat menghubungi titik akhir REST untuk membuat laporan tentang penggunaan layanan.

Argumen untuk menyimpan log

Saat dijalankan di lingkungan yang terputus, dudukan output harus tersedia ke kontainer untuk menyimpan log penggunaan. Misalnya, Anda akan menyertakan -v /host/output:{OUTPUT_PATH} dan Mounts:Output={OUTPUT_PATH} dalam contoh di bawah ini, mengganti {OUTPUT_PATH} dengan jalur tempat log akan disimpan:

docker run -v /host/output:{OUTPUT_PATH} ... <image> ... Mounts:Output={OUTPUT_PATH}

Mendapatkan catatan menggunakan titik akhir kontainer

Kontainer menyediakan dua titik akhir untuk mengembalikan catatan tentang penggunaannya.

Dapatkan semua catatan

Titik akhir berikut akan memberikan laporan yang merangkum semua penggunaan yang dikumpulkan di direktori catatan penagihan yang dipasang.

https://<service>/records/usage-logs/

Ini akan mengembalikan JSON yang mirip dengan contoh di bawah ini.

{
  "apiType": "noop",
  "serviceName": "noop",
  "meters": [
    {
      "name": "Sample.Meter",
      "quantity": 253
    }
  ]
}

Dapatkan rekaman untuk bulan tertentu

Titik akhir berikut akan memberikan laporan yang merangkum penggunaan selama bulan dan tahun tertentu.

https://<service>/records/usage-logs/{MONTH}/{YEAR}

itu akan mengembalikan respons JSON yang mirip dengan contoh di bawah ini:

{
  "apiType": "string",
  "serviceName": "string",
  "meters": [
    {
      "name": "string",
      "quantity": 253
    }
  ]
}

Membeli rencana komitmen untuk menggunakan kontainer di lingkungan yang terputus

Rencana komitmen untuk kontainer yang terputus memiliki periode komitmen tahun kalender. Ketika Anda membeli paket, Anda akan dikenakan harga penuh segera. Selama periode komitmen, Anda tidak dapat mengubah rencana komitmen Anda, namun Anda dapat membeli unit tambahan dengan harga pro-rated untuk hari-hari yang tersisa dalam setahun. Anda memiliki hingga tengah malam (UTC) pada hari terakhir komitmen Anda, sampai menyelesaikan paket komitmen.

Anda dapat memilih paket komitmen yang berbeda dalam pengaturan harga Tingkat Komitmen sumber daya Anda.

Mengakhiri paket komitmen

Jika Anda memutuskan bahwa Anda tidak ingin terus membeli paket komitmen, Anda dapat mengatur perpanjangan otomatis sumber daya Anda ke Jangan memperpanjang secara otomatis. Paket komitmen Anda akan berakhir pada tanggal akhir komitmen yang ditampilkan. Setelah tanggal ini, Anda tidak akan dikenakan biaya untuk paket komitmen. Anda akan dapat terus menggunakan sumber daya Azure untuk melakukan panggilan API, dan Anda akan dikenakan biaya sesuai pemakaian. Anda memiliki hingga tengah malam (UTC) pada hari terakhir dalam setahun komitmen Anda, sampai menyelesaikan paket komitmen untuk kontainer terputus, dan tidak dikenakan biaya untuk tahun berikutnya.

Pemecahan Masalah

Jika Anda menjalankan kontainer dengan pemasangan output dan pengelogan diaktifkan, kontainer membuat file log yang berguna untuk memecahkan masalah yang terjadi saat memulai atau menjalankan kontainer.

Tip

Untuk informasi dan panduan pemecahan masalah lainnya, lihat Kontainer terputus Pertanyaan yang sering diajukan (FAQ).

Langkah berikutnya

Gambaran umum kontainer Azure AI

Bagikan melalui