Menggunakan kontainer Docker di lingkungan yang terputus

Artikel
01/18/2025

Kontainer memungkinkan Anda menjalankan API layanan Azure AI di lingkungan Anda sendiri, dan sangat bagus untuk persyaratan keamanan dan tata kelola data spesifik Anda. Kontainer yang terputus memungkinkan Anda menggunakan beberapa API ini yang terputus dari internet. Saat ini, kontainer berikut dapat dijalankan dengan cara ini:

Sebelum mencoba menjalankan kontainer Docker di lingkungan offline, pastikan Anda mengetahui langkah-langkah untuk berhasil mengunduh dan menggunakan kontainer. Contohnya:

Persyaratan dan rekomendasi komputer host
Perintah Docker pull yang Anda gunakan untuk mengunduh kontainer.
Cara memvalidasi bahwa kontainer sedang berjalan.
Cara mengirim kueri ke titik akhir kontainer, setelah berjalan.

Meminta akses untuk menggunakan kontainer di lingkungan yang terputus

Isi dan kirimkan formulir permintaan untuk meminta persetujuan untuk menjalankan kontainer yang terputus dari internet.

Formulir meminta informasi tentang Anda, perusahaan Anda, dan skenario pengguna yang akan Anda gunakan untuk kontainer. Setelah Anda mengirimkan formulir, tim layanan Azure AI meninjaunya dan mengirimi Anda email dengan keputusan dalam waktu 10 hari kerja.

Penting

Pada formulir, Anda harus menggunakan alamat email yang terkait dengan ID langganan Azure.
Sumber daya Azure yang Anda gunakan untuk menjalankan kontainer harus dibuat dengan ID langganan Azure yang disetujui.
Periksa email Anda (kotak masuk dan folder sampah) untuk pembaruan status aplikasi Anda dari Microsoft.

Setelah disetujui, Anda akan dapat menjalankan kontainer setelah mengunduhnya dari Microsoft Container Registry (MCR), yang dijelaskan kemudian dalam artikel.

Anda tidak akan dapat menjalankan kontainer jika langganan Azure Anda belum disetujui.

Akses terbatas pada pelanggan yang memenuhi persyaratan berikut:

Organisasi Anda harus diidentifikasi sebagai pelanggan strategis atau bermitra dengan Microsoft.
Kontainer yang terputus diharapkan berjalan sepenuhnya offline, oleh karena itu kasus penggunaan Anda harus memenuhi salah satu persyaratan ini atau serupa:
- Lingkungan atau perangkat dengan konektivitas nol ke internet.
- Lokasi terpencil yang terkadang memiliki akses internet.
- Organisasi di bawah peraturan ketat untuk tidak mengirim data apa pun kembali ke cloud.
Aplikasi selesai seperti yang diinstruksikan - Perhatikan dengan cermat panduan yang disediakan di seluruh aplikasi untuk memastikan Anda memberikan semua informasi yang diperlukan untuk persetujuan.

Membeli paket harga tingkat komitmen untuk kontainer yang terputus

Membuat grup sumber daya baru

Masuk ke portal Azure dan pilih Buat sumber daya baru untuk salah satu layanan Azure AI yang berlaku yang tercantum.
Masukkan informasi yang berlaku untuk membuat sumber daya Anda. Pastikan untuk memilih kontainer terputus tingkat Komitmen sebagai tingkat harga Anda.
Catatan
- Anda hanya melihat opsi untuk membeli tingkat komitmen jika Anda telah disetujui oleh Microsoft.
- Detail harga hanyalah contoh.
Pilih Tinjau + Buat di bagian bawah halaman. Tinjau informasi dan pilih Buat.

Mengonfigurasi kontainer untuk penggunaan terputus

Lihat dokumentasi berikut untuk langkah-langkah mengunduh dan mengonfigurasi kontainer untuk penggunaan yang terputus:

Layanan Ucapan

Layanan Bahasa

Nama variabel lingkungan dalam penyebaran Kubernetes

Beberapa Kontainer Azure AI, misalnya Penerjemah, mengharuskan pengguna untuk meneruskan nama variabel lingkungan yang menyertakan titik dua (:) saat menjalankan kontainer. Ini berfungsi dengan baik saat menggunakan Docker, tetapi Kubernetes tidak menerima titik dua dalam nama variabel lingkungan. Untuk mengatasinya, Anda dapat mengganti titik dua dengan karakter garis bawah ganda (__) saat menyebarkan ke Kubernetes. Lihat contoh format yang dapat diterima berikut untuk nama variabel lingkungan:

        env:  
        - name: Mounts__License
          value: "/license"
        - name: Mounts__Output
          value: "/output"

Contoh ini menggantikan format default untuk Mounts:License nama variabel lingkungan dan Mounts:Output dalam perintah jalankan docker.

Pembaruan gambar dan lisensi kontainer

File lisensi kontainer digunakan sebagai kunci untuk mendekripsi file tertentu dalam setiap gambar kontainer. Jika file terenkripsi ini kebetulan diperbarui dalam gambar kontainer baru, file lisensi yang Anda miliki mungkin gagal memulai kontainer meskipun bekerja dengan versi gambar kontainer sebelumnya. Untuk menghindari masalah ini, kami sarankan Anda mengunduh file lisensi baru dari titik akhir sumber daya untuk kontainer Anda yang disediakan di portal Azure setelah Anda menarik versi gambar baru dari mcr.microsoft.com.

Untuk mengunduh file lisensi baru, Anda dapat menambahkan DownloadLicense=True ke perintah jalankan docker bersama dengan pemasangan lisensi, Kunci API, dan titik akhir penagihan Anda. Lihat dokumentasi kontainer Anda untuk instruksi terperinci.

Rekaman Penggunaan

Saat mengoperasikan kontainer Docker di lingkungan yang terputus, kontainer menulis rekaman penggunaan ke volume tempat kontainer dikumpulkan dari waktu ke waktu. Anda juga dapat menghubungi titik akhir REST untuk membuat laporan tentang penggunaan layanan.

Argumen untuk menyimpan log

Saat dijalankan di lingkungan yang terputus, dudukan output harus tersedia ke kontainer untuk menyimpan log penggunaan. Misalnya, Anda akan menyertakan -v /host/output:{OUTPUT_PATH} dan Mounts:Output={OUTPUT_PATH} dalam contoh di bawah ini, mengganti {OUTPUT_PATH} dengan jalur tempat log disimpan:

docker run -v /host/output:{OUTPUT_PATH} ... <image> ... Mounts:Output={OUTPUT_PATH}

Mendapatkan catatan menggunakan titik akhir kontainer

Kontainer menyediakan dua titik akhir untuk mengembalikan catatan tentang penggunaannya.

Dapatkan semua catatan

Titik akhir berikut ini menyediakan laporan yang meringkas semua penggunaan yang dikumpulkan dalam direktori rekaman penagihan yang dipasang.

https://<service>/records/usage-logs/

Ini mengembalikan JSON yang mirip dengan contoh di bawah ini.

{
  "apiType": "noop",
  "serviceName": "noop",
  "meters": [
    {
      "name": "Sample.Meter",
      "quantity": 253
    }
  ]
}

Dapatkan rekaman untuk bulan tertentu

Titik akhir berikut ini menyediakan laporan yang meringkas penggunaan selama bulan dan tahun tertentu.

https://<service>/records/usage-logs/{MONTH}/{YEAR}

Ini mengembalikan respons JSON yang mirip dengan contoh di bawah ini:

{
  "apiType": "string",
  "serviceName": "string",
  "meters": [
    {
      "name": "string",
      "quantity": 253
    }
  ]
}

Membeli rencana komitmen untuk menggunakan kontainer di lingkungan yang terputus

Rencana komitmen untuk kontainer yang terputus memiliki periode komitmen tahun kalender. Saat membeli paket, Anda akan segera dikenakan harga penuh. Selama periode komitmen, Anda tidak dapat mengubah rencana komitmen Anda, namun Anda dapat membeli lebih banyak unit dengan harga prorata untuk hari-hari yang tersisa dalam setahun. Anda memiliki hingga tengah malam (UTC) pada hari terakhir komitmen Anda, sampai menyelesaikan paket komitmen.

Anda dapat memilih paket komitmen yang berbeda dalam pengaturan harga Tingkat Komitmen sumber daya Anda.

Mengakhiri paket komitmen

Jika Anda memutuskan bahwa Anda tidak ingin terus membeli paket komitmen, Anda dapat mengatur perpanjangan otomatis sumber daya Anda ke Jangan memperpanjang secara otomatis. Paket komitmen Anda kedaluwarsa pada tanggal akhir komitmen yang ditampilkan. Setelah tanggal ini, Anda tidak akan dikenakan biaya untuk paket komitmen. Anda dapat terus menggunakan sumber daya Azure untuk melakukan panggilan API, ditagih dengan harga bayar sesuai pemakaian. Anda memiliki hingga tengah malam (UTC) pada hari terakhir dalam setahun komitmen Anda, sampai menyelesaikan paket komitmen untuk kontainer terputus, dan tidak dikenakan biaya untuk tahun berikutnya.

Pemecahan Masalah

Jika Anda menjalankan kontainer dengan pemasangan output dan pengelogan diaktifkan, kontainer membuat file log yang berguna untuk memecahkan masalah yang terjadi saat memulai atau menjalankan kontainer.

Tip

Untuk informasi dan panduan pemecahan masalah lainnya, lihat Kontainer terputus Pertanyaan yang sering diajukan (FAQ).

Langkah berikutnya

Gambaran umum kontainer Azure AI

Bagikan melalui