Sesi dinamis dalam Azure Container Apps

Azure Container Apps sesi-sesi dinamis menyediakan akses cepat ke lingkungan aman yang ideal untuk menjalankan kode atau aplikasi terisolasi yang memerlukan tingkat isolasi yang kuat dari beban kerja lainnya.

Sesi dinamis menawarkan lingkungan yang sudah dipanaskan sebelumnya melalui kumpulan sesi yang memulai kontainer dalam milidetik, menyesuaikan skala sesuai permintaan, dan mempertahankan isolasi yang kuat. Ini membuatnya ideal untuk beban kerja interaktif, menjalankan skrip yang dihasilkan LLM, dan eksekusi kode kustom yang aman.

Keuntungan

Dengan sesi, Anda mendapatkan:

  • Isolasi yang aman: Isolasi Hyper-V dan kontrol jaringan yang dapat dipilih melindungi sistem Anda. Sesi diisolasi satu sama lain dan dari lingkungan host, memberikan keamanan dan isolasi tingkat perusahaan.
  • Lingkungan terisolasi: Setiap sesi berjalan di lingkungan yang terisolasi, memastikan bahwa beban kerja tidak saling mengganggu.
  • Startup Instan: Kolam yang sudah dipanaskan sebelumnya memungkinkan waktu peluncuran di bawah satu detik untuk beban kerja interaktif. Sesi baru dialokasikan dalam milidetik berkat kumpulan sesi yang siap tetapi tidak dialokasikan.
  • Dapat diskalakan berdasarkan Desain: Tangani ratusan atau ribuan sesi bersamaan tanpa intervensi manual.
  • Siklus hidup terkelola: Sesi secara otomatis dideprovisi setelah digunakan atau setelah periode pendinginan yang dapat dikonfigurasi, memastikan penggunaan sumber daya yang efisien.

Skenario Umum

Sesi dinamis berguna dalam berbagai situasi, termasuk:

  • Alur Kerja AI/LLM: Jalankan kode yang dihasilkan AI dengan aman di lingkungan terisolasi tanpa membahayakan sistem produksi Anda.
  • Pengembangan Interaktif: Memberi pengembang lingkungan yang cepat dan sekali pakai untuk menguji skrip atau prototipe tanpa menyediakan aplikasi lengkap.
  • Eksekusi Kode Aman: Jalankan kode yang tidak tepercaya atau dikirim pengguna di lingkungan sandbox dengan isolasi yang kuat.
  • Tugas Komputasi Kustom: Jalankan pekerjaan berumur pendek yang memerlukan dependensi kustom atau lingkungan runtime tanpa waktu mulai yang lama.
  • Beban Kerja Mendadak: Tangani lonjakan permintaan yang tidak dapat diprediksi dengan skalakan sesi naik dan turun secara otomatis.

Konsep utama

  • Kumpulan Sesi: Kumpulan sesi adalah fondasi untuk sesi dinamis. Ini berisi sekumpulan sesi yang telah dipanaskan sebelumnya dan siap pakai yang memungkinkan startup hampir instan. Ketika permintaan masuk, sistem mengalokasikan sesi dari pool alih-alih membuat sesi baru dari awal, yang secara dramatis menurunkan latensi.

  • Sesi: Sesi adalah lingkungan eksekusi aktual tempat kode atau kontainer Anda berjalan. Sesi bersifat ephemeral dan terisolasi, dirancang untuk tugas berumur pendek. Saat Anda membuat sesi, sesi dialokasikan dari kumpulan sesi, memastikan startup yang cepat. Setelah tugas selesai atau masa cooldown berakhir, sesi diakhiri dan sumber daya dibersihkan.

  • Siklus hidup sesi: Saat aplikasi Anda mengirim permintaan dengan pengidentifikasi sesi, kumpulan sesi mengalokasikan sesi secara otomatis. Sesi tetap aktif selama permintaan berlanjut. Setelah periode cooldown berakhir tanpa aktivitas, sesi dihapus dan sumber dayanya dibersihkan secara otomatis. Anda juga dapat mengkueri status sesi secara terprogram dan mencantumkan semua sesi di kumpulan Anda untuk memantau kesehatan dan menerapkan alur kerja manajemen kustom.

  • Perutean permintaan dan pengidentifikasi: Sesi diakses melalui titik akhir manajemen kumpulan sesi. Permintaan menyertakan identifier parameter kueri, dan kumpulan merutekan permintaan ke sesi yang ada atau mengalokasikan yang baru jika diperlukan. Jalur permintaan setelah titik akhir manajemen diteruskan ke kontainer sesi.

  • Jenis kumpulan sesi

    • Kumpulan sesi penerjemah kode: Ini menggunakan kontainer bawaan platform yang menyediakan lingkungan yang telah dikonfigurasi sebelumnya untuk menjalankan kode, termasuk skrip yang dihasilkan AI. Ideal untuk skenario seperti alur kerja berbasis LLM atau eksekusi kode aman.
    • Kumpulan sesi kontainer khusus: Gunakan kontainer Anda sendiri untuk beban kerja khusus yang memerlukan dependensi atau lingkungan runtime tertentu.

Perbandingan jenis kumpulan sesi

Kumpulan sesi penerjemah kode Kumpulan sesi kontainer kustom
Pilihan terbaik untuk Menjalankan kode yang dihasilkan AI, skrip yang dikirimkan pengguna, atau eksekusi kode aman cepat tanpa mengelola lingkungan runtime. Beban kerja yang memerlukan runtime kustom, pustaka, biner, atau alat khusus yang tidak didukung oleh interpreter bawaan.
Lingkungan Telah dikonfigurasi sebelumnya dengan lingkungan runtime dan alat umum; tidak diperlukan pembangunan container atau penerbitan citra. Gambar kontainer yang sepenuhnya dapat disesuaikan dengan dependensi, paket, dan konfigurasi Anda sendiri.
Kapan harus memilih Pilih ini untuk kesederhanaan, startup tercepat, dan penyiapan minimal. Pilih ini saat Anda memerlukan kontrol penuh atas lingkungan eksekusi atau mengandalkan dependensi kustom.
Kasus penggunaan yang ideal Alur kerja LLM, interpretasi kode, skenario pendidikan/kotak pasir, eksekusi kode pengguna yang aman. Tugas komputasi kustom, penerjemah kepemilikan, lingkungan khusus, atau beban kerja dengan persyaratan OS/pustaka tertentu.
Bahasa dan protokol Terbatas pada runtime bawaan dan permukaan REST API yang disediakan oleh penerjemah kode. Bahasa atau tumpukan apa pun yang didukung oleh kontainer Anda, dengan protokol TCP apa pun yang Anda pilih untuk diekspos.
Persyaratan gambar Tidak ada—menggunakan lingkungan interpreter bawaan dari platform. Diperlukan—berikan URI gambar kontainer Anda sendiri.

Untuk informasi selengkapnya, lihat Penggunaan.

Wilayah yang didukung

Sesi dinamis tersedia di wilayah berikut. Penerjemah kode dan sesi kontainer kustom didukung di semua wilayah yang tercantum.

Americas Eropa Asia Pasifik Timur Tengah & Afrika
Brasil Selatan Prancis Tengah Australia Timur Afrika Selatan Utara
Kanada Tengah Prancis Selatan Australia Tenggara UAE Utara
Kanada Timur Jerman Barat Tengah India Tengah
US Tengah Italia Utara Asia Timur
US Timur Eropa Utara Jepang Timur
US Timur 2 Norwegia Timur Jepang Barat
US Tengah Utara Polandia Tengah Jio India Barat
US Tengah Selatan Spanyol Tengah Korea Tengah
Barat Sentral AS Swedia Tengah India Selatan
US Barat Swiss Utara Asia Tenggara
Barat AS 2 Swiss Barat
Barat AS 3 UK Selatan
UK Barat
Eropa Barat

Nota

Ketersediaan regional dapat berubah. Untuk memverifikasi ketersediaan saat ini, periksa menu dropdown Location saat membuat kumpulan sesi di portal Azure.

Keamanan

Sesi dinamis dirancang untuk menjalankan kode yang tidak tepercaya di lingkungan terisolasi. Untuk informasi tentang mengamankan sesi Anda, lihat Keamanan.

Penagihan

Sesi kontainer kustom ditagih berdasarkan sumber daya yang digunakan oleh kumpulan sesi. Untuk informasi selengkapnya, lihat penagihan Azure Container Apps.