Keamanan AI di Lokakarya Microsoft Zero Trust

AI memperkuat risiko keamanan yang ada dan memperkenalkan risiko dan pertimbangan baru di seluruh identitas, data, aplikasi, dan interaksi pengguna. Risiko ini dapat diatasi menggunakan prinsip-prinsip Zero Trust.

Mengamankan AI tidak hanya tentang melindungi model dan layanan AI yang mendasar. Kita juga perlu memastikan bahwa akses, penggunaan, dan tata kelola sistem AI selaras dengan prinsip-prinsip Zero Trust.

Panduan pilar AI berfokus pada pembentukan visibilitas ke dalam penggunaan AI, memberlakukan kontrol identitas dan akses yang kuat, melindungi data di seluruh perintah dan output, mengamankan pengembangan agen dan lingkungan runtime, dan mengintegrasikan sinyal AI ke dalam operasi keamanan.

Implementasi lokakarya

Lokakarya AI mencakup area implementasi yang dirangkum dalam tabel.

Area	Rincian
Memetakan dan menilai risiko AI	Temukan dan inventarisasi agen, aplikasi, dan layanan AI di seluruh organisasi. Menilai risiko AI menggunakan wawasan keamanan terpusat, meninjau inventarisasi dan memprioritaskan temuan, dan menetapkan kebijakan tata kelola, kepemilikan, dan penggunaan yang dapat diterima. Terapkan pemantauan dan remediasi berkelanjutan untuk risiko AI yang berkembang.
Mendaftarkan agen	Daftarkan agen AI di registri terpusat untuk menjaga visibilitas dan kontrol. Mengklasifikasikan dan mengatur agen berdasarkan tujuan dan risiko, menetapkan kepemilikan dan akuntabilitas, dan menentukan penerbitan, sertifikasi, dan siklus hidup
Mengamankan autentikasi dan akses AI	Terapkan kontrol akses berbasis identitas untuk sistem dan agen AI. Terapkan Akses Bersyarat, kebijakan berbasis risiko dan berbasis atribut, dan proses tata kelola identitas untuk memastikan hanya pengguna dan layanan yang berwenang yang dapat berinteraksi dengan sumber daya AI.
Mengamankan akses jaringan AI	Mengontrol bagaimana layanan AI diakses di seluruh jaringan. Arahkan lalu lintas melalui mekanisme kontrol akses yang aman, terapkan kebijakan penyaringan dan pemeriksaan terhadap interaksi AI, dan lindungi dari risiko seperti injeksi prompt dan jalur akses tidak sah.
Mengamankan akses data AI	Lindungi data sensitif yang digunakan dalam prompt AI, data landasan, dan hasil. Terapkan kebijakan klasifikasi, pelabelan, dan DLP, kontrol akses ke sumber data yang terhubung, dan pantau risiko oversharing dan paparan data dalam interaksi AI.
Membangun agen dengan aman	Amankan pengembangan dan penyebaran agen AI dengan memberlakukan autentikasi, otorisasi, dan standar penanganan data. Integrasikan kontrol keamanan konten, memerlukan validasi dan tim merah, dan membangun proses penerbitan dan penyebaran yang aman.
Deteksi dan respons untuk AI	Pantau aktivitas AI dan deteksi ancaman seperti penyalahgunaan, anomali, dan serangan berbasis prompt. Integrasikan sinyal AI ke dalam operasi keamanan, aktifkan alur kerja investigasi dan respons, dan terus meningkatkan kemampuan deteksi dan respons.

Langkah berikutnya

Mulai lokakarya AI.