Catatan
Akses ke halaman ini memerlukan otorisasi. Anda dapat mencoba masuk atau mengubah direktori.
Akses ke halaman ini memerlukan otorisasi. Anda dapat mencoba mengubah direktori.
Sistem AI sekarang menjadi bagian dari real estat teknologi perusahaan inti, termasuk aplikasi AI, agen, model, serta data dan layanan yang mereka gunakan. Saat organisasi mengadopsi AI, sistem ini memperkenalkan jalur akses baru, dependensi, dan kondisi risiko yang harus diatur sebagai bagian dari arsitektur keamanan end-to-end.
Dalam Microsoft Security Adoption Framework (SAF), pilar AI menerapkan prinsip Zero Trust untuk beban kerja dan operasi AI: memverifikasi secara eksplisit, menggunakan hak istimewa paling sedikit, dan mengasumsikan kompromi. Panduan ini membantu Anda melindungi kemampuan AI sambil mendukung hasil bisnis, keandalan operasional, dan peningkatan berkelanjutan.
Apa yang dibahas pilar teknologi ini
Pilar ini berfokus pada pengamanan sistem AI sebagai beban kerja dan sumber daya penting bisnis, termasuk:
- Aplikasi dan sistem AI
- Agen AI dan runtime agen
- AI dan identitas agen
- Model, perintah, dan konteks
- Data yang digunakan untuk grounding, pelatihan, dan inferensi
- Alat, plugin, konektor, dan dependensi eksternal
- Komunikasi agen-ke-agen dan agen-ke-layanan
- Infrastruktur AI dan lingkungan hosting
Area kontrol Zero Trust inti untuk AI
Gunakan pilar ini untuk merencanakan dan menerapkan kontrol di seluruh area ini, selaras dengan area implementasi dalam lokakarya keamanan AI:
-
Memetakan dan menilai risiko AI
- Temukan dan inventarisasi aplikasi, agen, dan layanan AI.
- Prioritaskan risiko dan tetapkan kepemilikan, tata kelola, dan pagar pembatas penggunaan yang dapat diterima.
- Terus pantau sinyal risiko dan sesuaikan prioritas seiring berkembangnya penggunaan.
-
Mendaftarkan agen dan menerapkan tata kelola siklus hidup
- Daftarkan agen dalam inventarisasi terpusat.
- Klasifikasikan agen berdasarkan tujuan, kekritisan bisnis, dan risiko.
- Tentukan kepemilikan, penerbitan, sertifikasi, dan kontrol siklus hidup.
-
Autentikasi dan akses AI yang aman
- Wajibkan autentikasi dan otorisasi yang kuat untuk pengguna, layanan, dan agen.
- Terapkan hak istimewa paling sedikit dan izin yang didelegasikan untuk tindakan agen.
- Terus mengevaluasi sinyal identitas, perangkat, dan risiko sebelum dan selama akses.
-
Mengamankan akses jaringan dan layanan AI
- Kontrol bagaimana layanan AI diakses di seluruh jalur jaringan dan batas layanan.
- Terapkan segmentasi, pemfilteran, dan inspeksi untuk interaksi AI.
- Kurangi paparan prompt injection dan jalur akses yang tidak sah.
-
Akses dan penggunaan data AI yang aman
- Mengklasifikasikan dan melindungi data yang digunakan dalam perintah, konteks, grounding, dan output.
- Terapkan pencegahan kehilangan data dan kontrol penggunaan untuk mengurangi risiko oversharing dan eksfiltrasi.
- Terapkan kebijakan tata kelola dan kepatuhan untuk penanganan data AI.
-
Membangun dan menyebarkan agen dengan aman
- Amankan aplikasi AI, API, konektor, dan dependensi rantai alat.
- Validasi batas kepercayaan dan kontrol runtime sebelum penggunaan produksi.
- Terapkan kontrol pengembangan, pengujian, dan rilis yang aman untuk sistem yang mendukung AI.
-
Mendeteksi dan merespons AI
- Pantau aktivitas AI, alur perintah, pola akses, dan penggunaan alat.
- Mendeteksi penyalahgunaan, perilaku anomali, dan pelanggaran kebijakan.
- Integrasikan telemetri AI ke dalam alur kerja deteksi, investigasi, dan respons insiden.
Bagaimana pilar ini terhubung ke SAF
Keamanan AI bergantung pada teknologi SAF lainnya dan disiplin keamanan:
- Teknologi: Identitas, Titik Akhir, Aplikasi, Data, Infrastruktur, dan Jaringan.
- Disiplin keamanan: Pengembangan untuk praktik rekayasa yang aman dan SecOps untuk operasi deteksi dan respons.
- Skenario bisnis: Mengadopsi dan mengamankan AI.