Membangun postur keamanan yang kuat untuk AI

Postur keamanan AI Anda adalah bagian penting dari strategi keamanan Anda secara keseluruhan. AI menempatkan prioritas pada elemen tertentu dari strategi keamanan cyber, seperti perlindungan data. Artikel ini membantu Anda mengembangkan strategi dan prioritas untuk mengamankan AI. Artikel berikutnya dalam koleksi ini membantu Anda mengidentifikasi elemen keamanan cyber tertentu untuk diprioritaskan saat Anda mengadopsi pendamping AI, alat, dan aplikasi baru.

Postur keamanan Anda didefinisikan sebagai kemampuan pertahanan keamanan cyber organisasi Anda secara keseluruhan, bersama dengan tingkat persiapan dan status operasional untuk menangani ancaman keamanan cyber yang sedang berlangsung. Postur ini harus dapat diukur dan dapat diukur, mirip dengan metrik utama lainnya yang berkaitan dengan status operasional atau kesejahteraan organisasi Anda.

Membangun postur keamanan yang kuat untuk AI melibatkan bekerja dalam organisasi Anda, terutama pemimpin di seluruh organisasi Anda, untuk mengembangkan strategi dan serangkaian prioritas dan tujuan. Anda kemudian mengidentifikasi pekerjaan teknis yang diperlukan untuk mencapai tujuan dan memimpin berbagai tim untuk menyelesaikannya. Artikel dalam pustaka ini menyediakan metodologi dengan panduan khusus untuk AI:

• Siapkan lingkungan Anda dengan perlindungan keamanan dasar. Anda mungkin sudah memiliki banyak perlindungan ini.
• Temukan aplikasi AI yang sedang digunakan di organisasi Anda, termasuk jenis data yang digunakan aplikasi.
• Lindungi penggunaan alat AI di organisasi Anda. Ini melibatkan kemampuan perlindungan data khusus AI dan memastikan organisasi Anda telah menerapkan perlindungan ancaman yang kuat.
• Mengelola AI untuk kepatuhan.

Gunakan pustaka ini bersama dengan kerangka kerja berikut di Microsoft Learn:

• Kerangka kerja adopsi Zero Trust
• Kerangka Adoopsi Awan untuk AI

Dalam gambar:

• Gunakan pustaka ini (Keamanan untuk pustaka AI) untuk mempelajari cara menerapkan kemampuan untuk mengamankan aplikasi dan data AI di lingkungan Anda. Perlindungan ini membantu membangun fondasi Zero Trust Anda.
• Gunakan kerangka kerja adopsi Zero Trust untuk terus maju menuju keamanan menyeluruh. Masing-masing skenario bisnis Zero Trust juga meningkatkan keamanan Anda untuk aplikasi dan data AI.
• Gunakan Cloud Adoption Framework for AI untuk mengembangkan peta strategi end-to-end Anda dalam rangka mengadopsi AI, termasuk AI generatif dan non-generatif. Pustaka ini mencakup strategi untuk memilih teknologi AI, proses untuk mengamankan dan mengatur AI, dan sumber daya untuk desain dan implementasi AI.

Memahami motivasi pemimpin bisnis Anda

Postur keamanan AI yang kuat memungkinkan inovasi - ini memberdayakan organisasi untuk membangun dan menyebarkan AI dengan percaya diri dan kelincahan. Tujuannya adalah untuk memberdayakan organisasi untuk membangun, menyebarkan, dan menskalakan sistem AI dengan percaya diri sambil melindungi terhadap risiko yang dapat merusak kepercayaan, kepatuhan, atau stabilitas operasional. Dengan menyematkan keamanan ke dalam fondasi inisiatif AI, organisasi dapat membuka potensi penuh AI secara bertanggung jawab, memastikannya tetap menjadi aset strategis daripada sumber bahaya yang tidak diinginkan.

Mulai kembangkan strategi dan prioritas Anda dengan mendapatkan keselarasan dengan pemimpin bisnis Anda. Apa yang memotivasi pemimpin Anda dan mengapa mereka peduli dengan postur keamanan Anda untuk AI? Tabel berikut ini menyediakan contoh perspektif, tetapi penting bagi Anda untuk bertemu dengan masing-masing pemimpin dan tim ini dan mencapai pemahaman bersama tentang motivasi satu sama lain.

Peranan	Mengapa membangun postur keamanan yang kuat untuk AI penting
Direktur Utama (CEO)	Sistem AI semakin membentuk keputusan strategis dan interaksi pelanggan. Pelanggaran atau manipulasi AI dapat menyebabkan keputusan yang buruk, pengamatan peraturan, kerusakan reputasi, dan kehilangan kepercayaan. Keamanan AI yang kuat sangat penting bagi organisasi untuk melindungi reputasi perusahaan, memastikan kepatuhan hukum, dan memastikan transformasi AI yang sukses.
Kepala Pejabat Pemasaran (CMO)	Alat AI mendorong wawasan, penargetan, dan personalisasi pelanggan. Jika disusupi, alat-alat ini dapat menyebabkan kebocoran data, output bias, atau kerusakan merek karena konten atau penargetan yang tidak tepat. Mengamankan AI memastikan kepercayaan pada keterlibatan pelanggan, menjaga integritas merek, mencegah bencana PR, dan menunjukkan komitmen perusahaan untuk melindungi privasi pelanggan.
Chief Information Officer (CIO)	Lingkungan AI yang aman sangat penting untuk memastikan keandalan sistem, mencegah akses yang tidak sah, dan menjaga ketahanan operasional. Ini memungkinkan CIO untuk dengan percaya diri mengintegrasikan teknologi AI yang meningkatkan bisnis tanpa mengekspos perusahaan terhadap risiko yang tidak semestinya.
Chief Information Security Officer (CISO)	AI memperkenalkan permukaan serangan baru dan risiko baru sekaligus memperkuat risiko yang ada. Permukaan serangan baru termasuk perintah, respons, model, data RAG, protokol konteks model (MCP), data pelatihan dan keracunan data, serangan jailbreak, keamanan data, dan banyak lagi. CISO harus memimpin upaya dalam pemodelan ancaman dan mengamankan alur AI untuk menjaga postur keamanan perusahaan. Keamanan AI yang kuat adalah perpanjangan dari strategi pertahanan cyber secara keseluruhan untuk melindungi aset organisasi, mematuhi kerangka kerja keamanan, dan menjaga kepercayaan pelanggan dan pemangku kepentingan dalam usia sistem cerdas.
Chief Technology Officer (CTO)	Postur keamanan AI yang kuat sangat penting bagi CTO untuk melindungi aset teknologi organisasi dan memastikan bahwa sistem AI berkinerja andal seperti yang dimaksudkan. Dengan menyematkan keamanan ke dalam siklus hidup pengembangan AI, CTO membantu mencegah pelanggaran algoritma sensitif dan mempertahankan kualitas dan kepercayaan tinggi pada produk berbasis AI. Hal ini memungkinkan inovasi untuk berlangsung tanpa risiko yang tidak perlu.
Kepala Operasi (COO)	AI mengotomatiskan proses penting dalam rantai pasokan, logistik, dan operasi. Serangan pada sistem AI dapat mengganggu layanan, meningkatkan risiko operasional, dan menyebabkan penundaan yang mahal. Postur keamanan AI yang kuat memastikan kelangsungan bisnis dan efisiensi.
Kepala Keuangan (CFO)	CFO melihat postur keamanan AI yang kuat sebagai penting untuk melindungi organisasi. Ini membantu menghindari kerugian keuangan yang tidak terduga dan memastikan kepatuhan terhadap hukum dan kewajiban pelaporan.

Mengatasi lanskap ancaman yang berkembang untuk AI

GenAI memperkenalkan permukaan serangan baru, secara efektif mengubah lanskap risiko. Selain mengelola vektor ancaman tradisional, pemimpin keamanan dan risiko juga perlu mengatasi risiko yang diperkuat seperti kebocoran data dan pembagian data berlebih, serta risiko baru seperti penyuntikan perintah, kerentanan model, dan informasi yang menyesatkan. Mengatasi lanskap ancaman yang berkembang sangat penting untuk memungkinkan AI yang dapat dipercaya.

Dalam ilustrasi:

• Permukaan serangan GenAI memperkenalkan risiko baru dan semakin meningkat.
• Vektor ancaman yang tetap tidak berubah termasuk aplikasi, identitas, titik akhir, jaringan, data, dan sumber daya cloud Anda.
• GenAI memperkenalkan permukaan serangan baru, termasuk perintah, respons, orkestrasi AI, data pelatihan, data RAG (data Pembuatan yang Ditingkatkan dengan Pengambilan, yang berarti data yang dihasilkan dari interaksi data Anda atau data luar dengan model bahasa), model AI, dan plugin AI.
• GenAI memperkenalkan risiko baru yang diperkuat, termasuk kebocoran data, jailbreak (membobol perangkat yang seharusnya aman), penyusupan prompt tidak langsung, dan kerentanan pada model.

Saat ini, insiden keamanan paling umum dalam AI meliputi:

• Kebocoran data dan oversharing—Pengguna mungkin membocorkan data sensitif ke aplikasi AI bayangan (aplikasi yang tidak disetujui oleh tim IT Anda). Pengguna juga dapat mengakses data sensitif dengan menggunakan aplikasi AI.
• Kerentanan dan ancaman yang muncul—Pelaku jahat dapat mengeksploitasi kerentanan di aplikasi AI untuk mengakses sumber daya yang berharga.
• Ketidakpatuhan—Peraturan, termasuk peraturan AI yang muncul, dapat meningkatkan ketidakpastian. Adopsi AI yang tidak patuh dapat meningkatkan tanggung jawab.

Dua contoh skenario berikut menyoroti kebutuhan untuk membangun postur keamanan yang kuat untuk AI.

Bagaimana berbagi berlebihan dan kebocoran data terjadi?

Dalam contoh ini, karyawan Contoso, Adele, menemukan dan menggunakan data sensitif dengan beberapa aplikasi AI.

Langkah	Deskripsi	Risiko yang tidak dimitigasi
1	Adele mendengar anggota tim yang mereferensikan Project Obsidian. Dia menggunakan Microsoft 365 Copilot untuk menemukan informasi selengkapnya tentang hal itu. Copilot memberinya ringkasan dan tautan ke dokumen.	Copilot dapat memproses data sensitif tanpa batasan. Data sensitif terlalu banyak diekspos ke karyawan, termasuk mereka yang seharusnya tidak memiliki akses.
2	Adele terus menggunakan Copilot untuk menemukan dan mengumpulkan informasi lebih lanjut tentang Project Obsidian.	Tidak ada kontrol untuk mendeteksi anomali di aplikasi AI.
3	Karena penasaran, Adele ingin melihat apa yang akan dirangkum ChatGPT, jadi dia menempelkan konten file ke ChatGPT.	Tidak ada pencegahan kehilangan data (DLP) untuk mencegah kebocoran data ke aplikasi AI konsumen.
4	Detail proyek diungkapkan secara prematur, yang mengakibatkan pelanggaran data. Jadi, Contoso melarang semua aplikasi AI di tempat kerja.	Melarang AI konsumen secara langsung dapat menyebabkan peningkatan penggunaan ilegal.

Contoso bisa saja mengurangi risiko ini dengan melakukan pekerjaan mempersiapkan, menemukan, dan melindungi penggunaan aplikasi AI.

Fase	Deskripsi
Siapkan	Gunakan Entra dan SharePoint Advanced Management untuk menyesuaikan akses karyawan ke sumber daya secara tepat. Gunakan Perlindungan Informasi Purview untuk mengklasifikasikan dan memberi label data sensitif.
Temukan	Gunakan Purview DSPM untuk AI untuk menemukan risiko data. Gunakan laporan penilaian pembagian berlebihan untuk menilai risiko pembagian berlebihan.
Melindungi	Terapkan DLP Purview untuk Microsoft 365 Copilot untuk mencegah Copilot meringkas data sensitif. Gunakan Manajemen Risiko Insider Purview untuk mendeteksi dan menyelidiki aktivitas anomali. Gunakan Perlindungan Adaptif untuk membatasi akses secara dinamis bagi pengguna berisiko tinggi. Gunakan Aplikasi Defender for Cloud untuk memblokir aplikasi berisiko tinggi. Gunakan Akses Bersyarat Entra untuk mengharuskan Adele menerima Ketentuan Penggunaan sebelum memberikan akses ke ChatGPT. Gunakan endpoint DLP Purview untuk memblokir penempelan data sensitif ke aplikasi AI untuk konsumen.

Bagaimana AI dapat memperkenalkan risiko kepatuhan?

Dalam contoh berikutnya ini, Jane ditugaskan untuk memimpin tata kelola AI untuk Contoso.

Langkah	Deskripsi	Risiko yang tidak dimitigasi
1	Jane berjuang untuk menafsirkan persyaratan peraturan ke dalam kontrol yang dapat ditindakkan bagi tim IT untuk diterapkan.	Kurangnya para ahli yang berpengalaman dalam persyaratan peraturan dan teknologi.
2	Jane mulai mempersiapkan penilaian risiko tetapi tidak menyadari sistem AI sedang dibangun dan digunakan di Contoso. Dia juga tidak memiliki visibilitas atas penggunaan dan potensi risiko ketidakpatuhan.	Tidak ada visibilitas terhadap sistem AI yang diterapkan di dalam lingkungan. Tidak ada tata kelola penggunaan AI.
3	Setelah beberapa wawancara internal, Jane menyadari bahwa pengembang membangun sekitar 14 aplikasi AI secara bersamaan, dengan berbagai standar keamanan, keselamatan, dan kontrol privasi yang diterapkan.	Tidak ada visibilitas ke dalam kontrol yang dibangun dalam sistem AI oleh pengembang.
4	Beberapa aplikasi AI menggunakan data pribadi tanpa pagar pembatas standar untuk menilai risiko.	Tidak ada penilaian risiko di tempat.
5	Pelanggan mengeluh tentang Contoso AI yang membuat konten berbahaya dan tidak berdasar.	Kurangnya kontrol untuk output AI.

Peraturan AI membawa risiko tanggung jawab yang tidak pasti dan luar biasa bagi pemimpin yang bertanggung jawab atas tata kelola AI. Tanpa perubahan apa pun, Contoso berisiko melanggar persyaratan peraturan AI dan berpotensi menghadapi hukuman dan kerusakan reputasi.

Contoso bisa saja mengurangi risiko ini dengan melakukan pekerjaan mempersiapkan, menemukan, dan melindungi penggunaan aplikasi AI.

Fase	Deskripsi
Siapkan	Gunakan Purview Compliance Manager untuk mendapatkan panduan tentang menerapkan kontrol yang dapat membantu memenuhi persyaratan kepatuhan.
Temukan	Gunakan Defender for Cloud untuk menemukan sumber daya AI yang disebarkan di lingkungan cloud. Gunakan Aplikasi Defender for Cloud untuk menemukan aplikasi SaaS AI yang digunakan.
Pengelolaan	Mengatur penggunaan AI dengan Audit Microsoft Purview, Manajemen Siklus Hidup Data, Kepatuhan Komunikasi, dan eDiscovery. Gunakan laporan AI di Microsoft Foundry untuk pengembang guna mendokumenkan detail proyek AI. Gunakan Penilaian Privasi Priva untuk mengevaluasi risiko privasi secara proaktif untuk setiap proyek AI. Gunakan Azure AI Content Safety untuk mengurangi risiko konten berbahaya atau tidak berdasar.

Dengan penggunaan proaktif kemampuan tata kelola, organisasi dapat menilai dan mengatasi risiko saat mengadopsi AI.

Lima langkah untuk menerapkan keamanan yang efektif untuk AI

Sebagai kesadaran akan risiko yang terkait dengan implementasi GenAI yang cepat meningkat, banyak organisasi merespons secara proaktif dengan mendedikasikan sumber daya yang substansial untuk meningkatkan langkah-langkah keamanan mereka. Pemimpin keamanan dan risiko dapat mengambil beberapa langkah yang dapat ditindakkan untuk menciptakan jalur menuju inovasi AI yang aman dan aman.

Praktik yang direkomendasikan ini berfokus pada pembentukan lingkungan kolaboratif dan menerapkan langkah-langkah keamanan efektif yang akan mendukung kemajuan GenAI sambil melindungi kepentingan organisasi.

Langkah 1—Membangun tim keamanan untuk AI

Sebagian besar perusahaan menyadari kebutuhan untuk membentuk tim yang berdedikasi dan lintas fungsi untuk mengelola tantangan keamanan unik yang ditimbulkan oleh AI. Tim keamanan khusus memastikan bahwa sistem AI diuji secara ketat, kerentanan dengan cepat diidentifikasi dan dimitigasi, dan protokol keamanan terus diperbarui untuk mengimbangi ancaman yang berkembang.

Delapan puluh persen responden survei saat ini memiliki (45%) atau berencana untuk memiliki (35%) tim khusus untuk mengatasi keamanan untuk AI. Lebih dari 6 dari 10 mengatakan tim mereka akan melaporkan kepada pembuat keputusan keamanan, memastikan tidak hanya pengawasan yang waspada tetapi juga visi strategis dan kepemimpinan dalam mengatasi risiko terkait AI.

Secara khusus, ukuran tim rata-rata, atau ukuran tim yang dimaksudkan, dari tim keamanan khusus ini adalah 24 karyawan—menggarisbawahi sumber daya yang signifikan yang dilakukan perusahaan dalam menjaga inisiatif AI mereka. Ketika ukuran perusahaan diperhitungkan, ukuran tim bervariasi.

Berikut adalah beberapa praktik terbaik yang dapat digunakan organisasi untuk berhasil membangun tim keamanan lintas fungsi yang efektif untuk AI.

Membentuk komite AI untuk menumbuhkan kolaborasi di seluruh departemen

Keamanan untuk AI adalah upaya kolektif yang melampaui departemen IT. Dorong kolaborasi antar tim seperti keamanan, TI, hukum, kepatuhan, dan manajemen risiko untuk menciptakan strategi keamanan yang komprehensif. Memiliki berbagai perspektif dan keahlian akan meningkatkan efektivitas protokol keamanan.

Mempekerjakan berbagai keahlian

Membentuk tim keamanan yang sukses untuk AI membutuhkan keseimbangan keterampilan. Cari anggota tim dengan keahlian dalam ilmu data, keamanan cyber, rekayasa perangkat lunak, dan pembelajaran mesin. Keragaman ini memastikan bahwa berbagai aspek keamanan tercakup, mulai dari pengembangan teknis hingga pencegahan ancaman.

Menetapkan peran dan tanggung jawab yang jelas

Untuk produktivitas yang efektif, tentukan dengan jelas peran setiap anggota tim. Pastikan semua orang memahami tanggung jawab spesifik mereka, yang mempromosikan akuntabilitas dan menghindari tumpang tindih dalam upaya.

Berinvestasi dalam pelatihan dan pengembangan berkelanjutan

Evolusi teknologi AI yang cepat mengamanatkan pendidikan berkelanjutan bagi tim keamanan. Menyediakan akses ke program pelatihan dan lokakarya yang berfokus pada praktik, ancaman yang muncul, dan pertimbangan etika yang terkait dengan keamanan untuk AI. Investasi ini tidak hanya memberdayakan anggota tim tetapi juga memastikan bahwa organisasi tetap berada di depan potensi kerentanan.

Langkah 2—Optimalkan sumber daya untuk mengamankan GenAI

Pengenalan aplikasi AI dalam organisasi tidak hanya merevolusi operasi tetapi juga mengharuskan perubahan signifikan dalam alokasi sumber daya dan anggaran, terutama dalam keamanan TI.

Sebagian besar pemimpin keamanan dan risiko (78%) percaya anggaran keamanan TI mereka akan meningkat untuk mengakomodasi tantangan dan peluang unik yang dibawa oleh AI. Penyesuaian ini sangat penting karena beberapa alasan. Sistem AI memerlukan infrastruktur keamanan yang kuat untuk beroperasi dengan aman. Ini mungkin melibatkan peningkatan sistem keamanan yang ada, menerapkan kontrol akses yang lebih ketat, dan meningkatkan keamanan dan tata kelola data. Sumber daya lain mungkin juga diperlukan untuk memenuhi persyaratan peraturan AI baru yang muncul.

Sebelumnya dalam artikel ini, Microsoft merekomendasikan melakukan pekerjaan untuk memahami motivasi pemimpin bisnis dan unit bisnis yang berbeda di seluruh organisasi Anda. Mengidentifikasi kekhawatiran utama dan tujuan bisnis bersama adalah langkah penting untuk menegosiasikan sumber daya untuk mencapai tujuan.

Mengalokasikan dana untuk penilaian kepatuhan, konsultasi hukum, dan audit menjadi penting untuk menyelaraskan strategi AI organisasi dengan kerangka kerja industri dan memungkinkan penggunaan dan sistem AI yang lebih aman, aman, dan sesuai. Memprioritaskan dana untuk pelatihan karyawan yang sedang berlangsung dan pengembangan keterampilan, yang dapat mencakup pelatihan khusus tentang alat keamanan untuk AI, strategi manajemen risiko, dan pertimbangan etis dalam penggunaan AI juga penting untuk dipertimbangkan saat mengalokasikan anggaran dan sumber daya.

Langkah 3—Ambil pendekatan Zero Trust

Saat mempersiapkan adopsi AI, strategi Zero Trust menyediakan para pemimpin keamanan dan risiko dengan serangkaian prinsip yang membantu mengatasi beberapa kekhawatiran utama mereka, termasuk berbagi data secara berlebihan atau paparan data berlebihan serta shadow IT. Pendekatan Zero Trust beralih dari fokus yang berfokus pada jaringan ke aset dan fokus yang berfokus pada data dan memperlakukan setiap permintaan akses sebagai ancaman potensial, terlepas dari asalnya.

Zero Trust terus memvalidasi identitas setiap pengguna dan perangkat, memastikan bahwa hanya mereka yang memiliki izin yang jelas yang dapat menjangkau informasi sensitif. Dengan menyesuaikan langkah-langkah keamanan secara dinamis berdasarkan penilaian real-time, Zero Trust meminimalkan risiko kebocoran data dan melindungi organisasi dari ancaman internal dan eksternal. Verifikasi berkelanjutan, akses hak minimum, dan manajemen risiko dinamis adalah landasan pendekatan ini, menyediakan kerangka kerja keamanan yang kuat dan dapat disesuaikan yang mendukung keberhasilan keamanan menyeluruh organisasi.

Dengan merangkul Zero Trust, organisasi dapat mengamankan penyebaran AI mereka dan mengetahui bahwa keamanan mereka terus divalidasi dan dilindungi. Zero Trust memberdayakan organisasi untuk merangkul AI dengan percaya diri, memastikan bahwa kemampuan AI yang kuat digunakan dengan aman dan efektif.

Semua panduan keamanan untuk AI yang disediakan oleh Microsoft berlabuh ke prinsip Zero Trust. Dengan mengikuti panduan keamanan yang direkomendasikan untuk GenAI, Anda membangun fondasi Zero Trust yang kuat.

Langkah 4—Berinvestasi dalam tanggung jawab bersama dengan mitra yang Anda percayai

Sumber daya yang sering digunakan untuk membantu menginformasikan strategi dan prioritas adalah model tanggung jawab bersama. Tanggung jawab Anda untuk mengamankan penggunaan AI di organisasi Anda didasarkan pada jenis aplikasi yang digunakan. Mitra yang Anda investasikan dalam berbagi tanggung jawab dengan Anda.

Model tanggung jawab bersama membantu tim keamanan memandu organisasi mereka untuk memilih:

• Aplikasi GenAI yang mengurangi tanggung jawab untuk organisasi mereka.
• Mitra yang telah mendapatkan kepercayaan mereka.

Diagram ini meringkas keseimbangan tanggung jawab untuk Anda dan Microsoft. Banyak organisasi menggunakan model tanggung jawab bersama untuk memprioritaskan penggunaan aplikasi SaaS dalam kemitraan dengan penyedia tepercaya dan untuk mengurangi jumlah aplikasi yang dibuat khusus.

Untuk informasi selengkapnya, lihat Model tanggung jawab bersama AI - Microsoft Azure.

Selain berinvestasi dengan mitra yang telah mendapatkan kepercayaan Anda, banyak profesional keamanan merekomendasikan untuk mengonsolidasikan alat keamanan dan vendor. Microsoft menawarkan solusi keamanan komprehensif untuk AI dengan alat yang bekerja sama, sangat mengurangi volume pekerjaan integrasi untuk tim keamanan.

Langkah 5—Mengadopsi solusi keamanan komprehensif untuk AI

AI memperkenalkan risiko spesifik yang mungkin tidak sepenuhnya ditangani oleh langkah-langkah keamanan tradisional. Keamanan untuk AI dirancang untuk mengurangi risiko ini.

Sebagian besar perusahaan berencana untuk mendapatkan alat dan platform khusus untuk mengamankan penggunaan dan pengembangan aplikasi AI. Ketika ditanya bagaimana mereka berencana untuk mengamankan dan melindungi penggunaan dan pengembangan aplikasi AI di organisasi mereka, sebagian besar responden survei (72%) mengatakan mereka berencana untuk mendapatkan solusi keamanan khusus baru untuk mengamankan penggunaan dan pengembangan AI, sementara 64% menyatakan mereka berencana untuk menggunakan solusi keamanan yang ada untuk mengamankan AI.

Pemimpin TI dan keamanan percaya bahwa kontributor anggaran utama untuk solusi baru untuk perlindungan dan tata kelola AI akan menjadi departemen IT (63%) dan departemen keamanan informasi / keamanan cyber (57%). Temuan ini menunjukkan bahwa selain terus menggunakan solusi keamanan yang ada, organisasi melihat kebutuhan untuk mencari solusi baru yang dapat membantu mengatasi risiko AI yang diperkuat dan muncul.

Selain platform keamanan end-to-end Microsoft, Microsoft menyediakan alat keamanan komprehensif untuk mengamankan AI, mulai dari penemuan alat dan data AI hingga perlindungan yang dirancang khusus untuk mengurangi ancaman AI. Alat-alat ini termasuk dasbor canggih dan sumber daya kepatuhan, membantu Anda tetap berada di atas risiko dan kewajiban peraturan.

Gambar berikut adalah tampilan ringkasan dari semua kemampuan yang disediakan Microsoft untuk melindungi organisasi yang mengadopsi AI. Kemampuan ini juga tercantum dalam tabel di bawah ini.

Perhatian pelanggan teratas	Kemampuan
Mencegah kebocoran data dan berbagi berlebihan	- Pengendalian akses dan kontrol titik akhir — Microsoft Entra & Intune - Manajemen Postur Keamanan Data untuk AI — Microsoft Purview - Klasifikasi, pelabelan, dan perlindungan data — Microsoft Purview - Pencegahan Kehilangan Data — Microsoft Purview - Deteksi dan respons aktivitas anomali dan berisiko — Microsoft Purview - Keamanan aplikasi SaaS — Pertahanan Microsoft
Melindungi AI dari kerentanan dan ancaman yang muncul	- Keamanan dan tata kelola data — Microsoft Purview - Evaluasi kontrol kualitas, keselamatan, dan keamanan — Foundry - Manajemen postur keamanan untuk aset AI (aplikasi, model, orkestrator, SDK) — Pertahanan Microsoft - Kebijakan tata kelola model — portal Microsoft Azure - Perisai perlindungan keamanan konten — Azure AI - Perlindungan ancaman untuk beban kerja AI — Pertahanan Microsoft
Mengatur AI untuk mematuhi persyaratan peraturan	- Penilaian kepatuhan terhadap peraturan dan standar AI — Microsoft Purview - Penemuan dan katalogisasi AI — Microsoft Defender - Audit permintaan & tanggapan, manajemen siklus hidup, eDiscovery, kepatuhan komunikasi — Microsoft Purview - Laporan AI bagi pengembang untuk mencatat detail dan kontrol proyek — Foundry - Penilaian dampak privasi — Microsoft Priva - Mitigasi untuk konten berbahaya, informasi yang salah, dan materi yang dilindungi — Azure AI Content Safety

Langkah selanjutnya untuk mengamankan AI

Pustaka ini memandu Anda melalui proses penerapan keamanan untuk AI dalam pendekatan bertahap.

Ikuti panduan dalam rangkaian artikel ini untuk mempelajari selengkapnya tentang mengamankan AI dan mengidentifikasi dan menerapkan kemampuan untuk mencapai tujuan organisasi Anda.

• Bersiap untuk AI
• Menemukan aplikasi dan data AI
• Melindungi data dan aplikasi AI
• Mengatur AI untuk kepatuhan

Untuk mempelajari selengkapnya tentang mengoptimalkan postur keamanan Anda secara keseluruhan dan Zero Trust, lihat Memodernisasi postur keamanan Anda dengan cepat.

Untuk mulai menggunakan perlindungan keamanan yang direkomendasikan untuk pendamping AI, lihat Menggunakan keamanan Zero Trust untuk mempersiapkan pendamping AI, termasuk Microsoft Copilots.