Menemukan aplikasi dan data AI

Generative AI (GenAI) sedang diadopsi pada tingkat yang belum pernah terjadi sebelumnya karena organisasi secara aktif terlibat dengan atau bereksperimen dengan GenAI dalam berbagai kapasitas. Tim keamanan dapat mengurangi dan mengelola risiko secara lebih efektif dengan secara proaktif mendapatkan visibilitas ke dalam penggunaan AI dalam organisasi dan menerapkan kontrol yang sesuai. Artikel ini menjelaskan cara menemukan penggunaan aplikasi AI dalam organisasi Anda, termasuk menilai risiko terhadap data sensitif Anda.

Ini adalah artikel kedua dalam seri. Sebelum menggunakan artikel ini, pastikan Anda menyelesaikan tugas dalam Menyiapkan keamanan AI untuk mempersiapkan lingkungan Anda dengan kemampuan yang ditentukan dalam artikel ini.

Microsoft menyediakan alat untuk membantu Anda mendapatkan visibilitas ke dalam risiko data, akses, pengguna, dan aplikasi untuk AI yang Anda bangun dan gunakan. Kemampuan ini membantu Anda secara proaktif mengatasi kerentanan saat Anda membangun postur keamanan yang kuat untuk AI.

Tabel berikut ini menjelaskan ilustrasi dan juga menelusuri langkah-langkah penerapan kemampuan ini.

Langkah	Tugas	Ruang Lingkup
1	Dapatkan visibilitas ke semua identitas agen yang dibuat di Microsoft Copilot Studio dan Azure AI Foundry dengan ID Agen Microsoft Entra.	Agen yang dibuat di Microsoft Copilot Studio dan Azure AI Foundry
2	Dapatkan visibilitas ke dalam penggunaan AI dengan Microsoft Purview Data Security Posture Management (DSPM) untuk AI. Terapkan kebijakan untuk melindungi data sensitif.	Kopilot, agen, dan aplikasi AI lainnya yang menggunakan model bahasa besar (LLM) pihak ketiga, termasuk situs AI kompatibel.
3	Menemukan, memberi sanksi, dan memblokir aplikasi AI dengan Pertahanan Microsoft untuk Aplikasi Cloud	Aplikasi SaaS AI
4	Temukan beban kerja AI yang disebarkan di lingkungan Anda dan dapatkan wawasan keamanan dengan Microsoft Defender for Cloud Security Posture Management (CSPM)	Aplikasi AI yang dibangun secara khusus berbasis Azure AI

Langkah 1—Memperoleh visibilitas terhadap agen dengan ID Agen Entra (Pratinjau)

Ketika organisasi membangun dan mengadopsi agen AI, sangat sulit untuk melacak aktor non-manusia ini. Hal yang sangat membuat agen-agen ini kuat — kemampuan mereka untuk secara otonom menangani tugas yang kompleks dan bertindak seperti rekan tim virtual — juga menimbulkan kekhawatiran. Itulah sebabnya sangat penting untuk melacak identitas agen, mengelola siklus hidup dan izin mereka, dan mengamankan akses mereka dengan hati-hati ke sumber daya organisasi Anda.

Microsoft Entra Agent ID (Pratinjau) menyediakan direktori terpadu untuk semua identitas agen yang dibuat di Microsoft Copilot Studio dan Azure AI Foundry. Ini adalah langkah pertama dalam memberikan visibilitas, perlindungan, dan tata kelola yang lebih besar dari volume agen yang berkembang pesat di organisasi.

Tugas	Sumber daya yang disarankan
Menampilkan semua agen di organisasi Anda	masuk ke pusat admin Microsoft Entra dan navigasikan ke aplikasi Enterprise. Di bilah filter di bagian atas tampilan daftar, atur dropdown Jenis aplikasi ke ID Agen (Pratinjau). Secara instan, daftar aplikasi perusahaan Anda akan mempersempit untuk menampilkan agen AI (dibuat melalui Copilot Studio atau Azure AI Foundry) yang terdaftar di penyewa Anda.
Pelajari lebih lanjut dengan meninjau blog ini	Mengumumkan ID Agen Microsoft Entra: Mengamankan dan mengelola agen AI Anda

Langkah 2—Dapatkan visibilitas ke dalam penggunaan AI dengan Manajemen Postur Keamanan Data (DSPM) untuk AI

Microsoft Purview Data Security Posture Management (DSPM) untuk AI berfokus pada bagaimana AI digunakan di organisasi Anda, terutama bagaimana data Anda berinteraksi dengan alat AI. Ini berfungsi dengan situs AI generatif. DSPM untuk AI memberikan wawasan yang lebih mendalam untuk Microsoft Copilots dan aplikasi SaaS pihak ketiga seperti ChatGPT Enterprise dan Google Gemini.

Diagram berikut menunjukkan salah satu tampilan agregat ke dalam dampak penggunaan AI pada data Anda—Interaksi sensitif per aplikasi AI generatif.

DSPM untuk AI menawarkan serangkaian kemampuan yang membantu Anda mengadopsi AI dengan aman tanpa harus memilih antara produktivitas dan perlindungan:

• Wawasan dan analitik ke dalam aktivitas AI di organisasi Anda
• Kebijakan siap pakai untuk melindungi data dan mencegah kehilangan data dalam perintah AI
• Penilaian risiko data untuk mengidentifikasi, memulihkan, dan memantau potensi berbagi berlebihan data
• Tindakan yang direkomendasikan berdasarkan data di penyewa Anda
• Kontrol kepatuhan untuk menerapkan penanganan dan penyimpanan data yang optimal

Untuk memantau interaksi dengan situs AI pihak ketiga, perangkat harus di-onboard ke Microsoft Purview. Jika Anda mengikuti panduan dalam Mempersiapkan keamanan AI, Anda mendaftarkan perangkat ke manajemen dengan Microsoft Intune, lalu melakukan onboarding perangkat ini ke Defender for Endpoint. Onboarding perangkat dibagikan di Microsoft 365 (termasuk Microsoft Purview) dan Pertahanan Microsoft untuk Titik Akhir (MDE).

Gunakan sumber daya berikut untuk menemukan aplikasi dan data AI dengan DSPM untuk AI.

Tugas	Sumber daya yang disarankan
Pastikan perangkat di-onboard ke Microsoft Purview.	Jika perangkat belum di-onboarding ke Defender for Endpoint, ada beberapa metode untuk membuatnya onboarding. Lihat, Penyiapan perangkat Windows untuk Microsoft 365.
Memahami prasyarat dan cara kerja DSPM untuk AI	Pertimbangan untuk menyebarkan Manajemen Postur Keamanan Data Microsoft Purview untuk AI
Mulai menggunakan DSPM untuk AI	Cara menggunakan Manajemen Postur Keamanan Data untuk AI
Meninjau situs AI yang didukung	Situs AI yang didukung oleh Microsoft Purview untuk perlindungan keamanan dan kepatuhan data

Langkah 3—Temukan, beri sanksi, dan blokir aplikasi AI dengan Microsoft Defender for Cloud Apps

Aplikasi Pertahanan Microsoft untuk Cloud membantu tim keamanan menemukan aplikasi dan penggunaan SaaS GenAI.

Katalog aplikasi Defender for Cloud Apps mencakup kategori AI Generatif untuk aplikasi model bahasa besar (LLM), seperti Microsoft Bing Chat, Google Bard, ChatGPT, dan banyak lagi. Defender for Cloud Apps telah menambahkan lebih dari seribu aplikasi terkait AI generatif ke katalog, memberikan visibilitas tentang bagaimana aplikasi AI generatif digunakan di organisasi Anda dan membantu Anda mengelolanya dengan aman.

Dengan Defender untuk Aplikasi Cloud, Anda dapat:

• Filter untuk aplikasi AI Generatif
• Menemukan aplikasi AI yang digunakan di organisasi Anda
• Lihat penilaian risiko bawaan untuk setiap aplikasi, termasuk lebih dari 90 faktor risiko dalam hal keamanan dan kepatuhan peraturan
• Izinkan atau pemblokiran penggunaan aplikasi tertentu
• Buat kebijakan yang terus menemukan aplikasi AI berdasarkan kriteria yang Anda tetapkan, termasuk skor risiko, jumlah pengguna per hari, dan lainnya. Anda bahkan dapat secara otomatis membatalkan sanksi aplikasi yang memenuhi kriteria.

Gunakan sumber daya berikut untuk langkah berikutnya.

Tugas	Sumber daya yang disarankan
Uji coba dan sebarkan Aplikasi Defender untuk Cloud	Bagaimana cara menguji coba dan menyebarkan Aplikasi Pertahanan Microsoft untuk Cloud?
Tinjau tutorial video ini	Menemukan Aplikasi AI Generatif Mana yang Digunakan di Lingkungan Anda Menggunakan Aplikasi Defender for Cloud
Menampilkan aplikasi yang ditemukan	Menampilkan aplikasi yang ditemukan dengan dasbor Penemuan cloud
Temukan aplikasi cloud Anda dan hitung skor risiko	Katalog aplikasi cloud dan skor risiko - Aplikasi Pertahanan Microsoft untuk Cloud
Mengatur aplikasi yang ditemukan	Mengelola aplikasi yang ditemukan - Microsoft Defender untuk Aplikasi Cloud

Langkah 4—Temukan beban kerja AI yang disebarkan di lingkungan Anda dan dapatkan wawasan keamanan dengan Pertahanan Microsoft untuk Cloud

Paket Defender Cloud Security Posture Management (CSPM) di Microsoft Defender for Cloud menyediakan kemampuan manajemen postur keamanan AI, dimulai dengan penemuan Aplikasi AI yang dibangun di lingkungan Anda:

• Menelusuri AI Bill of Materials (AI BOM) generatif, yang mencakup komponen aplikasi, data, dan artefak AI dari kode hingga cloud.
• Memperkuat posisi keamanan aplikasi AI generatif dengan rekomendasi bawaan serta dengan menjelajahi dan mengatasi risiko keamanan.
• Menggunakan analisis jalur serangan untuk mengidentifikasi dan memperbaiki risiko.

Gunakan penjelajah keamanan cloud untuk mengidentifikasi beban kerja dan model AI generatif yang berjalan di lingkungan Anda. Penjelajah keamanan cloud mencakup kueri yang telah dikonfigurasi sebelumnya:

• Beban kerja dan model AI yang digunakan
• Repositori kode rentan AI generatif yang menyediakan Azure OpenAI
• Kontainer yang menjalankan citra kontainer dengan kerentanan AI Generatif yang diketahui.

Anda juga dapat mengonfigurasi pertanyaan Anda sendiri.

Gunakan sumber daya berikut untuk langkah berikutnya.

Tugas	Sumber daya yang disarankan
Pelajari tentang manajemen postur keamanan AI	Manajemen postur keamanan AI dengan Defender for Cloud
Menemukan beban kerja AI	Beban kerja dan model AI yang digunakan
Menjelajahi risiko untuk predeployment artefak AI generatif	Risiko terhadap artefak AI generatif pra-implementasi

Langkah selanjutnya untuk mengamankan AI

Setelah menemukan penggunaan AI di organisasi Anda, langkah selanjutnya adalah menerapkan perlindungan:

• Melindungi data sensitif yang digunakan dengan aplikasi AI
• Menerapkan perlindungan ancaman khusus untuk penggunaan AI

Lihat artikel berikutnya dalam seri ini: Bagaimana cara melindungi organisasi saya saat menggunakan aplikasi AI?