Melindungi data yang dihasilkan AI dan diproses AI
Karena Contoso mengadopsi layanan yang didukung AI, risiko baru muncul seputar bagaimana informasi sensitif digunakan, dihasilkan, dan diekspos melalui interaksi AI. Tim keamanan perlu memastikan bahwa alat AI memproses data dengan aman, menerapkan perlindungan secara konsisten, dan mencegah konten sensitif disalahgunakan.
Risiko yang diperkenalkan oleh layanan AI
Alat AI meningkatkan efisiensi tetapi juga menciptakan risiko paparan baru:
- Informasi sensitif mungkin muncul dalam respons yang dihasilkan AI.
- Perintah yang dikirimkan ke model AI mungkin menyertakan data sensitif atau rahasia.
- Konten yang dihasilkan AI mungkin dibagikan, disimpan, atau digunakan tanpa kontrol yang tepat.
Kebijakan keamanan harus mengatasi bagaimana layanan AI menangani data input dan output untuk mencegah pengungkapan yang tidak diinginkan.
Perlindungan Microsoft Purview untuk interaksi AI
Microsoft Purview menyertakan kontrol perlindungan yang meluas ke layanan AI:
- Pencegahan kehilangan data (DLP) untuk layanan AI: Kebijakan DLP dapat mengevaluasi permintaan dan respons yang dikirimkan ke layanan AI yang didukung, menerapkan perlindungan untuk mencegah paparan informasi sensitif.
- Label dan enkripsi sensitivitas: Konten buatan AI yang disimpan di layanan Microsoft 365 dapat mewarisi label sensitivitas dan menerapkan enkripsi, memastikan data tetap terlindungi bahkan setelah diproses.
- Manajemen risiko insider: Kebijakan dapat memantau aktivitas berisiko yang melibatkan layanan AI, seperti mengirimkan data rahasia ke alat AI publik atau tidak terkelola.
Dengan memperluas perlindungan ini ke interaksi AI, Contoso memastikan bahwa informasi sensitif tetap dilindungi bahkan karena alat AI menjadi bagian dari alur kerja sehari-hari.