حماية البيانات التي تم إنشاؤها الذكاء الاصطناعي ومعالجتها الذكاء الاصطناعي
مع اعتماد شركة Contoso للخدمات التي تعمل الذكاء الاصطناعي، تظهر مخاطر جديدة حول كيفية استخدام المعلومات الحساسة وتوليدها وعرضها من خلال التفاعلات الذكاء الاصطناعي. تحتاج فرق الأمان إلى التأكد من أن أدوات الذكاء الاصطناعي تعالج البيانات بشكل آمن، وتطبق الحماية باستمرار، وتمنع إساءة استخدام المحتوى الحساس.
المخاطر التي تقدمها خدمات الذكاء الاصطناعي
الذكاء الاصطناعي أدوات زيادة الكفاءة ولكن أيضا خلق مخاطر التعرض جديدة:
- قد تظهر المعلومات الحساسة في الاستجابات التي تم إنشاؤها الذكاء الاصطناعي.
- قد تتضمن المطالبات المرسلة إلى نماذج الذكاء الاصطناعي بيانات حساسة أو سرية.
- قد تتم مشاركة المحتوى الذي تم إنشاؤه الذكاء الاصطناعي أو تخزينه أو استخدامه بدون عناصر تحكم مناسبة.
يجب أن تعالج نهج الأمان كيفية تعامل خدمات الذكاء الاصطناعي مع بيانات الإدخال والإخراج لمنع الكشف غير المقصود.
حماية Microsoft Purview للتفاعلات الذكاء الاصطناعي
يتضمن Microsoft Purview عناصر تحكم الحماية التي تمتد إلى خدمات الذكاء الاصطناعي:
- منع فقدان البيانات (DLP) لخدمات الذكاء الاصطناعي: يمكن لنهج DLP تقييم المطالبات والاستجابات المقدمة إلى خدمات الذكاء الاصطناعي المدعومة، وتطبيق الحماية لمنع التعرض للمعلومات الحساسة.
- أوصاف الحساسية والتشفير: يمكن للمحتوى الذي تم إنشاؤه الذكاء الاصطناعي والمخزن في خدمات Microsoft 365 وراثة أوصاف الحساسية وتطبيق التشفير، مما يضمن بقاء البيانات محمية حتى بعد معالجتها.
- إدارة المخاطر الداخلية: يمكن للنهج مراقبة النشاط الخطر الذي يتضمن خدمات الذكاء الاصطناعي، مثل إرسال بيانات سرية إلى أدوات الذكاء الاصطناعي عامة أو غير مدارة.
من خلال توسيع نطاق عمليات الحماية هذه لتشمل التفاعلات الذكاء الاصطناعي، تضمن شركة Contoso بقاء المعلومات الحساسة محمية حتى عندما تصبح أدوات الذكاء الاصطناعي جزءا من مهام سير العمل اليومية.