הגנה על נתונים שנוצרו על-ידי בינה מלאכותית ונתונים המעובדים באמצעות בינה מלאכותית
מאחר ש- Contoso מאמצת שירותים שמופקים באמצעות בינה מלאכותית, סיכונים חדשים מתפתחים סביב אופן השימוש במידע רגיש, שנוצר ונחשף באמצעות אינטראקציות של בינה מלאכותית. צוותי אבטחה צריכים לוודא שכלי הבינה המלאכותית מעבדים נתונים באופן מאובטח, להחיל הגנות באופן עקבי ולמנוע שימוש לרעה בתוכן רגיש.
סיכונים שהוצגו על-ידי שירותי בינה מלאכותית
כלי בינה מלאכותית מגבירים את היעילות, אך גם יוצרים סיכוני חשיפה חדשים:
- מידע רגיש עשוי להופיע בתגובות שנוצרו על-ידי בינה מלאכותית.
- בקשות שנשלחות למודלים של בינה מלאכותית עשויות לכלול נתונים רגישים או סודיים.
- ייתכן שתוכן שנוצר על-ידי בינה מלאכותית ישותף, יאוחסן או ישמש ללא פקדים תקיןים.
על פריטי מדיניות אבטחה לטפל באופן בו שירותי בינה מלאכותית מטפלים נתוני קלט ופלט כדי למנוע חשיפה בלתי מכוונת.
הגנות של Microsoft Purview לאינטראקציות של בינה מלאכותית
Microsoft Purview כולל פקדי הגנה המורחבים לשירותים של בינה מלאכותית:
- מניעת אובדן נתונים (DLP) עבור שירותי בינה מלאכותית: מדיניות DLP יכולה להעריך בקשות ותגובות שנשלחות לשירותים נתמכים של בינה מלאכותית, ולהחיל הגנות למניעת חשיפת מידע רגיש.
- תוויות רגישות והצפנה: תוכן שנוצר על-ידי בינה מלאכותית המאוחסן בשירותים של Microsoft 365 יכול לקבל תוויות רגישות בירושה ולהחיל הצפנה ולהבטיח שהנתונים יישארו מוגנים גם לאחר עיבודם.
- ניהול סיכונים פנימיים: פריטי מדיניות יכולים לנטר פעילות מסיכונים הכרוכה בבינה מלאכותית, כגון שליחת נתונים סודיים לכלי בינה מלאכותית ציבוריים או לא מנוהלים.
על-ידי הרחבת הגנות אלה לאינטראקציות של בינה מלאכותית, Contoso מבטיחה שמידע רגיש יישאר מוגן גם כאשר כלי בינה מלאכותית הופכים לחלק מזרימות עבודה יומיומיות.