Schützen von KI-generierten und KI-verarbeiteten Daten
Da Contoso KI-gestützte Dienste einführt, entstehen neue Risiken in Bezug auf die Nutzung, Erzeugung und Offenlegung vertraulicher Informationen durch KI-Interaktionen. Sicherheitsteams müssen sicherstellen, dass KI-Tools Daten sicher verarbeiten, Schutzmaßnahmen einheitlich anwenden und verhindern, dass vertrauliche Inhalte missbraucht werden.
Durch KI-Dienste eingeführte Risiken
KI-Tools erhöhen die Effizienz, schaffen aber auch neue Risikorisiken:
- Vertrauliche Informationen können in KI-generierten Antworten angezeigt werden.
- Aufforderungen, die an KI-Modelle übermittelt werden, können vertrauliche oder vertrauliche Daten enthalten.
- KI-generierte Inhalte können freigegeben, gespeichert oder ohne ordnungsgemäße Steuerelemente verwendet werden.
Sicherheitsrichtlinien müssen berücksichtigen, wie KI-Dienste sowohl Eingabe- als auch Ausgabedaten behandeln, um unbeabsichtigte Offenlegung zu verhindern.
Microsoft Purview-Schutz für KI-Interaktionen
Microsoft Purview umfasst Schutzmaßnahmen, die sich auf KI-Dienste erstrecken.
- Verhinderung von Datenverlust (Data Loss Prevention, DLP) für KI-Dienste: DLP-Richtlinien können Aufforderungen und Antworten auswerten, die an unterstützte KI-Dienste übermittelt werden, und Schutzmaßnahmen anwenden, um vertrauliche Informationen zu verhindern.
- Vertraulichkeitsbezeichnungen und Verschlüsselung: KI-generierte Inhalte, die in Microsoft 365-Diensten gespeichert sind, können Vertraulichkeitsbezeichnungen erben und Verschlüsselung anwenden, um sicherzustellen, dass Die Daten auch nach der Verarbeitung geschützt bleiben.
- Insider-Risikomanagement: Richtlinien können riskante Aktivitäten überwachen, die KI-Dienste beinhalten, z. B. das Übermitteln vertraulicher Daten an öffentliche oder nicht verwaltete KI-Tools.
Durch die Erweiterung dieser Schutzmaßnahmen auf KI-Interaktionen stellt Contoso sicher, dass vertrauliche Informationen geschützt bleiben, auch wenn KI-Tools Teil von alltäglichen Workflows werden.