Protéger les données générées par l’IA et traitées par l’IA

  • 4 minutes

À mesure que Contoso adopte des services basés sur l’IA, de nouveaux risques émergent autour de la façon dont les informations sensibles sont utilisées, générées et exposées par le biais d’interactions IA. Les équipes de sécurité doivent s’assurer que les outils IA traitent les données en toute sécurité, appliquent des protections de manière cohérente et empêchent le contenu sensible d’être mal utilisé.

Risques introduits par les services IA

Les outils IA augmentent l’efficacité, mais créent également de nouveaux risques d’exposition :

  • Les informations sensibles peuvent apparaître dans les réponses générées par l’IA.
  • Les invites envoyées aux modèles IA peuvent inclure des données sensibles ou confidentielles.
  • Le contenu généré par l’IA peut être partagé, stocké ou utilisé sans contrôles appropriés.

Les stratégies de sécurité doivent traiter la façon dont les services IA gèrent à la fois les données d’entrée et de sortie pour empêcher la divulgation involontaire.

Protections Microsoft Purview pour les interactions avec l’IA

Microsoft Purview inclut des contrôles de protection qui s’étendent aux services IA :

  • Protection contre la perte de données (DLP) pour les services IA : les stratégies DLP peuvent évaluer les invites et les réponses envoyées aux services IA pris en charge, en appliquant des protections pour empêcher l’exposition des informations sensibles.
  • Étiquettes de confidentialité et chiffrement : le contenu généré par l’IA stocké dans les services Microsoft 365 peut hériter des étiquettes de confidentialité et appliquer le chiffrement, ce qui garantit que les données restent protégées même après son traitement.
  • Gestion des risques internes : les stratégies peuvent surveiller les activités risquées qui impliquent des services IA, tels que l’envoi de données confidentielles dans des outils IA publics ou non managés.

En étendant ces protections aux interactions ia, Contoso garantit que les informations sensibles restent protégées même si les outils IA font partie des workflows quotidiens.