Door AI gegenereerde en AI-verwerkte gegevens beveiligen

  • 4 minuten

Naarmate Contoso ai-services gebruikt, ontstaan er nieuwe risico's rond hoe gevoelige informatie wordt gebruikt, gegenereerd en beschikbaar wordt gemaakt via AI-interacties. Beveiligingsteams moeten ervoor zorgen dat AI-hulpprogramma's gegevens veilig verwerken, consistente beveiliging toepassen en voorkomen dat gevoelige inhoud wordt misbruikt.

Risico's die worden geïntroduceerd door AI-services

AI-hulpprogramma's verhogen de efficiëntie, maar creëren ook nieuwe blootstellingsrisico's:

  • Gevoelige informatie kan worden weergegeven in door AI gegenereerde antwoorden.
  • Prompts die naar AI-modellen worden verzonden, kunnen gevoelige of vertrouwelijke gegevens bevatten.
  • Door AI gegenereerde inhoud kan worden gedeeld, opgeslagen of gebruikt zonder de juiste besturingselementen.

Beveiligingsbeleid moet betrekking hebben op de manier waarop AI-services zowel invoer- als uitvoergegevens verwerken om onbedoelde openbaarmaking te voorkomen.

Microsoft Purview-beveiliging voor AI-interacties

Microsoft Purview bevat beveiligingsbesturingselementen die worden uitgebreid naar AI-services:

  • Preventie van gegevensverlies (DLP) voor AI-services: DLP-beleid kan prompts en antwoorden evalueren die worden verzonden naar ondersteunde AI-services, waarbij beveiligingen worden toegepast om blootstelling aan gevoelige informatie te voorkomen.
  • Vertrouwelijkheidslabels en -versleuteling: door AI gegenereerde inhoud die is opgeslagen in Microsoft 365-services, kan vertrouwelijkheidslabels overnemen en versleuteling toepassen, zodat gegevens beveiligd blijven, zelfs nadat deze zijn verwerkt.
  • Intern risicobeheer: beleidsregels kunnen riskante activiteiten bewaken die BETREKKING hebben op AI-services, zoals het indienen van vertrouwelijke gegevens in openbare of onbeheerde AI-hulpprogramma's.

Door deze beveiligingen uit te breiden naar AI-interacties zorgt Contoso ervoor dat gevoelige informatie beveiligd blijft, zelfs als AI-hulpprogramma's deel uitmaken van dagelijkse werkstromen.