Forstå risici og ansvar i AI-udviklingsmiljøer
Udviklere bruger i stigende grad værktøjer som Copilot Studio, Azure AI-tjenester, Copilot i Fabric og Microsoft Entra-registrerede apps. Disse miljøer låser op for nye funktioner, men skaber også sikkerheds- og overholdelsesrisici, hvis der ikke anvendes sikkerhedsforanstaltninger. Fra usikker dataadgang til ikke-styrede AI-svar kan en enkelt forkert konfigureret agent eller prompt resultere i eksponering af følsomme data eller lovovertrædelser.
AI-agenter og apps, der er oprettet i udviklingsmiljøer, kan indtage, generere og dele følsomme oplysninger baseret på brugerinput og backend-datakilder. Der er flere faktorer, der gør disse miljøer unikt risikable:
- Hurtige injektionsangreb kan udnytte ufiltreret input til at manipulere en agents adfærd.
- AI-agenter kan få adgang til og returnere data, de ikke burde, især hvis deres tilladelser er for brede.
- Filer, der bruges i udviklingen, kan mangle følsomhedsmærkater eller kryptering, hvilket efterlader dem ubeskyttede.
- Brugerdefinerede apps, der er registreret via Microsoft Entra ID eller udrullet ved hjælp af Azure AI-tjenester, kan falde uden for synligheden af traditionelle sikkerhedsværktøjer, hvis de ikke er onboardet til Microsoft Purview.
Disse miljøer omfatter alle værktøjer eller platforme, hvor udviklere eller udviklere bygger, konfigurerer eller udvider AI-drevne apps, uanset om det er via lavkode, brugerdefineret kode eller Microsoft Entra-registrerede grænseflader.
Forstå udfordringen
Tempoet og fleksibiliteten i AI-udviklingen skaber ofte huller i synlighed og kontrol. I modsætning til traditionelle it-administrerede systemer kører disse værktøjer på decentraliserede platforme eller platforme med lav kode, hvor sikkerhedsforanstaltninger ikke anvendes konsekvent. Det medfører risici ikke kun under implementering, men også i tidlig udvikling og test.
Etabler sikkerhedsforanstaltninger på tværs af udviklingsmiljøer
For at reducere disse risici bør organisationer udføre disse handlinger på tværs af AI-udviklingsmiljøer:
- Find apps og agenter for at identificere de data, de har adgang til
- Anvend følsomhedsmærkater og DLP-politikker, så følsomme filer og usikre interaktioner beskyttes
- Registrer risikabel adfærd, f.eks. hurtigt misbrug eller uautoriseret adgang ved hjælp af Purview-analyse
- Bevar og undersøg interaktioner med opbevaring, overvågning og eDiscovery for at opfylde kravene til overholdelse af angivne standarder
Brug Microsoft Purview til at anvende beskyttelse
Når risici er identificeret, indeholder Microsoft Purview værktøjerne til at anvende ensartede sikkerhedsforanstaltninger på tværs af udviklingsmiljøer. DSPM til AI giver indsigt i, hvilke apps og agenter der er aktive, mens overvågning og risikoregistrering fanger interaktioner og afdækker potentielt misbrug. For at beskytte følsomt indhold kan administratorer anvende følsomhedsmærkater og DLP-politikker. Opbevaringspolitikker bevarer prompt- og svardata for overholdelse af angivne standarder, mens eDiscovery understøtter søgning og undersøgelse af disse data, når det er nødvendigt.
Støt sikker udvikling uden at bremse innovationen
Disse værktøjer giver organisationer mulighed for at anvende ensartede sikkerhedsforanstaltninger på tværs af AI-udviklingsmiljøer. Ved at fokusere på synlighed, beskyttelse, detektion og overholdelse kan organisationer understøtte sikker udvikling uden at bremse innovationen.