Proteja dados gerados e processados por IA
À medida que a Contoso adota serviços baseados em IA, surgem novos riscos em torno de como as informações confidenciais são usadas, geradas e expostas por meio de interações de IA. As equipes de segurança precisam garantir que as ferramentas de IA processem dados de forma segura, apliquem proteções de forma consistente e evitem que conteúdo confidencial seja usado indevidamente.
Riscos introduzidos pelos serviços de IA
As ferramentas de IA aumentam a eficiência, mas também criam novos riscos de exposição:
- Informações confidenciais podem aparecer em respostas geradas por IA.
- Os prompts enviados a modelos de IA podem incluir dados confidenciais ou sensíveis.
- O conteúdo gerado por IA pode ser compartilhado, armazenado ou usado sem controles adequados.
As políticas de segurança devem abordar como os serviços de IA lidam com dados de entrada e saída para evitar a divulgação não intencional.
Proteções Microsoft Purview para interações de IA
O Microsoft Purview inclui controles de proteção que se estendem aos serviços de IA:
- Prevenção contra perda de dados (DLP) para serviços de IA: as políticas de DLP podem avaliar prompts e respostas enviadas a serviços de IA suportados, aplicando proteções para evitar a exposição de informações confidenciais.
- Rótulos de sensibilidade e criptografia: o conteúdo gerado por IA armazenado nos serviços do Microsoft 365 pode herdar rótulos de sensibilidade e aplicar criptografia, garantindo que os dados permaneçam protegidos mesmo depois de processados.
- Gestão de risco interno: as políticas podem monitorar atividades de risco que envolvam serviços de IA, como o envio de dados confidenciais em ferramentas de IA públicas ou não gerenciadas.
Ao estender essas proteções às interações de IA, a Contoso garante que as informações confidenciais permaneçam protegidas mesmo quando as ferramentas de IA se tornam parte dos fluxos de trabalho diários.