Proteger a IA com Confiança Zero

Os sistemas de IA agora fazem parte da principal propriedade de tecnologia empresarial, incluindo aplicativos de IA, agentes, modelos e os dados e serviços que eles usam. À medida que as organizações adotam a IA, esses sistemas introduzem novos caminhos de acesso, dependências e condições de risco que devem ser regidos como parte da arquitetura de segurança de ponta a ponta.

No SAF (Segurança da Microsoft Adoption Framework), o pilar de IA aplica-se Confiança Zero princípios a cargas de trabalho e operações de IA: verificar explicitamente, usar privilégios mínimos e assumir comprometimento. Essas diretrizes ajudam você a proteger os recursos de IA, ao mesmo tempo em que dá suporte a resultados de negócios, confiabilidade operacional e melhoria contínua.

O que este pilar de tecnologia aborda

Esse pilar se concentra na proteção de sistemas de IA como cargas de trabalho e recursos críticos para os negócios, incluindo:

  • Aplicativos e sistemas de IA
  • Agentes de IA e tempos de execução de agentes
  • Identidades de IA e de agente
  • Modelos, prompts e contexto
  • Dados usados para fundamentação, treinamento e inferência
  • Ferramentas, plug-ins, conectores e dependências externas
  • Comunicações agente a agente e agente para serviço
  • Infraestrutura de IA e ambientes de hospedagem

Áreas de controle de Confiança Zero principais para IA

Use este pilar para planejar e implementar controles entre essas áreas, alinhados às áreas de implementação no workshop de segurança de IA:

  1. Mapear e avaliar o risco de IA
    • Descubra e inventarie aplicativos de IA, agentes e serviços.
    • Priorize os riscos e estabeleça a propriedade, a governança e as barreiras de proteção de uso aceitável.
    • Monitore continuamente os sinais de risco e ajuste as prioridades à medida que o uso evolui.
  2. Registrar agentes e impor a governança do ciclo de vida
    • Registre agentes em um inventário centralizado.
    • Classifique os agentes por finalidade, criticidade do negócio e risco.
    • Defina controles de propriedade, publicação, certificação e ciclo de vida.
  3. Autenticação e acesso seguros de IA
    • Exigir autenticação e autorização fortes para usuários, serviços e agentes.
    • Aplique privilégios mínimos e permissões delegadas para ações de agente.
    • Avalie continuamente sinais de identidade, dispositivo e risco antes e durante o acesso.
  4. Rede de IA e acesso a serviços seguros
    • Controlar como os serviços de IA são acessados por caminhos de rede e através de fronteiras de serviço.
    • Aplique segmentação, filtragem e inspeção para interações de IA.
    • Reduza a exposição à injeção de prompt e aos caminhos de acesso não autorizados.
  5. Acesso e uso seguros de dados de IA
    • Classifique e proteja os dados usados em prompts, contexto, embasamento e saídas.
    • Aplique controles de prevenção contra perda de dados e de uso para reduzir o compartilhamento excessivo e o risco de exfiltração.
    • Aplicar políticas de governança e conformidade para manipulação de dados de IA.
  6. Criar e implantar agentes com segurança
    • Proteger aplicativos de IA, APIs, conectores e dependências de cadeia de ferramentas.
    • Valide os limites de confiança e os controles de runtime antes do uso em produção.
    • Aplique controles seguros de desenvolvimento, teste e versão para sistemas habilitados para IA.
  7. Detectar e responder para IA
    • Monitore a atividade de IA, os fluxos de prompt, os padrões de acesso e o uso de ferramentas.
    • Detectar uso indevido, comportamento anômalo e violações de política.
    • Integre a telemetria de IA aos fluxos de trabalho de detecção, investigação e resposta de incidentes.

Como esse pilar se conecta ao SAF

A segurança de IA depende de outras tecnologias SAF e disciplinas de segurança:

Diretrizes de workshop e implementação