IA segura com Confiança Zero

Os sistemas de IA fazem agora parte do património tecnológico empresarial central, incluindo aplicações de IA, agentes, modelos e os dados e serviços que utilizam. À medida que as organizações adotam IA, estes sistemas introduzem novos caminhos de acesso, dependências e condições de risco que devem ser governados como parte da arquitetura de segurança de ponta a ponta.

No Microsoft Security Adoption Framework (SAF), o pilar de IA aplica princípios Confiança Zero a cargas de trabalho e operações de IA: verificar explicitamente, usar privilégios mínimos e assumir compromisso. Estas orientações ajudam-no a proteger as capacidades de IA, apoiando ao mesmo tempo os resultados do negócio, a fiabilidade operacional e a melhoria contínua.

O que este pilar tecnológico cobre

Este pilar foca-se em proteger os sistemas de IA como cargas de trabalho e recursos críticos para o negócio, incluindo:

  • Aplicações e sistemas de IA
  • Agentes de IA e ambientes de execução de agentes
  • IA e identidades de agentes
  • Modelos, prompts e contexto
  • Dados usados para grounding, treino e inferência
  • Ferramentas, plugins, conectores e dependências externas
  • Comunicações agente para agente e agente para serviço
  • Infraestrutura de IA e ambientes de alojamento

Áreas centrais de controlo Confiança Zero para IA

Use este pilar para planear e implementar controlos nestas áreas, alinhados com as áreas de implementação no workshop de segurança de IA:

  1. Mapear e avaliar o risco da IA
    • Descubra e inventarie aplicações, agentes e serviços de IA.
    • Prioritize os riscos e estabeleça responsabilidade, governação e limites de uso aceitável.
    • Monitorize continuamente os sinais de risco e ajuste prioridades à medida que a utilização evolui.
  2. Registar agentes e aplicar a governação do ciclo de vida
    • Registar agentes num inventário centralizado.
    • Classifica os agentes por propósito, criticidade empresarial e risco.
    • Defina titularidade, publicação, certificação e controlos do ciclo de vida.
  3. Autenticação e acesso seguros de IA
    • Exigir autenticação forte e autorização para utilizadores, serviços e agentes.
    • Aplica o privilégio mínimo e permissões delegadas para as ações do agente.
    • Avaliar continuamente os sinais de identidade, dispositivo e risco antes e durante o acesso.
  4. Acesso seguro a redes e serviços de IA
    • Controlar como se acede aos serviços de IA através dos caminhos da rede e dos limites dos serviços.
    • Aplique segmentação, filtragem e inspeção para interações com IA.
    • Reduza a exposição à injeção de prompts e a caminhos de acesso não autorizados.
  5. Acesso e utilização segura de dados de IA
    • Classificar e proteger os dados usados em prompts, contexto, grounding e saídas.
    • Aplique controlos de prevenção contra perda de dados e de utilização para reduzir o risco de partilha excessiva e exfiltração.
    • Aplicar políticas de governação e conformidade para o tratamento de dados de IA.
  6. Construir e implementar agentes de forma segura
    • Aplicações de IA seguras, APIs, conectores e dependências da cadeia de ferramentas.
    • Valide as fronteiras de confiança e os controlos em tempo de execução antes do uso em produção.
    • Aplicar controlos seguros de desenvolvimento, testes e disponibilização para sistemas habilitados por IA.
  7. Detetar e responder à IA
    • Monitorize a atividade da IA, fluxos de pedidos, padrões de acesso e utilização de ferramentas.
    • Detetar uso indevido, comportamentos anómalos e violações das políticas.
    • Integrar a telemetria de IA nos fluxos de trabalho de deteção, investigação e resposta de incidentes.

Como este pilar se liga à SAF

A segurança da IA baseia-se noutras tecnologias SAF e disciplinas de segurança:

Workshops e orientações de implementação