Nota
O acesso a esta página requer autorização. Pode tentar iniciar sessão ou alterar os diretórios.
O acesso a esta página requer autorização. Pode tentar alterar os diretórios.
Os sistemas de IA fazem agora parte do património tecnológico empresarial central, incluindo aplicações de IA, agentes, modelos e os dados e serviços que utilizam. À medida que as organizações adotam IA, estes sistemas introduzem novos caminhos de acesso, dependências e condições de risco que devem ser governados como parte da arquitetura de segurança de ponta a ponta.
No Microsoft Security Adoption Framework (SAF), o pilar de IA aplica princípios Confiança Zero a cargas de trabalho e operações de IA: verificar explicitamente, usar privilégios mínimos e assumir compromisso. Estas orientações ajudam-no a proteger as capacidades de IA, apoiando ao mesmo tempo os resultados do negócio, a fiabilidade operacional e a melhoria contínua.
O que este pilar tecnológico cobre
Este pilar foca-se em proteger os sistemas de IA como cargas de trabalho e recursos críticos para o negócio, incluindo:
- Aplicações e sistemas de IA
- Agentes de IA e ambientes de execução de agentes
- IA e identidades de agentes
- Modelos, prompts e contexto
- Dados usados para grounding, treino e inferência
- Ferramentas, plugins, conectores e dependências externas
- Comunicações agente para agente e agente para serviço
- Infraestrutura de IA e ambientes de alojamento
Áreas centrais de controlo Confiança Zero para IA
Use este pilar para planear e implementar controlos nestas áreas, alinhados com as áreas de implementação no workshop de segurança de IA:
-
Mapear e avaliar o risco da IA
- Descubra e inventarie aplicações, agentes e serviços de IA.
- Prioritize os riscos e estabeleça responsabilidade, governação e limites de uso aceitável.
- Monitorize continuamente os sinais de risco e ajuste prioridades à medida que a utilização evolui.
-
Registar agentes e aplicar a governação do ciclo de vida
- Registar agentes num inventário centralizado.
- Classifica os agentes por propósito, criticidade empresarial e risco.
- Defina titularidade, publicação, certificação e controlos do ciclo de vida.
-
Autenticação e acesso seguros de IA
- Exigir autenticação forte e autorização para utilizadores, serviços e agentes.
- Aplica o privilégio mínimo e permissões delegadas para as ações do agente.
- Avaliar continuamente os sinais de identidade, dispositivo e risco antes e durante o acesso.
-
Acesso seguro a redes e serviços de IA
- Controlar como se acede aos serviços de IA através dos caminhos da rede e dos limites dos serviços.
- Aplique segmentação, filtragem e inspeção para interações com IA.
- Reduza a exposição à injeção de prompts e a caminhos de acesso não autorizados.
-
Acesso e utilização segura de dados de IA
- Classificar e proteger os dados usados em prompts, contexto, grounding e saídas.
- Aplique controlos de prevenção contra perda de dados e de utilização para reduzir o risco de partilha excessiva e exfiltração.
- Aplicar políticas de governação e conformidade para o tratamento de dados de IA.
-
Construir e implementar agentes de forma segura
- Aplicações de IA seguras, APIs, conectores e dependências da cadeia de ferramentas.
- Valide as fronteiras de confiança e os controlos em tempo de execução antes do uso em produção.
- Aplicar controlos seguros de desenvolvimento, testes e disponibilização para sistemas habilitados por IA.
-
Detetar e responder à IA
- Monitorize a atividade da IA, fluxos de pedidos, padrões de acesso e utilização de ferramentas.
- Detetar uso indevido, comportamentos anómalos e violações das políticas.
- Integrar a telemetria de IA nos fluxos de trabalho de deteção, investigação e resposta de incidentes.
Como este pilar se liga à SAF
A segurança da IA baseia-se noutras tecnologias SAF e disciplinas de segurança:
- Tecnologias: Identidade, Endpoints, Aplicações, Dados, Infraestrutura e Rede.
- Disciplinas de segurança: Desenvolvimento para práticas de engenharia seguras e SecOps para operações de deteção e resposta.
- Cenários de negócio: Adote e proteja a IA.