Observação
O acesso a essa página exige autorização. Você pode tentar entrar ou alterar diretórios.
O acesso a essa página exige autorização. Você pode tentar alterar os diretórios.
Os sistemas de IA agora fazem parte da principal propriedade de tecnologia empresarial, incluindo aplicativos de IA, agentes, modelos e os dados e serviços que eles usam. À medida que as organizações adotam a IA, esses sistemas introduzem novos caminhos de acesso, dependências e condições de risco que devem ser regidos como parte da arquitetura de segurança de ponta a ponta.
No SAF (Segurança da Microsoft Adoption Framework), o pilar de IA aplica-se Confiança Zero princípios a cargas de trabalho e operações de IA: verificar explicitamente, usar privilégios mínimos e assumir comprometimento. Essas diretrizes ajudam você a proteger os recursos de IA, ao mesmo tempo em que dá suporte a resultados de negócios, confiabilidade operacional e melhoria contínua.
O que este pilar de tecnologia aborda
Esse pilar se concentra na proteção de sistemas de IA como cargas de trabalho e recursos críticos para os negócios, incluindo:
- Aplicativos e sistemas de IA
- Agentes de IA e tempos de execução de agentes
- Identidades de IA e de agente
- Modelos, prompts e contexto
- Dados usados para fundamentação, treinamento e inferência
- Ferramentas, plug-ins, conectores e dependências externas
- Comunicações agente a agente e agente para serviço
- Infraestrutura de IA e ambientes de hospedagem
Áreas de controle de Confiança Zero principais para IA
Use este pilar para planejar e implementar controles entre essas áreas, alinhados às áreas de implementação no workshop de segurança de IA:
-
Mapear e avaliar o risco de IA
- Descubra e inventarie aplicativos de IA, agentes e serviços.
- Priorize os riscos e estabeleça a propriedade, a governança e as barreiras de proteção de uso aceitável.
- Monitore continuamente os sinais de risco e ajuste as prioridades à medida que o uso evolui.
-
Registrar agentes e impor a governança do ciclo de vida
- Registre agentes em um inventário centralizado.
- Classifique os agentes por finalidade, criticidade do negócio e risco.
- Defina controles de propriedade, publicação, certificação e ciclo de vida.
-
Autenticação e acesso seguros de IA
- Exigir autenticação e autorização fortes para usuários, serviços e agentes.
- Aplique privilégios mínimos e permissões delegadas para ações de agente.
- Avalie continuamente sinais de identidade, dispositivo e risco antes e durante o acesso.
-
Rede de IA e acesso a serviços seguros
- Controlar como os serviços de IA são acessados por caminhos de rede e através de fronteiras de serviço.
- Aplique segmentação, filtragem e inspeção para interações de IA.
- Reduza a exposição à injeção de prompt e aos caminhos de acesso não autorizados.
-
Acesso e uso seguros de dados de IA
- Classifique e proteja os dados usados em prompts, contexto, embasamento e saídas.
- Aplique controles de prevenção contra perda de dados e de uso para reduzir o compartilhamento excessivo e o risco de exfiltração.
- Aplicar políticas de governança e conformidade para manipulação de dados de IA.
-
Criar e implantar agentes com segurança
- Proteger aplicativos de IA, APIs, conectores e dependências de cadeia de ferramentas.
- Valide os limites de confiança e os controles de runtime antes do uso em produção.
- Aplique controles seguros de desenvolvimento, teste e versão para sistemas habilitados para IA.
-
Detectar e responder para IA
- Monitore a atividade de IA, os fluxos de prompt, os padrões de acesso e o uso de ferramentas.
- Detectar uso indevido, comportamento anômalo e violações de política.
- Integre a telemetria de IA aos fluxos de trabalho de detecção, investigação e resposta de incidentes.
Como esse pilar se conecta ao SAF
A segurança de IA depende de outras tecnologias SAF e disciplinas de segurança:
- Tecnologias: identidade, pontos de extremidade, aplicativos, dados, infraestrutura e rede.
- Disciplinas de segurança: desenvolvimento para práticas de engenharia seguras e SecOps para operações de detecção e resposta.
- Cenários de negócios: adotar e proteger a IA.