Microsoft Confiança Zero Workshop - Segurança de IA

A IA amplifica os riscos de segurança existentes e introduz novos riscos em identidades, dados, aplicações, infraestruturas, modelos, agentes, ferramentas, memória e interações com os utilizadores. Aplicar os princípios do Confiança Zero ajuda as organizações a verificar o acesso explicitamente, minimizar privilégios e exposição de dados, e assumir que os sistemas de IA e as suas dependências podem ser mal utilizados ou comprometidos.

O pilar do workshop de segurança de IA ajuda as organizações a descobrir e governar a utilização da IA, proteger os utilizadores e as identidades dos agentes, proteger prompts, dados de grounding e resultados, controlar o acesso à rede e às ferramentas, construir e operar agentes de forma segura, validar a qualidade e segurança da IA e integrar sinais específicos da IA nas operações de segurança. O Workshop transforma estas capacidades num roteiro de implementação priorizado.

O pilar do workshop de segurança em IA corresponde à tecnologia de IA definida no Microsoft Security Adoption Framework (SAF).

Porquê focar-se na segurança da IA?

Os sistemas de IA podem agir em nome dos utilizadores, aceder a grandes volumes de dados organizacionais, invocar ferramentas e APIs, reter memória e produzir conteúdo em grande escala. Propriedade fraca, permissões excessivas, partilha excessiva de dados, aplicações não aprovadas, desenvolvimento inseguro de agentes, injeção rápida, uso inseguro de ferramentas ou monitorização insuficiente podem prolongar os caminhos de ataque existentes e criar novos. A segurança da IA requer, portanto, controlos coordenados entre identidade, dados, rede, infraestrutura, aplicações, DevSecOps, conformidade e operações de segurança.

O resultado esperado é um acúmulo acionável de projetos de segurança de IA priorizados em Primeiro, Depois e Próximo, com base no risco, dependências, esforço de implementação, impacto no utilizador, licenciamento, requisitos regulatórios e prontidão.

Áreas de implementação de segurança em IA

Área Details
Estabelecer a governação e responsabilização da segurança da IA Defina princípios de segurança em IA, políticas de uso aceitável, propriedade do risco, funções administrativas privilegiadas, processos de aprovação e exceção, mapeamentos regulatórios e de conformidade, requisitos de documentação e resultados mensuráveis entre as partes interessadas do negócio, tecnologia, segurança, privacidade, legal e conformidade.
Descubra e avalie aplicações, agentes, modelos e cargas de trabalho de IA Crie um inventário consolidado entre a Microsoft e plataformas externas, incluindo aplicações de IA generativa, agentes, modelos, endpoints, identidades de carga de trabalho e IA local ou sombra. Classificar criticidade e risco, atribuir proprietários, rever as conclusões, delegar remediações e manter monitorização contínua.
Registar e governar agentes de IA ao longo do seu ciclo de vida Use o Registo do Agente 365 ou alternativas apropriadas para registar, classificar, organizar, publicar, certificar, ativar, atualizar, suspender e retirar agentes. Atribuir patrocinadores e proprietários, estabelecer modelos de governação e coleções, sincronizar registos externos onde for suportado e automatizar a gestão de registos em larga escala.
Utilizadores seguros, identidades de agentes e administração privilegiada Exigir autenticação de utilizador suportada, usar identidades de agentes dedicadas em vez de credenciais partilhadas e aplicar privilégios mínimos, Acesso Condicional, controlos baseados em risco, atributos de segurança personalizados, governação de identidades, pacotes de acesso, fluxos de trabalho do ciclo de vida e Privileged Identity Management a utilizadores, agentes, identidades de carga de trabalho e administradores.
Regir o acesso dos agentes a recursos, ferramentas e outros agentes Defina recursos aprovados, conectores, plugins, ações, servidores MCP e cenários de agentes conectados. Defina as permissões por propósito e risco do agente, exija aprovação para capacidades de alto impacto, aplique as políticas de dados do Copilot Studio quando apropriado e reveja o acesso à medida que os agentes e as dependências mudam.
Caminhos de rede seguros e gateways de IA Encaminhe o tráfego de IA e agentes suportado através de controlos de rede conscientes da identidade, como o Global Secure Access e gateways seguros de IA ou API. Aplicar filtragem, segmentação, limites de taxa, controlos de tokens, restrições de saída, inspeção rápida e proteções para endpoints personalizados de LLM e servidores MCP.
Proteger prompts, dados de aterramento, saídas e memória do agente Utilize as capacidades do Microsoft Purview, como a Gestão da Postura de Segurança dos Dados para IA, etiquetas de sensibilidade, Prevenção de Perda de Dados, auditoria, políticas de recolha, controlos de risco interno, retenção e conformidade das comunicações. Reduzir o excesso de partilha, proteger as fontes de aterramento e o conteúdo incorporado, governar a herança de etiquetas de saída e definir requisitos de isolamento, procedência, retenção, eliminação e observabilidade para a memória do agente.
Gerir a descoberta de aplicações de IA e o uso sancionado Utilize o Microsoft Defender for Cloud Apps, controlos de ponto final e políticas organizacionais para descobrir aplicações de IA generativa e agentes locais, classificar serviços autorizados e não autorizados, gerir o acesso e bloquear ou restringir aplicações de alto risco, preservando cenários de negócio aprovados.
Construa e publique agentes de IA de forma segura Estabelecer requisitos de desenvolvimento seguro para identidade, autorização, tratamento de dados, segurança de conteúdos, registo, memória, dependências, implantação e isolamento do ambiente. Exigir controlos de publicação e certificação, rever os riscos de conectores e ferramentas, e alinhar o desenvolvimento de agentes com as práticas de DevSecOps e da cadeia de abastecimento de software.
Validar a segurança, proteção e qualidade da IA Utilize controlos de segurança de conteúdo, Prompt Shields, testes adversariais e de red-team, avaliações de grounded, deteção de groundedness em tempo de execução, regras de qualidade de dados, testes de abuso e limiares de lançamento definidos. Retestar após alterações no modelo material, prompt, ferramenta, dados, memória ou configuração.
Proteger a infraestrutura, os modelos e os ambientes de execução de IA Descubra cargas de trabalho e modelos de IA com capacidades de gestão da postura de segurança na cloud, aplique o Azure Policy ou uma governação equivalente, isole infraestruturas sensíveis, proteja os serviços de IA e os runtimes dos agentes, proteja os endpoints da API e dos modelos e monitorize a exposição, vulnerabilidades, configurações e ameaças em tempo de execução.
Registar e monitorizar a atividade da IA Permitir registos de auditoria e diagnóstico para aplicações de IA, agentes, identidades, serviços, prompts, respostas, uso de ferramentas, operações de memória, endpoints de modelo e ações de governação sempre que suportado. Defina retenção, privacidade, minimização de dados, monitorização de saúde e controlos de acesso para telemetria de IA.
Detetar e responder a ameaças específicas de IA Ligue fontes de dados de IA ao Microsoft Sentinel, Microsoft Defender XDR ou outra plataforma SIEM/XDR. Implemente deteções para injeção de prompts, comportamento anómalo de agentes, uso arriscado de IA, exposição de dados, comprometimento de identidade, ferramentas inseguras e ataques em tempo de execução, e utilize painéis de controlo, consultas de investigação, playbooks e respostas automáticas com as salvaguardas adequadas.
Melhorar continuamente a postura de segurança da IA Estabelecer revisões recorrentes para inventário de IA, descobertas de risco, alertas DLP e de risco interno, permissões de agentes, controlos de publicação, tendências de incidentes, avaliações de modelos e agentes, evidência regulatória e progresso da remediação. Atualize as políticas e controlos à medida que as capacidades, ameaças e uso da IA evoluem.

Estas áreas resumem este pilar do workshop de segurança de IA. Use as orientações detalhadas de projetos de IA para rever projetos individuais, dependências, considerações de licenciamento e orientações de implementação.

Como usar o AI Workshop

Utilize o Workshop baseado na Web com as equipas de plataformas e de aplicações de IA, criadores de agentes, gestão de identidades, proteção de dados, redes, infraestrutura, DevSecOps, operações de segurança, privacidade, equipas jurídicas, equipas de conformidade e partes interessadas da empresa. Para cada projeto relevante:

  • Reveja o objetivo do projeto e a sua aplicabilidade ao seu ambiente.

  • Registar o estado atual, notas, decisões, proprietários e dependências conhecidas.

  • Considere licenciamento, esforço de implementação, impacto no utilizador, dados e requisitos regulamentares, pré-requisitos técnicos, cobertura e dependências trans-pilares.

  • Classifique o projeto como Primeiro, Depois ou Seguinte e incorpore-o no plano de implementação.

Abra o Confiança Zero Workshop e selecione o pilar de IA.

Consulte as orientações detalhadas de projetos de IA para obter informações ao nível do projeto.

Avalie a sua postura de segurança em IA

A Avaliação Microsoft Confiança Zero complementa o Workshop ao avaliar configurações e práticas de segurança de IA suportadas em comparação com as melhores práticas de segurança. Use as suas conclusões como um input adicional ao validar o estado atual e priorizar projetos de segurança em IA. Os resultados da avaliação não substituem a revisão interfuncional de inventário, risco, arquitetura, desenvolvimento, dados e operacional realizada no Workshop.

Saiba mais sobre a Confiança Zero Assessment.

Quem deve participar?

  • Proprietários de plataformas de IA, equipas de aplicações de IA, criadores de agentes, cientistas de dados, engenheiros de aprendizagem automática, arquitetos de aplicações e equipas de engenharia de software.

  • Equipas de identidade, governação de dados, proteção de dados, redes, infraestrutura, plataforma cloud, gestão de endpoints e DevSecOps.

  • Arquitetura de segurança, segurança de aplicações, segurança na cloud, operações de segurança, resposta a incidentes, gestão de exposição e equipas de inteligência de ameaças.

  • Privacidade, legal, conformidade, IA responsável, governação, risco, aquisições, proprietários de negócios, proprietários de dados e proprietários de aplicações.

Passos seguintes

Execute uma avaliação, e inicie o workshop de IA.