Segurança da IA no Microsoft Confiança Zero Workshop

A IA amplifica o risco de segurança já existente e introduz novos riscos e considerações através de identidades, dados, aplicações e interações com os utilizadores. Estes riscos podem ser abordados com base nos princípios do Confiança Zero.

Proteger a IA não é apenas proteger os modelos e serviços de IA subjacentes. Também precisamos de garantir que o acesso, utilização e governação dos sistemas de IA estejam alinhados com os princípios do Confiança Zero.

A orientação dos pilares de IA foca-se em estabelecer visibilidade sobre o uso da IA, impor controlos rigorosos de identidade e acesso, proteger dados entre prompts e outputs, garantir o desenvolvimento de agentes e ambientes de execução, e integrar sinais de IA nas operações de segurança.

Implementação do workshop

O workshop de IA cobre as áreas de implementação resumidas na tabela.

Area	Detalhes
Mapear e avaliar o risco da IA	Descubra e invente agentes, aplicações e serviços de IA em toda a organização. Avaliar os riscos da IA utilizando insights centralizados de segurança, rever inventário e priorizar conclusões, e estabelecer políticas de governação, propriedade e uso aceitável. Implementar monitorização contínua e remediação para os riscos em evolução da IA.
Registar agentes	Registe agentes de IA num registo centralizado para manter visibilidade e controlo. Classificar e organizar agentes com base no propósito e risco, atribuir propriedade e responsabilidade, e definir publicação, certificação e ciclo de vida
Autenticação e acesso seguros por IA	Aplicar controlos de acesso baseados em identidade para sistemas e agentes de IA. Aplique Acesso Condicional, políticas baseadas em risco e atributos, e processos de governação de identidade para garantir que apenas utilizadores e serviços autorizados possam interagir com recursos de IA.
Acesso seguro à rede de IA	Controlar como os serviços de IA são acedidos em toda a rede. Encaminhe o tráfego através de controlos de acesso seguros, aplique políticas de filtragem e inspeção para interações com IA, e proteja-se contra riscos como injeção rápida e caminhos de acesso não autorizados.
Acesso seguro a dados de IA	Proteger dados sensíveis utilizados em prompts de IA, na contextualização e nos resultados da IA. Aplicar políticas de classificação, rotulagem e DLP, controlar o acesso às fontes de dados ligadas e monitorizar riscos de partilha excessiva e exposição de dados nas interações com IA.
Criar agentes de forma segura	Garantir o desenvolvimento e a implementação de agentes de IA através da aplicação de normas de autenticação, autorização e tratamento de dados. Integrar controlos de segurança de conteúdo, exigir validação e red teaming, e estabelecer processos seguros de publicação e implementação.
Detetar e responder à IA	Monitorize a atividade da IA e detete ameaças como uso indevido, anomalias e ataques baseados em prompts. Integrar sinais de IA nas operações de segurança, permitir fluxos de trabalho de investigação e resposta, e melhorar continuamente as capacidades de deteção e resposta.

Passos seguintes

Começa o workshop de IA.