Resumo
Este módulo forneceu uma exploração inicial do teste de segurança de IA, desde a compreensão dos desafios exclusivos dos sistemas de IA até o planejamento e a execução de exercícios de agrupamento vermelhos eficazes. À medida que a IA continua evoluindo, nossas abordagens de segurança também devem tornar as práticas de equipe vermelhas de IA essenciais para manter a integridade e a confiabilidade das soluções de IA.
Leitura adicional
Os artigos e as apresentações de vídeo a seguir fornecem mais informações sobre a abordagem da Microsoft para o agrupamento vermelho de IA.
Serviço OpenAI do Azure – OpenAI do Azure
Filtragem de conteúdo do Serviço OpenAI do Azure – OpenAI do Azure
Como a Microsoft Aborda a Equipe Vermelha de IA
Equipe Vermelha de IA da Microsoft criando futuro de IA mais seguro
Equipes vermelhas pensam como hackers para ajudar a manter a IA segura