Explore os riscos dos artefatos de IA generativa pré-implantação

O plano Defender Cloud Security Posture Management (CSPM) no Microsoft Defender for Cloud ajuda você a melhorar a postura de segurança de aplicativos de IA generativos, identificando vulnerabilidades em bibliotecas de IA generativas que existem em seus artefatos de IA, como imagens de contêiner e repositórios de código. Este artigo explica como explorar e identificar riscos de segurança para esses aplicativos.

Pré-requisitos

• Leia sobre o gerenciamento de postura de segurança de IA.

• Saiba mais sobre como investigar riscos com o explorador de segurança na nuvem e caminhos de ataque.

• Precisará de uma subscrição do Microsoft Azure. Se não tiver uma subscrição do Azure, pode inscrever-se numa subscrição gratuita.

• Habilite o Defender for Cloud em sua assinatura do Azure.

• Habilite o CSPM (Defender Cloud Security Posture Management) em sua assinatura do Azure.

• Tenha pelo menos um recurso do Azure OpenAI, com pelo menos uma implantação de modelo conectada a ele por meio do Azure AI Studio.

Identificar contêineres em execução em imagens de contêineres de IA generativa vulneráveis

O explorador de segurança na nuvem pode ser usado para identificar contêineres que estão executando imagens de contêiner de IA generativas com vulnerabilidades conhecidas.

1. Inicie sessão no portal do Azure.

2. Procure e selecione Microsoft Defender for Cloud>Security Explorer.

3. Selecione o modelo de consulta Contêiner executando imagens de contêiner com vulnerabilidades conhecidas da IA generativa.

   

4. Selecionar Pesquisa.

5. Selecione um resultado para rever os seus detalhes.

   

6. Selecione um nó para revisar as descobertas.

   

7. Na seção insights, selecione uma ID CVE no menu suspenso.

8. Selecione Abrir a página de vulnerabilidade.

9. Remediar a recomendação.

Identificar repositórios de código de IA generativa vulneráveis

O explorador de segurança na nuvem pode ser usado para identificar repositórios de código de IA generativa vulneráveis, que provisionam o Azure OpenAI.

1. Inicie sessão no portal do Azure.

2. Procure e selecione Microsoft Defender for Cloud>Security Explorer.

3. Selecione os repositórios de código vulneráveis da IA Generativa que provisionam o modelo de consulta do Azure OpenAI .

   

4. Selecionar Pesquisa.

5. Selecione um resultado para rever os seus detalhes.

   

6. Selecione um nó para revisar as descobertas.

   

7. Na seção insights, selecione uma ID CVE no menu suspenso.

8. Selecione Abrir a página de vulnerabilidade.

9. Remediar a recomendação.

Conteúdos relacionados

• Visão geral - Proteção contra ameaças de IA
• Rever as recomendações de segurança
• Identificar e remediar caminhos de ataque