Utforska risker för generativa AI-artefakter före distribution

CsPM-plan (Cloud Security Posture Management) i Microsoft Defender för molnet hjälper dig att förbättra säkerhetsstatusen för generativa AI-appar genom att identifiera sårbarheter i generativa AI-bibliotek som finns i dina AI-artefakter, till exempel containeravbildningar och kodlagringsplatser. Den här artikeln beskriver hur du utforskar och identifierar säkerhetsrisker för dessa program.

Förutsättningar

• Läs mer om hantering av AI-säkerhetsstatus.

• Läs mer om att undersöka risker med molnsäkerhetsutforskaren och attackvägar.

• Du behöver en Microsoft Azure-prenumeration. Om du inte har en Azure-prenumeration kan du registrera dig för en kostnadsfri prenumeration.

• Aktivera Defender för molnet i din Azure-prenumeration.

• Aktivera CSPM (Cloud Security Posture Management) i din Azure-prenumeration.

• Ha minst en Azure OpenAI-resurs med minst en modelldistribution ansluten till den via Azure AI Studio.

Identifiera containrar som körs på sårbara generativa AI-containeravbildningar

Molnsäkerhetsutforskaren kan användas för att identifiera containrar som kör generativa AI-containeravbildningar med kända säkerhetsrisker.

1. Logga in på Azure-portalen.

2. Sök efter och välj Microsoft Defender för molnet> Cloud Security Explorer.

3. Välj frågemallen Container som kör containeravbildningar med kända generativa AI-sårbarheter .

   

4. Välj Sök.

5. Välj ett resultat för att granska dess information.

   

6. Välj en nod för att granska resultaten.

   

7. I avsnittet insikter väljer du ett CVE-ID i den nedrullningsbara menyn.

8. Välj Öppna sårbarhetssidan.

9. Åtgärda rekommendationen.

Identifiera sårbara generativa AI-kodlagringsplatser

Molnsäkerhetsutforskaren kan användas för att identifiera sårbara generativa AI-kodlagringsplatser som etablerar Azure OpenAI.

1. Logga in på Azure-portalen.

2. Sök efter och välj Microsoft Defender för molnet> Cloud Security Explorer.

3. Välj de generativa AI-sårbara kodlagringsplatserna som etablerar Azure OpenAI-frågemallen .

   

4. Välj Sök.

5. Välj ett resultat för att granska dess information.

   

6. Välj en nod för att granska resultaten.

   

7. I avsnittet insikter väljer du ett CVE-ID i den nedrullningsbara menyn.

8. Välj Öppna sårbarhetssidan.

9. Åtgärda rekommendationen.

Relaterat innehåll

• Översikt – AI-skydd mot hot
• Granska säkerhetsrekommendationer
• Identifiera och åtgärda attackvägar