Podsumowanie
Firma Contoso Financial Services uruchomiła ten moduł z modelami Azure OpenAI przetwarzającymi poufne dane finansowe i bez wykrywania zagrożeń w warstwie wnioskowania sztucznej inteligencji. Zespół ds. zabezpieczeń wiedział, że włączył Defender for Cloud Apps dla agentów Copilot Studio, ale wdrożenia modelu Foundry nie miały ochrony — próby jailbreaku, wyciek danych i kradzież poświadczeń nie zostaną wykryte.
Włączyłeś plan Defender dla usług AI na subskrypcjach hostujących obciążenia AI firmy Contoso. Następnie skonfigurowano podejrzane dowody monitu, aby alerty zawierały kontekst wymagany do efektywnego sortowania, i przejrzeliście opcjonalne składniki planu na rzecz integracji usługi Purview i skanowania modelu uczenia maszynowego. Następnie użyto pulpitu nawigacyjnego zabezpieczeń danych i sztucznej inteligencji, aby zweryfikować pokrycie, potwierdzić przepływ alertów i skonfigurować powiadomienia, aby zespół SOC był świadomy zagrożeń sztucznej inteligencji o wysokiej ważności.
W tym module przedstawiono sposób wykonywania następujących czynności:
- Włączanie planu Defender dla usług AI i konfigurowanie jego składników dla subskrypcji Azure
- Badanie alertów ochrony przed zagrożeniami AI w portalu Defender
- Monitorowanie stanu zabezpieczeń sztucznej inteligencji przy użyciu pulpitu nawigacyjnego zabezpieczeń danych i sztucznej inteligencji w Microsoft Defender dla Chmury
Learn more
- Omówienie ochrony przed zagrożeniami w sztucznej inteligencji
- Włączanie ochrony przed zagrożeniami dla usług sztucznej inteligencji