Introduction
Firma Contoso Financial Services uruchamia modele Azure OpenAI za pośrednictwem platformy Microsoft Foundry w celu wspierania analizy dokumentów i badań regulacyjnych. Modele te przetwarzają wezwania zawierające poufne dane finansowe—szczegóły konta klienta, rekordy transakcji i ustalenia zgodności. Zespół ds. zabezpieczeń włączył Defender for Cloud Apps, aby chronić agentów Copilot Studio w warstwie sesji. Jednak usługi Azure AI, które wspierają wdrożenia Foundry firmy Contoso, nie mają włączonego wykrywania zagrożeń. Jeśli osoba atakująca podejmie próbę przeprowadzenia jailbreaku lub eksfiltracji danych za pośrednictwem warstwy wnioskowania modelu, zespół ds. bezpieczeństwa nie otrzymuje żadnych alertów, nie ma dowodów ani widoczności.
Microsoft Defender dla Chmury obejmuje plan ochrony obciążeń w chmurze dla usług sztucznej inteligencji — plan Defender dla usług AI. Po włączeniu jej w ramach subskrypcji Azure Defender dla Chmury skanuje tokeny tekstowe w czasie wnioskowania i generuje alerty zabezpieczeń dotyczące zagrożeń, takich jak próby jailbreaku, wyciek danych i kradzież poświadczeń. Te alerty integrują się z Microsoft Defender XDR wraz z istniejącymi sygnałami tożsamości, punktu końcowego i aplikacji w chmurze.
Ten moduł przeprowadzi Cię przez proces włączania i konfigurowania planu Defender dla usług AI, a następnie używania pulpitu nawigacyjnego zabezpieczeń danych i sztucznej inteligencji do monitorowania pokrycia ochrony w ramach subskrypcji.
Cele nauczania
Z tego modułu dowiesz się, jak wykonywać następujące czynności:
- Włączanie planu Defender dla usług AI i konfigurowanie jego składników dla subskrypcji Azure
- Badanie alertów ochrony przed zagrożeniami AI w portalu Defender
- Monitorowanie stanu zabezpieczeń sztucznej inteligencji przy użyciu pulpitu nawigacyjnego zabezpieczeń danych i sztucznej inteligencji w Microsoft Defender dla Chmury
Wymagania wstępne
Przed rozpoczęciem należy dysponować:
- Doświadczenie w nawigowaniu Microsoft Defender dla Chmury w portalu Azure
- Znajomość włączania planów ochrony obciążeń Defender dla Chmury
- Znajomość pojęć dotyczących Azure AI services (Azure OpenAI, wdrożeń modeli)
- rola Owner lub Contributor w docelowej subskrypcji Azure