Omówienie — ochrona przed zagrożeniami w sztucznej inteligencji

Ochrona przed zagrożeniami dla obciążeń sztucznej inteligencji w Microsoft Defender dla Chmury stale identyfikuje zagrożenia dla generowania aplikacji sztucznej inteligencji w czasie rzeczywistym i pomaga w procesie reagowania na problemy z zabezpieczeniami, które mogą istnieć w aplikacjach generujących sztuczną inteligencję.

Ważne

Ochrona przed zagrożeniami dla obciążeń sztucznej inteligencji jest obecnie dostępna w wersji zapoznawczej. Zobacz Dodatkowe warunki użytkowania wersji zapoznawczych platformy Microsoft Azure, aby zapoznać się z postanowieniami prawnymi dotyczącymi funkcji platformy Azure, które są w wersji beta lub wersji zapoznawczej albo w inny sposób nie zostały jeszcze wydane jako ogólnie dostępne.

Defender dla Chmury ochrona przed zagrożeniami w sztucznej inteligencji jest zintegrowana z usługą Zawartość usługi Azure AI Sejf ty Prompt Shields i sygnały analizy zagrożeń firmy Microsoft w celu dostarczania kontekstowych i praktycznych alertów zabezpieczeń skojarzonych z szeregiem zagrożeń, takich jak wyciek poufnych danych, zatrucie danych, jailbreak i kradzież poświadczeń.

Uwaga

Ochrona przed zagrożeniami dla obciążeń sztucznej inteligencji opiera się na filtrowaniu zawartości usługi Azure Open AI dla alertu wyzwalanego przez monit. Jeśli zrezygnowasz z alertów wyzwalacza opartych na monitach i usuniesz tę funkcję, może to mieć wpływ na możliwość monitorowania i wykrywania takich ataków przez Defender dla Chmury.

Integracja usługi Defender XDR

Ochrona przed zagrożeniami dla obciążeń sztucznej inteligencji integruje się z usługą Defender XDR, umożliwiając zespołom ds. zabezpieczeń scentralizowanie alertów dotyczących obciążeń sztucznej inteligencji w portalu usługi Defender XDR.

Zespoły ds. zabezpieczeń mogą korelować alerty i zdarzenia sztucznej inteligencji w portalu usługi Defender XDR oraz poznać pełny zakres ataku, w tym złośliwe działania związane z ich generowaniem aplikacji sztucznej inteligencji z poziomu pulpitu nawigacyjnego XDR.

Rejestrowanie się w ograniczonej publicznej wersji zapoznawczej

Aby korzystać z ochrony przed zagrożeniami dla obciążeń sztucznej inteligencji, musisz zarejestrować się w ograniczonym programie w publicznej wersji zapoznawczej, wypełniając formularz rejestracji.

Powiązana zawartość

• Włącz ochronę przed zagrożeniami dla obciążeń sztucznej inteligencji (wersja zapoznawcza) (wersja zapoznawcza).
• Alerty dotyczące obciążeń sztucznej inteligencji