Zabezpieczenia sztucznej inteligencji w warsztatach Microsoft Zero Trust

Sztuczna inteligencja wzmacnia istniejące zagrożenie bezpieczeństwa i wprowadza nowe zagrożenia i zagadnienia dotyczące tożsamości, danych, aplikacji i interakcji użytkowników. Te zagrożenia można rozwiązać przy użyciu zasad Zero Trust.

Zabezpieczanie sztucznej inteligencji nie dotyczy tylko ochrony podstawowych modeli i usług sztucznej inteligencji. Musimy również upewnić się, że dostęp do systemu sztucznej inteligencji, korzystanie z nich i ład są zgodne z zasadami Zero Trust.

Wskazówki dotyczące filaru AI koncentrują się na zapewnieniu widoczności wykorzystania AI, egzekwowaniu rygorystycznych mechanizmów zarządzania tożsamością i kontroli dostępu, ochronie danych w promptach i wynikach, zabezpieczaniu środowisk programistycznych i wykonawczych agentów oraz integrowaniu sygnałów AI z operacjami bezpieczeństwa.

Implementacja warsztatowa

Warsztaty dotyczące sztucznej inteligencji obejmują obszary implementacji podsumowane w tabeli.

Area	Szczegóły
Mapuj i oceniaj ryzyko związane ze sztuczną inteligencją	Odnajdywanie i tworzenie spisu agentów, aplikacji i usług sztucznej inteligencji w całej organizacji. Oceniaj zagrożenia związane ze sztuczną inteligencją, korzystając ze scentralizowanych analiz zabezpieczeń, przeglądaj spis zasobów i ustalaj priorytety ustaleń oraz ustanawiaj zasady nadzoru, odpowiedzialności i akceptowalnego użytkowania. Zaimplementuj ciągłe monitorowanie i korygowanie pod kątem zmieniających się zagrożeń związanych ze sztuczną inteligencją.
Rejestrowanie agentów	Zarejestruj agentów sztucznej inteligencji w scentralizowanym rejestrze, aby zachować widoczność i kontrolę. Klasyfikowanie i organizowanie agentów na podstawie celu i ryzyka, przypisywanie własności i odpowiedzialności oraz definiowanie publikowania, certyfikacji i cyklu życia
Bezpieczne uwierzytelnianie i dostęp do sztucznej inteligencji	Wymuszanie kontroli dostępu opartej na tożsamościach dla systemów i agentów sztucznej inteligencji. Zastosuj zasady dostępu warunkowego, oparte na ryzyku i oparte na atrybutach oraz procesy zarządzania tożsamościami, aby zapewnić, że tylko autoryzowani użytkownicy i usługi mogą wchodzić w interakcje z zasobami sztucznej inteligencji.
Bezpieczny dostęp do sieci sztucznej inteligencji	Kontrolowanie sposobu uzyskiwania dostępu do usług sztucznej inteligencji w sieci. Kierowanie ruchu przez bezpieczne mechanizmy kontroli dostępu, stosowanie zasad filtrowania i inspekcji na potrzeby interakcji ze sztuczną inteligencją oraz ochronę przed zagrożeniami, takimi jak wstrzyknięcie monitu i nieautoryzowane ścieżki dostępu.
Bezpieczny dostęp do danych sztucznej inteligencji	Chroń poufne dane używane w poleceniach AI, danych uzupełniających i wynikach. Stosowanie zasad klasyfikacji, etykietowania i DLP, kontrolowanie dostępu do połączonych źródeł danych oraz monitorowanie pod kątem nadmiernego udostępniania i ryzyka narażenia na dane w interakcjach ze sztuczną inteligencją.
Bezpieczne tworzenie agentów	Zabezpieczanie opracowywania i wdrażania agentów sztucznej inteligencji przez wymuszanie standardów uwierzytelniania, autoryzacji i obsługi danych. Zintegruj mechanizmy kontroli bezpieczeństwa treści, wymagaj walidacji i testów typu red teaming oraz ustanów bezpieczne procesy publikacji i wdrażania.
Wykrywanie i reagowanie na sztuczną inteligencję	Monitoruj aktywność sztucznej inteligencji i wykrywaj zagrożenia, takie jak niewłaściwe użycie, anomalie i ataki oparte na monitach. Integrowanie sygnałów sztucznej inteligencji z operacjami zabezpieczeń, włączanie przepływów pracy badania i reagowania oraz ciągłe ulepszanie możliwości wykrywania i reagowania.

Następne kroki

Rozpocznij warsztaty sztucznej inteligencji.