Notatka
Dostęp do tej strony wymaga autoryzacji. Może spróbować zalogować się lub zmienić katalogi.
Dostęp do tej strony wymaga autoryzacji. Możesz spróbować zmienić katalogi.
Ten artykuł zawiera zalecenia dotyczące zabezpieczeń dla organizacji, które uruchamiają obciążenia sztucznej inteligencji na Azure. Wskazówki koncentrują się na usługach platformy sztucznej inteligencji na platformie Azure, w tym Microsoft Foundry.
Zabezpieczanie zasobów sztucznej inteligencji
Chroń zasoby Azure, które obsługują obciążenia sztucznej inteligencji. Zacznij od standardowych mechanizmów zabezpieczeń, a następnie zastosuj wskazówki specyficzne dla usługi na podstawie używanych usług sztucznej inteligencji.
Zastosuj bazowe ustawienia zabezpieczeń platformy Azure. Punkty odniesienia zabezpieczeń platformy Azure zapewniają zalecane mechanizmy kontroli zabezpieczeń dla usług Azure. Użyj Azure punktów odniesienia zabezpieczeń dla usług, które obsługują obciążenia sztucznej inteligencji.
Postępuj zgodnie ze wskazówkami dotyczącymi zabezpieczeń platformy Azure Well-Architected Framework. Skorzystaj z Well-Architected Framework, aby ocenić wymagania dotyczące zabezpieczeń obciążeń sztucznej inteligencji. Zapoznaj się z odpowiednimi przewodnikami usługi Azure, aby zapoznać się z zaleceniami specyficznymi dla usługi.
Bezpieczne modele sztucznej inteligencji
Chroń modele sztucznej inteligencji przed zagrożeniami, które mogą manipulować ich zachowaniem lub naruszyć obciążenia robocze, które z nich korzystają. Użyj ochrony przed zagrożeniami i zabezpieczeń modelu, aby zmniejszyć te zagrożenia. Oto, jak to zrobić:
Użyj Microsoft Defender dla Chmury. Włącz odpowiednie funkcje ochrony Defender dla Chmury dla środowiska AI. Przejrzyj zalecenia dotyczące zabezpieczeń i ogranicz ryzyka na podstawie wymagań dotyczących zabezpieczeń organizacji. Zobacz Microsoft Defender dla Chmury ochrona przed zagrożeniami w sztucznej inteligencji.
Chroń modele i agentów przed atakiem typu prompt injection. Użyj funkcji Prompt Shields, aby wykryć dane wejściowe, które próbują nadpisać instrukcje modelu lub manipulować zachowaniem modelu. Zastosuj ochronę do monitów użytkownika i zawartości zewnętrznej, z których korzystają modele lub agenci. W Microsoft Foundry skonfiguruj Osłony promptów za pomocą elementów sterujących mechanizmami ochronnymi. Zobacz Prompt Shields.
Użyj zaufanych źródeł modelu. Ustanów nadzór nad wybieraniem i wdrażaniem modeli. Przed zatwierdzeniem modelu do użycia w organizacji należy ocenić wymagania dotyczące dostawcy modelu i zabezpieczeń. Zastosuj dodatkową kontrolę wobec modeli ze źródeł zewnętrznych lub społecznościowych.
Bezpieczny dostęp do sztucznej inteligencji
Kontrolowanie dostępu do zasobów sztucznej inteligencji na podstawie tego, kto lub co wymaga dostępu. Użyj uwierzytelniania opartego na tożsamości oraz zasady najmniejszych uprawnień, aby ograniczyć nieautoryzowany dostęp. Zastosuj odpowiednie mechanizmy kontroli do użytkowników, agentów sztucznej inteligencji i usług Azure. Oto, jak to zrobić:
Uwierzytelniaj użytkowników przy użyciu Microsoft Entra ID. Użyj Microsoft Entra ID zamiast kluczy interfejsu API, gdy usługa Azure to obsługuje. Uwierzytelnianie oparte na tożsamościach zapewnia scentralizowaną kontrolę nad tym, kto może uzyskiwać dostęp do zasobów sztucznej inteligencji i zmniejsza zależność od przechowywanych poświadczeń. Jeśli usługa wymaga kluczy, należy je chronić i regularnie zmieniać.
Nadaj agentom sztucznej inteligencji własne tożsamości zarządzane. Przypisz tożsamości do agentów sztucznej inteligencji, aby można było kontrolować, do czego może uzyskiwać dostęp każdy agent. Użyj Identyfikator agenta Microsoft Entra, aby zarządzać tożsamościami agentów i kontrolować ich dostęp. Microsoft Foundry może przydzielać tożsamości używane przez agentów do uzyskiwania dostępu do zasobów podrzędnych bez przechowywania poświadczeń w promptach lub kodzie. Zobacz pojęcia tożsamości agenta w Microsoft Foundry.
Ogranicz narzędzia i uprawnienia agenta. Przyznaj każdemu agentowi dostęp tylko do narzędzi i zasobów wymaganych do zadań, do których został upoważniony. Użyj tożsamości agenta do uwierzytelniania wywołań podrzędnych i przyznaj tej tożsamości uprawnienia zgodne z zasadą najmniejszych uprawnień. Przejrzyj uprawnienia w miarę zmiany możliwości agenta.
Zabezpieczanie danych sztucznej inteligencji
Kontroluj, do których danych może uzyskiwać dostęp każde obciążenie sztucznej inteligencji. Zdefiniuj jasne granice danych i zastosuj mechanizmy kontroli ładu, aby zmniejszyć nieautoryzowany dostęp do danych lub narażenie danych na ujawnienie. Oto, jak to zrobić:
Zdefiniuj granice danych dla obciążeń sztucznej inteligencji. Określ, do których danych może uzyskiwać dostęp każda aplikacja lub agent w oparciu o ich przeznaczenie i uprawnienia. Wymuś te granice za pomocą mechanizmów kontroli tożsamości i dostępu do danych, aby obciążenie sztucznej inteligencji nie mogło pobrać danych poza zatwierdzonym zakresem.
Izoluj dane na podstawie wymagań dotyczących zabezpieczeń. Ustal, czy obciążenia sztucznej inteligencji wymagają oddzielnych środowisk danych na podstawie ich wymagań dotyczących zabezpieczeń lub zgodności. Używaj izolacji logicznej lub fizycznej, gdy obciążenia nie powinny współużytkować dostępu do tych samych danych.
Zastosuj mechanizmy kontroli bezpieczeństwa danych. Chroń dane używane przez obciążenia sztucznej inteligencji zgodnie z wymaganiami dotyczącymi zabezpieczeń i zgodności. Zapoznaj się z bezpieczeństwem danych na potrzeby sztucznej inteligencji i analityki.