Utvärdera AI Services-säkerhet

  • 10 minuter

I den här lektionen presenteras en sammanfattning av rekommendationerna i Well Architected Framework för att skydda Azure Open AI

Mer information finns i Azure Well-Architected Framework-perspektiv på Azure OpenAI Service

Syftet med säkerhetspelare är att tillhandahålla garantier för konfidentialitet, integritet och tillgänglighet för arbetsbelastningen.

Principerna för säkerhetsdesign ger en övergripande designstrategi för att uppnå dessa mål genom att tillämpa metoder för den tekniska designen kring Azure OpenAI.

Checklista för design

Starta din designstrategi baserat på checklistan för designgranskning för Säkerhet och identifiera sårbarheter och kontroller för att förbättra säkerhetsstatusen. Granska sedan Azure-säkerhetsbaslinjen för Azure OpenAI. Slutligen utökar du strategin till att omfatta fler metoder efter behov.

  • Skydda konfidentialitet: Om du laddar upp träningsdata till Azure OpenAI använder du kundhanterade nycklar för datakryptering, implementerar en strategi för nyckelrotation och tar bort tränings-, validerings- och träningsresultatdata. Om du använder ett externt datalager för träningsdata följer du rekommenderade säkerhetsmetoder för det lagret. För Azure Blob Storage använder du till exempel kundhanterade nycklar för kryptering och implementerar en strategi för nyckelrotation. Använd hanterad identitetsbaserad åtkomst, implementera en nätverksperimeter med hjälp av privata slutpunkter och aktivera åtkomstloggar.

  • Skydda konfidentialitet: Skydda mot dataexfiltrering genom att begränsa de utgående URL:er som Azure OpenAI-resurser kan komma åt.

  • Skydda integritet: Implementera åtkomstkontroller för att autentisera och auktorisera användaråtkomst till systemet med hjälp av principen med lägsta behörighet och genom att använda enskilda identiteter i stället för nycklar.

  • Skydda integriteten: Implementera riskidentifiering för jailbreak för att skydda distributioner av språkmodeller mot snabba inmatningsattacker.

  • Skydda tillgänglighet: Använd säkerhetskontroller för att förhindra attacker som kan uttömma modellanvändningskvoter. Du kan konfigurera kontroller för att isolera tjänsten i ett nätverk. Om tjänsten måste vara tillgänglig från Internet kan du överväga att använda en gateway för att blockera misstänkt missbruk med hjälp av routning eller begränsning.

Rekommendationer

Rekommendation Förmån
Säkra nycklar: Om din arkitektur kräver Azure OpenAI-nyckelbaserad autentisering lagrar du nycklarna i Azure Key Vault, inte i programkoden. Om du separerar hemligheter från kod genom att lagra dem i Key Vault minskar risken för att hemligheter läcker. Separation underlättar också central hantering av hemligheter, vilket underlättar ansvarsområden som nyckelrotation.
Begränsa åtkomst: Inaktivera offentlig åtkomst till Azure OpenAI om inte din arbetsbelastning kräver det. Skapa privata slutpunkter om du ansluter från konsumenter i ett virtuellt Azure-nätverk. Genom att kontrollera åtkomsten till Azure OpenAI kan du förhindra attacker från obehöriga användare. Att använda privata slutpunkter säkerställer att nätverkstrafiken förblir privat mellan programmet och plattformen.
Microsoft Entra-ID: Använd Microsoft Entra-ID för autentisering och för att auktorisera åtkomst till Azure OpenAI med hjälp av rollbaserad åtkomstkontroll (RBAC). Inaktivera lokal autentisering i Azure AI Services och ange disableLocalAuth till true. Bevilja identiteter som utför slutföranden eller bildgenerering av Cognitive Services OpenAI-användarrollen . Bevilja modellautomatiseringspipelines och ad hoc-datavetenskap åtkomst till en roll som Cognitive Services OpenAI-deltagare. Med Microsoft Entra ID centraliseras identitetshanteringskomponenten och användningen av API-nycklar elimineras. Om du använder RBAC med Microsoft Entra ID ser du till att användare eller grupper har exakt de behörigheter de behöver för att utföra sitt jobb. Den här typen av detaljerad åtkomstkontroll är inte möjlig med Azure OpenAI API-nycklar.
Använd kundhanterade nycklar: Använd kundhanterade nycklar för finjusterade modeller och träningsdata som laddas upp till Azure OpenAI. Med hjälp av kundhanterade nycklar får du större flexibilitet att skapa, rotera, inaktivera och återkalla åtkomstkontroller.
Skydda mot jailbreak-attacker: Använd Azure AI Content Safety Studio för att identifiera jailbreak-risker. Identifiera jailbreak-försök att identifiera och blockera uppmaningar som försöker kringgå säkerhetsmekanismerna för dina Azure OpenAI-distributioner.