Kommentar
Åtkomst till den här sidan kräver auktorisering. Du kan prova att logga in eller ändra kataloger.
Åtkomst till den här sidan kräver auktorisering. Du kan prova att ändra kataloger.
Snabbinmatningsattacker utgör en betydande risk för generativa AI-appar. Dåliga aktörer skapar skadliga indata för att få en stor språkmodell (LLM) att ignorera instruktioner, exponera känsliga data, utföra oavsiktliga åtgärder eller generera skadligt innehåll.
AI Gateway, en del av Microsoft Security Service Edge-lösning (SSE), skyddar generativa AI-program, agenter och språkmodeller. Funktionen Prompt Injection Protection ger realtidsskydd mot attacker med skadlig uppmaning, vilket är en topprisk för LLM:er. Genom att framtvinga skyddsräcken på nätverksnivå säkerställer Prompt Injection Protection konsekvent säkerhet i alla generativa AI-program utan att behöva kodändringar.
Skydd mot promptinjektion
- Blockerar kontradiktoriska uppmaningar och jailbreak-försök innan de når AI-modeller.
- Förhindrar obehöriga åtgärder och exfiltrering av känsliga data.
- Fungerar på alla enheter, webbläsare eller program för enhetlig tillämpning.
Arkitektur på hög nivå
Förutsättningar
För att slutföra stegen i den här processen måste du ha följande förutsättningar på plats:
- En giltig licens för Microsoft Entra internetåtkomst. Om det behövs kan du köpa licenser eller få utvärderingslicenser.
- En eller flera enheter eller virtuella datorer som kör Windows och som antingen är anslutna till Microsoft Entra eller hybridanslutna till organisationens Microsoft Entra-ID.
- För att konfigurera globala inställningar för säker åtkomst behöver du rollen Global administratör för säker åtkomst.
- För att konfigurera principer för villkorlig åtkomst behöver du rollen Administratör för villkorlig åtkomst.
Inledande konfiguration
Utför följande steg för att konfigurera Prompt Injection Protection för din organisation:
- Aktivera trafikvidarebefordringsprofilen för Internet Access och konfigurera lämpliga användartilldelningar.
- Konfigurera TLS-inspektionsinställningar (Transport Layer Security) och TLS-inspektionsprinciper.
- Installera och konfigurera Global Secure Access-klienten på användarenheter. Följ stegen i Installera Global Secure Access-klienten för Microsoft Windows.
Viktigt!
Innan du fortsätter bör du testa och se till att klientens Internettrafik dirigeras via den globala tjänsten för säker åtkomst.
Skapa en ny promptpolicy för att genomsöka uppmaningar
Så här skapar du nya prompt-principer för Prompt Injection Protection:
- Logga in på Microsoft Entra administrationscenter som Global Secure Access Administrator.
- Bläddra till
Global Secure Access Säker-promptprinciper . - Välj Skapa princip.
- På fliken Grundläggande anger du ett namn och en beskrivning för principen.
- Klicka på Nästa.
- På fliken Regler väljer du Lägg till regel.
- På sidan Promptregel:
- Ange eller välj regelnamn, beskrivning, prioritet och status.
- Ställ in Åtgärd på Blockera för att blockera skadliga uppmaningar.
- Välj + Konversationsschema för att välja mål-LLM:er för företagets generativa AI.
- På menyn Typ väljer du den språkmodell som matchar din app.
- Om språkmodellen inte finns med i listan:
- Välj Anpassad.
- Ange URL:en för tjänstslutpunkten där prompterna skickas.
- Ange JSON-sökvägen för promptplatsen i begärandetexten.
- Välj Lägg till för att lägga till konversationsschemat. Du kan lägga till flera scheman.
- Klicka på Nästa.
- Om du vill skapa promptprincipen väljer du Skapa.
Länka promptprincipen till din säkerhetsprofil
När du har skapat Prompt Injection Protection-promptprincipen länkar du den till en ny eller befintlig säkerhetsprofil.
- Bläddra till Global Secure Access>Säkra>Säkerhetsprofiler.
- Välj eller skapa den säkerhetsprofil som du vill länka uppmaningsprincipen till.
- Välj fliken Länkprinciper .
- Välj + Länka en policy>Befintlig prompt-policy.
- Välj den promptprincip för Prompt Injection Protection som du skapade tidigare.
- Om du vill länka promptprincipen för Prompt Injection Protection väljer du Lägg till.
Skapa en princip för villkorsstyrd åtkomst
Så här skapar du en princip för villkorsstyrd åtkomst:
- Logga in på Microsoft Entra administrationscenter som minst en Konditionell åtkomstadministratör.
- Bläddra till Entra ID>Villkorlig åtkomst.
- Välj Skapa ny princip.
- Ange ett namn för din policy.
- Välj Användare för att ange de användare eller grupper som principen gäller för.
- Ange Målresurser till Alla Internetresurser med global säker åtkomst.
- Konfigurera inställningarna Nätverk, Villkor och Bevilja efter behov.
- För Session väljer du Använd global säkerhetsprofil för säker åtkomst och väljer den säkerhetsprofil som du skapade tidigare.
- Välj Skapa för att skapa principen för villkorsstyrd åtkomst.
Mer information finns i Skapa en princip för villkorsstyrd åtkomst som riktar sig mot Global säker åtkomst internettrafik.
Generativ AI modeller
I följande avsnitt visas mer information om AI-modeller som fungerar med Prompt Injection Protection.
De vanligaste generativa AI-modellerna som stöds
Prompt Injection Protection är förkonfigurerat med anpassade extraktorer för följande modeller: ChatGPT, Claude, Cohere, Deepseek, Gemini, Grok, Meta AI, Mistral, Perplexity, Pi och Qwen.
Stöd för anpassad modell
Du kan skydda alla anpassade JSON-baserade LLM- eller GenAI-appar genom att konfigurera en anpassad typmodell med en URL- och JSON-sökväg.
Hastighetsbegränsningar
- Systemet tillämpar hastighetsgränser vid genomsökning av begäranden efter angivna konversationsscheman.
- När systemet når hastighetsgränsen blockerar det efterföljande begäranden.
- Om du vill optimera prestanda för anpassade LLM:er anger du den exakta URL:en och JSON-sökvägen för varje schema.
Kända begränsningar
- Prompt Injection Protection stöder för närvarande endast textprompter. Det stöder inte filer.
- Prompt Injection Protection stöder endast JSON-baserade generativa AI-appar.
- Prompt Injection Protection stöder uppmaningar på upp till 64 000 tecken. Något längre trunkeras.