Övervakning av missbruk i identifiering av ansikts liveness
Med identifiering av ansiktsupplivning i Azure AI kan du identifiera och minimera instanser av återkommande innehåll och/eller beteenden som tyder på ett brott mot uppförandekoden eller andra tillämpliga produktvillkor. Den här guiden visar hur du arbetar med de här funktionerna för att säkerställa att ditt program är kompatibelt med Azure-principen.
Information om hur data hanteras finns på sidan Data, Sekretess och säkerhet .
Viktigt!
Ansiktsklient-SDK:er för liveness är en gated-funktion. Du måste begära åtkomst till liveness-funktionen genom att fylla i intagsformuläret för ansiktsigenkänning. När din Azure-prenumeration beviljas åtkomst kan du ladda ned Face liveness SDK.
Komponenter i övervakning av missbruk
Det finns flera komponenter för övervakning av användning av liveness:
- Sessionshantering: Ditt serverdelsprogramsystem skapar sessioner för livenessidentifiering för slutanvändarnas räkning. Ansiktstjänsten utfärdar auktoriseringstoken för en viss session och var och en är giltig för ett begränsat antal API-anrop. När slutanvändaren stöter på ett fel vid identifiering av liveness begärs en ny token. Detta gör det möjligt för serverdelsprogrammet att bedöma risken för att tillåta ytterligare liveness-återförsök. Ett överdrivet antal återförsök kan tyda på ett brute force adversarial försök att kringgå systemet för livenessidentifiering.
- Tillfällig korrelationsidentifierare: Processen för att skapa sessionen uppmanar dig att tilldela ett tillfälligt 128-bitars korrelations-GUID (globalt unik identifierare) för varje slutanvändare av ditt programsystem. På så sätt kan du associera varje session med en individ. Klassificerarmodeller på tjänstserverdelen kan identifiera presentationsangreppssignaler och observera felmönster i användningen av ett visst GUID. Detta GUID måste återställas på begäran för att stödja manuell åsidosättning av systemet för automatiserad missbruksreducering.
- Insamling av missbruksmönster: Tjänsten för identifiering av ansiktsigenkänning i Azure AI tittar på kundanvändningsmönster och använder algoritmer och heuristik för att identifiera indikatorer på potentiellt missbruk. Identifierade mönster beaktar till exempel frekvensen och allvarlighetsgraden vid vilken presentationsattackinnehåll identifieras i en kunds bildfångst.
- Mänsklig granskning och beslut: När korrelationsidentifierarna flaggas via hämtning av missbruksmönster enligt beskrivningen ovan kan inga ytterligare sessioner skapas för dessa identifierare. Du bör tillåta behöriga anställda att utvärdera trafikmönstren och antingen bekräfta eller åsidosätta bestämningen baserat på fördefinierade riktlinjer och principer. Om mänsklig granskning drar slutsatsen att en åsidosättning krävs bör du generera ett nytt tillfälligt korrelations-GUID för individen för att generera fler sessioner.
- Meddelande och åtgärd: När ett tröskelvärde för missbruk har bekräftats baserat på föregående steg bör kunden informeras om beslutet via e-post. Förutom vid allvarliga eller återkommande missbruk ges kunderna vanligtvis möjlighet att förklara eller åtgärda – och implementera mekanismer för att förhindra upprepning av – missbruket. Om du inte kan åtgärda beteendet, eller återkommande eller allvarligt missbruk, kan det leda till att din behörighet för begränsad åtkomst för Azure AI Face-resurser och/eller funktioner avbryts.