Misbruikcontrole in gezichts livenessdetectie
Met azure AI Face-livenessdetectie kunt u exemplaren van terugkerende inhoud en/of gedragingen detecteren en beperken die duiden op een schending van de gedragscode of andere toepasselijke productvoorwaarden. Deze handleiding laat zien hoe u met deze functies kunt werken om ervoor te zorgen dat uw toepassing voldoet aan het Azure-beleid.
Meer informatie over hoe gegevens worden verwerkt, vindt u op de pagina Gegevens, Privacy en Beveiliging .
Belangrijk
De Face-client-SDK's voor liveness zijn een gated-functie. U moet toegang tot de liveness-functie aanvragen door het intakeformulier voor gezichtsherkenning in te vullen. Wanneer uw Azure-abonnement toegang krijgt, kunt u de Face Liveness SDK downloaden.
Onderdelen van misbruikbewaking
Er zijn verschillende onderdelen voor face liveness misbruik monitoring:
- Sessiebeheer: uw back-endtoepassingssysteem maakt livenessdetectiesessies namens uw eindgebruikers. De Face-service geeft autorisatietokens voor een bepaalde sessie uit en elk is geldig voor een beperkt aantal API-aanroepen. Wanneer de eindgebruiker tijdens de detectie van de liveness een fout tegenkomt, wordt een nieuw token aangevraagd. Hierdoor kan de back-endtoepassing het risico beoordelen dat extra nieuwe pogingen tot liveness worden toegestaan. Een overmatig aantal nieuwe pogingen kan duiden op een brute force adversarial poging om het detectiesysteem voor liveness te omzeilen.
- Tijdelijke correlatie-id: tijdens het proces voor het maken van sessies wordt u gevraagd om een tijdelijke 128-bits correlatie-GUID (globally unique identifier) toe te wijzen voor elke eindgebruiker van uw toepassingssysteem. Hiermee kunt u elke sessie koppelen aan een persoon. Classificatiemodellen in de back-end van de service kunnen aanwijzingen voor presentatieaanvallen detecteren en foutpatronen observeren voor het gebruik van een bepaalde GUID. Deze GUID moet op aanvraag opnieuw kunnen worden instelbaar om de handmatige onderdrukking van het geautomatiseerde mitigatiesysteem voor misbruik te ondersteunen.
- Opname van misbruikpatroon: Azure AI Face-livenessdetectieservice kijkt naar gebruikspatronen van klanten en maakt gebruik van algoritmen en heuristieken om indicatoren van potentieel misbruik te detecteren. Gedetecteerde patronen zijn bijvoorbeeld de frequentie en ernst waarmee inhoud voor presentatieaanvallen wordt gedetecteerd in de afbeeldingsopname van een klant.
- Menselijke beoordeling en beslissing: wanneer de correlatie-id's worden gemarkeerd via misbruikpatroon vastleggen zoals hierboven beschreven, kunnen er geen verdere sessies worden gemaakt voor deze id's. U moet geautoriseerde werknemers toestaan de verkeerspatronen te beoordelen en de bepaling te bevestigen of overschrijven op basis van vooraf gedefinieerde richtlijnen en beleidsregels. Als menselijke beoordeling besluit dat er een onderdrukking nodig is, moet u een nieuwe tijdelijke correlatie-GUID genereren voor de persoon om meer sessies te genereren.
- Melding en actie: wanneer een drempelwaarde voor belediging is bevestigd op basis van de voorgaande stappen, moet de klant op de hoogte worden gesteld van de bepaling per e-mail. Behalve in gevallen van ernstig of terugkerend misbruik krijgen klanten meestal de mogelijkheid om het gedrag van misbruik te verklaren of te herstellen, en mechanismen te implementeren om het terugkeerpatroon te voorkomen. Als u het gedrag, of terugkerend of ernstig misbruik, niet kunt aanpakken, kan dit leiden tot de schorsing of beëindiging van uw beperkte toegang die in aanmerking komt voor Azure AI Face-resources en/of -mogelijkheden.