Monitorování zneužití ve detekci živé tváře
Detekce živé tváře Azure AI umožňuje detekovat a zmírnit výskyty opakovaného obsahu nebo chování, které indikují porušení pravidla chování nebo jiných platných podmínek produktu. V této příručce se dozvíte, jak s těmito funkcemi pracovat, abyste měli jistotu, že vaše aplikace vyhovuje zásadám Azure.
Podrobnosti o způsobu zpracování dat najdete na stránce Data, Ochrana osobních údajů a zabezpečení .
Důležité
Klientské sady SDK pro rozpoznávání tváře jsou vrátnou funkcí. Musíte požádat o přístup k funkci liveness vyplněním formuláře pro příjem rozpoznávání tváře. Po udělení přístupu k předplatnému Azure si můžete stáhnout sadu SDK pro rozpoznávání tváře.
Součásti monitorování zneužití
Monitorování zneužití tváře má několik komponent:
- Správa relací: Váš back-endový aplikační systém vytváří relace detekce živě jménem vašich koncových uživatelů. Služba Rozpoznávání tváře vydává autorizační tokeny pro určitou relaci a každá z nich je platná pro omezený počet volání rozhraní API. Když koncový uživatel během detekce aktivity narazí na selhání, vyžádá se nový token. Díky tomu může back-endová aplikace vyhodnotit riziko, že umožní další opakování aktivity. Nadměrný počet opakování může znamenat nežádoucí pokus hrubou silou o obejití systému detekce živé aktivity.
- Dočasný identifikátor korelace: Proces vytváření relace vás vyzve k přiřazení dočasného 128bitového identifikátoru GUID korelace (globálně jedinečný identifikátor) pro každého koncového uživatele vašeho aplikačního systému. To vám umožní přidružit každou relaci k osobě. Klasifikátorové modely na back-endu služby můžou detekovat prezentační útoky a sledovat vzory selhání v rámci použití konkrétního identifikátoru GUID. Tento identifikátor GUID musí být na vyžádání resetovatelný, aby podporoval ruční přepsání systému pro zmírnění automatizovaného zneužití.
- Zachycení vzorů zneužití: Služba detekce živé aktivity rozpoznávání tváře Azure AI sleduje vzory využití zákazníků a využívá algoritmy a heuristiky k detekci indikátorů potenciálního zneužití. Zjištěné vzory zvažují například frekvenci a závažnost, při které se v záznamu obrázků zákazníka detekuje obsah útoku na prezentaci.
- Lidská kontrola a rozhodnutí: Pokud jsou identifikátory korelace označeny pomocí zachycení vzorů zneužití, jak je popsáno výše, není možné pro tyto identifikátory vytvářet žádné další relace. Měli byste povolit autorizovaným zaměstnancům posoudit vzory provozu a buď potvrdit nebo přepsat stanovení na základě předdefinovaných pokynů a zásad. Pokud lidská kontrola dospěla k závěru, že je potřeba přepsat, měli byste pro jednotlivce vygenerovat nový dočasný identifikátor GUID korelace, aby se vygenerovaly další relace.
- Oznámení a akce: Pokud byla na základě předchozích kroků potvrzena prahová hodnota zneužívajícího chování, měl by být zákazník informován o určení e-mailem. S výjimkou případů závažného nebo opakovaného zneužití mají zákazníci obvykle příležitost vysvětlit nebo napravit (a implementovat mechanismy, které brání opakování) zneužívajícího chování. Selhání řešení chování nebo opakovaného nebo závažného zneužití může vést k pozastavení nebo ukončení způsobilosti omezeného přístupu k prostředkům a/nebo možnostem služby Azure AI Face Resources.