Monitorowanie nadużyć w wykrywaniu na żywo twarzy
Wykrywanie na żywo twarzy platformy Azure umożliwia wykrywanie i eliminowanie wystąpień cyklicznej zawartości i/lub zachowań, które wskazują na naruszenie kodeksu postępowania lub innych odpowiednich warunków produktu. W tym przewodniku pokazano, jak pracować z tymi funkcjami, aby upewnić się, że aplikacja jest zgodna z zasadami platformy Azure.
Szczegółowe informacje na temat sposobu obsługi danych można znaleźć na stronie Dane, Prywatność i Zabezpieczenia .
Ważne
Zestawy SDK klienta rozpoznawania twarzy dla utrzymania są funkcją bramkową. Musisz zażądać dostępu do funkcji liveness, wypełniając formularz do wprowadzania rozpoznawania twarzy. Po udzieleniu dostępu subskrypcji platformy Azure możesz pobrać zestaw SDK rozpoznawania twarzy na żywo.
Składniki monitorowania nadużyć
Monitorowanie nadużyć na żywo ma kilka składników:
- Zarządzanie sesjami: system aplikacji zaplecza tworzy sesje wykrywania aktualności w imieniu użytkowników końcowych. Usługa rozpoznawania twarzy wystawia tokeny autoryzacji dla określonej sesji, a każda z nich jest ważna dla ograniczonej liczby wywołań interfejsu API. Gdy użytkownik końcowy napotka błąd podczas wykrywania aktualności, jest wymagany nowy token. Dzięki temu aplikacja zaplecza może ocenić ryzyko zezwalania na dodatkowe ponawianie prób na żywo. Nadmierna liczba ponownych prób może wskazywać na próbę ataku siłowego w celu obejścia systemu wykrywania żywości.
- Tymczasowy identyfikator korelacji: proces tworzenia sesji monituje o przypisanie tymczasowego identyfikatora GUID korelacji 128-bitowej (globalnie unikatowego identyfikatora) dla każdego użytkownika końcowego systemu aplikacji. Pozwala to skojarzyć każdą sesję z osobą indywidualną. Modele klasyfikatora w zapleczu usługi mogą wykrywać sygnały ataku prezentacji i obserwować wzorce błędów w użyciu określonego identyfikatora GUID. Ten identyfikator GUID musi być resetowany na żądanie, aby obsługiwać ręczne zastępowanie zautomatyzowanego systemu ograniczania nadużyć.
- Przechwytywanie wzorca nadużyć: usługa wykrywania na żywo rozpoznawania twarzy w usłudze Azure AI analizuje wzorce użycia klientów i stosuje algorytmy i algorytmy heurystyczne w celu wykrywania wskaźników potencjalnych nadużyć. Wykryte wzorce uwzględniają na przykład częstotliwość i ważność, z jaką zawartość ataku prezentacji jest wykrywana w przechwyceniu obrazu klienta.
- Przegląd i decyzja człowieka: Jeśli identyfikatory korelacji są oflagowane za pomocą wzorca nadużyć zgodnie z powyższym opisem, nie można utworzyć żadnych dalszych sesji dla tych identyfikatorów. Należy zezwolić autoryzowanym pracownikom na ocenę wzorców ruchu i potwierdzić lub zastąpić determinację na podstawie wstępnie zdefiniowanych wytycznych i zasad. Jeśli przegląd człowieka stwierdza, że wymagane jest przesłonięcia, należy wygenerować nowy tymczasowy identyfikator GUID korelacji dla danej osoby w celu wygenerowania większej liczby sesji.
- Powiadomienie i działanie: po potwierdzeniu progu obraźliwego zachowania na podstawie powyższych kroków klient powinien zostać poinformowany o ustaleniu przez e-mail. Z wyjątkiem przypadków poważnych lub powtarzających się nadużyć, klienci zazwyczaj mają możliwość wyjaśnienia lub skorygowania — i zaimplementowania mechanizmów, aby zapobiec cyklowi — obraźliwemu zachowaniu. Brak rozwiązania problemu z zachowaniem lub cyklicznym lub poważnym nadużyciem może spowodować zawieszenie lub zakończenie uprawnień ograniczonego dostępu do zasobów usługi Azure AI Face i/lub możliwości.