Мониторинг злоупотреблений в обнаружении активности лиц
Обнаружение активности распознавания лиц azure AI позволяет обнаруживать и устранять экземпляры повторяющегося содержимого и (или) поведения, которые указывают на нарушение кодекса поведения или других применимых условий продукта. В этом руководстве показано, как работать с этими функциями, чтобы обеспечить соответствие приложения политике Azure.
Сведения о том, как обрабатываются данные, можно найти на странице "Данные, конфиденциальность и безопасность ".
Внимание
Пакеты SDK для клиента распознавания лиц для активности — это функция. Необходимо запросить доступ к функции активности, заполнив форму приема распознавания лиц. Когда подписка Azure предоставляет доступ, вы можете скачать пакет SDK для распознавания лиц.
Компоненты мониторинга злоупотреблений
Существует несколько компонентов для мониторинга нарушений активности:
- Управление сеансами: серверная система приложений создает сеансы обнаружения активности от имени конечных пользователей. Служба распознавания лиц выдает маркеры авторизации для определенного сеанса, и каждая из них действительна для ограниченного количества вызовов API. Когда конечный пользователь сталкивается с ошибкой во время обнаружения активности, запрашивается новый маркер. Это позволяет внутреннему приложению оценить риск выполнения дополнительных повторных попыток активности. Чрезмерное количество повторных попыток может указывать на состязательный метод подбора попытки обойти систему обнаружения активности.
- Временный идентификатор корреляции. Процесс создания сеанса предлагает назначить временный 128-разрядный GUID корреляции (глобальный уникальный идентификатор) для каждого конечного пользователя вашей системы приложений. Это позволяет связать каждый сеанс с отдельным пользователем. Модели классификатора в серверной части службы могут обнаруживать подсказки атаки презентации и наблюдать за шаблонами сбоев при использовании определенного GUID. Этот GUID должен быть сброшен по требованию для поддержки ручной переопределения системы автоматического устранения злоупотреблений.
- Сбор шаблонов злоупотреблений: служба обнаружения активности лиц ИИ Azure рассматривает шаблоны использования клиентов и использует алгоритмы и эвристики для обнаружения индикаторов потенциальных злоупотреблений. Обнаруженные шаблоны рассматриваются, например, частоту и серьезность, при которой содержимое атаки презентации обнаруживается в захвате изображений клиента.
- Проверка человека и решение. Если идентификаторы корреляции помечены с помощью отслеживания шаблонов злоупотреблений, как описано выше, для этих идентификаторов не может быть создано никаких дополнительных сеансов. Необходимо разрешить авторизованным сотрудникам оценить шаблоны трафика и подтвердить или переопределить определение на основе предопределенных рекомендаций и политик. Если проверка человека завершает необходимость переопределения, необходимо создать новый временный GUID корреляции для отдельного пользователя, чтобы создать больше сеансов.
- Уведомление и действие. Если порог жестокого поведения был подтвержден на основе предыдущих шагов, клиент должен быть проинформирован об определении по электронной почте. За исключением случаев серьезных или повторяющихся злоупотреблений, клиенты обычно получают возможность объяснить или исправить их, а также реализовать механизмы, чтобы предотвратить повторение — жестокое поведение. Отказ в устранении поведения или повторяющихся или серьезных злоупотреблений может привести к приостановке или прекращению возможности ограниченного доступа для ресурсов и /или возможностей Azure AI Face.