Compartilhar via

Monitoramento de abuso na detecção de atividade da Detecção Facial

  • Artigo

A detecção de atividade da Detecção Facial de IA do Azure permite detectar e atenuar instâncias de conteúdo recorrente e/ou comportamentos que indicam uma violação do Código de Conduta ou outros termos de produto aplicáveis. Esta guia mostra como trabalhar com esses recursos para garantir que seu aplicativo esteja em conformidade com a política do Azure.

Detalhes sobre como os dados são tratados podem ser encontrados na página Dados, Privacidade e Segurança.

Importante

Os SDKs do cliente da Detecção Facial para atividade são um recurso fechado. Solicite acesso ao recurso de atividade preenchendo o formulário de admissão de Reconhecimento Facial. Quando sua assinatura do Azure receber acesso, baixe o SDK de atividade da Detecção Facial.

Componentes do monitoramento de abuso

Há vários componentes no monitoramento de abuso de atividade da Detecção Facial:

  • Gerenciamento de sessão: seu sistema de aplicativos de back-end cria sessões de detecção de atividade em nome dos usuários finais. O serviço de Detecção Facial emite tokens de autorização para uma sessão específica e cada um é válido para um número limitado de chamadas à API. Quando o usuário final encontra uma falha durante a detecção de atividade, um novo token é solicitado. Isso permite que o aplicativo de back-end avalie o risco de permitir novas tentativas de atividade adicionais. Um número excessivo de tentativas pode indicar uma tentativa de adversário de força bruta de ignorar o sistema de detecção de atividade.
  • identificador de correlação temporária: o processo de criação da sessão solicita que você atribua um GUID (identificador global exclusivo) de correlação temporária de 128 bits, para cada usuário final do sistema de aplicativos. Isso permite associar cada sessão a um indivíduo. Os modelos de classificador no back-end de serviço podem detectar sugestão de ataque de apresentação e observar padrões de falha no uso de um GUID específico. Esse GUID deve ser redefinido sob demanda para dar suporte à substituição manual do sistema automatizado de mitigação de abuso.
  • Captura de padrões de abuso: o serviço de detecção de atividade da Detecção Facial de IA do Azure examina os padrões de uso do cliente e emprega algoritmos e heurística, para detectar indicadores de possíveis abusos. Os padrões detectados consideram, por exemplo, a frequência e a severidade em que o conteúdo do ataque de apresentação é detectado na captura de imagem de um cliente.
  • Revisão humana e decisão: quando os identificadores de correlação são sinalizados por meio da captura de padrões de abuso, conforme descrito acima, nenhuma sessão adicional pode ser criada para esses identificadores. Permita que os funcionários autorizados avaliem os padrões de tráfego e confirmem ou substituam a determinação com base em diretrizes e políticas predefinidas. Se a revisão humana concluir que uma substituição é necessária, gere um GUID de correlação temporária para o indivíduo para gerar mais sessões.
  • Notificação e ação: quando um limite de comportamento abusivo é confirmado com base nas etapas anteriores, o cliente deverá ser informado da determinação por email. Exceto em casos de abuso severo ou recorrente, os clientes normalmente têm a oportunidade de explicar ou corrigir e implementar mecanismos para evitar a recorrência do comportamento abusivo. A falha em resolver o comportamento, ou o abuso severo ou recorrente, pode resultar na suspensão ou encerramento da elegibilidade de Acesso Limitado aos recursos e/ou funcionalidades da Detecção Facial de IA do Azure.

Próximas etapas