Face 활동성 감지의 남용 모니터링
Azure AI Face 활동성 감지를 사용하면 행동 강령 또는 기타 적용 가능한 제품 약관 위반을 나타내는 반복 콘텐츠 및/또는 동작의 인스턴스를 감지하고 완화할 수 있습니다. 이 가이드에서는 애플리케이션이 Azure 정책을 준수하는지 확인하기 위해 이러한 기능을 사용하는 방법을 보여 줍니다.
데이터 처리 방법에 대한 자세한 내용은 데이터, 개인 정보 및 보안 페이지에서 확인할 수 있습니다.
Important
활동성을 위한 Face 클라이언트 SDK는 제어된 기능입니다. 얼굴 인식 유입 양식을 작성하여 활동성 기능에 대한 액세스를 요청해야 합니다. Azure 구독에 액세스 권한이 부여되면 Face 활동성 SDK를 다운로드할 수 있습니다.
남용 모니터링 구성 요소
Face 활동성 남용 모니터링에는 다음과 같은 몇 가지 구성 요소가 있습니다.
- 세션 관리: 백 엔드 애플리케이션 시스템은 최종 사용자를 대신하여 활동성 감지 세션을 만듭니다. Face 서비스는 특정 세션에 대한 권한 부여 토큰을 발급하며, 각각은 제한된 수의 API 호출에 유효합니다. 최종 사용자가 활동성 감지 중에 오류가 발생하면 새 토큰이 요청됩니다. 이를 통해 백 엔드 애플리케이션은 추가 활동성 재시도를 허용하는 위험을 평가할 수 있습니다. 과도한 재시도 횟수는 활동성 감지 시스템을 우회하려는 무차별 암호 대입 공격을 나타낼 수 있습니다.
- 임시 상관 관계 식별자: 세션 생성 프로세스는 애플리케이션 시스템의 각 최종 사용자에 대해 임시 128비트 상관 관계 GUID(전역적으로 고유한 식별자)를 할당하라는 메시지를 표시합니다. 이를 통해 각 세션을 개인과 연결할 수 있습니다. 서비스 백 엔드의 분류자 모델은 프레젠테이션 공격 신호를 감지하고 특정 GUID를 사용하는 동안 오류 패턴을 관찰할 수 있습니다. 자동화된 남용 완화 시스템의 수동 재정의를 지원하려면 요청 시 이 GUID를 다시 설정할 수 있어야 합니다.
- 남용 패턴 캡처: Azure AI Face 활동성 감지 서비스는 고객 사용 패턴을 살펴보고 알고리즘과 추론을 사용하여 잠재적인 남용 지표를 검색합니다. 예를 들어 감지된 패턴은 고객의 이미지 캡처에서 프레젠테이션 공격 콘텐츠가 탐지되는 빈도와 심각도를 고려합니다.
- 인간 검토 및 의사 결정: 위에서 설명한 대로 남용 패턴 캡처를 통해 상관 관계 식별자에 플래그가 지정되면 해당 식별자에 대해 추가 세션을 만들 수 없습니다. 권한 있는 직원이 트래픽 패턴을 평가하고 미리 정의된 지침 및 정책에 따라 결정을 확인하거나 재정의하도록 허용해야 합니다. 인간 검토에서 재정의가 필요하다고 결론을 내린 경우 더 많은 세션을 생성하기 위해 개인에 대한 새 임시 상관 관계 GUID를 생성해야 합니다.
- 알림 및 조치: 이전 단계에 따라 악의적인 행동의 임계값이 확인되면 고객에게 이메일로 결정을 알려야 합니다. 심각하거나 반복되는 남용의 경우를 제외하고, 일반적으로 고객에게는 악의적인 행동을 설명하거나 교정하고 재발을 방지하기 위한 메커니즘을 구현할 수 있는 기회가 주어집니다. 동작을 해결하지 못하거나 반복적이거나 심각한 남용으로 인해 Azure AI Face 리소스 및/또는 기능에 대한 제한된 액세스 자격이 일시 중단되거나 종료될 수 있습니다.