Content Moderator란?
콘텐츠 조정은 간단한 단계를 포함하는 프로세스입니다. 일반적인 소비를 위해 표시하거나 릴리스하기 전에 콘텐츠를 검토, 모니터링 및 해석합니다. 그러나 조정할 콘텐츠 양이 많으면 시간이 많이 소요될 수 있습니다. Content Moderator와 같은 서비스를 사용하여 해당 프로세스의 대부분을 자동화하고 필요에 따라 사용자 리뷰의 필요성을 설정할 수 있습니다.
Content Moderator 서비스는 AI를 기반으로 하고 Azure에서 실행되는 API입니다. 해당 서비스는 잠재적으로 위험하거나, 불쾌하거나, 바람직하지 않은 측면의 텍스트, 이미지 및 비디오 콘텐츠를 검사할 수 있습니다. 콘텐츠 플래그를 자동으로 적용할 뿐 아니라 검토 도구와도 통합됩니다. 검토 도구는 플래그가 지정된 콘텐츠의 사용자 리뷰를 지원하는 데 사용되는 온라인 조정자 환경입니다.
API
Content Moderator에서 사용할 수 있는 다양한 형식의 API가 있습니다. 다음 표에서는 현재 각 API에 관해 설명합니다.
| API | 기능 |
|---|---|
| 텍스트 조정 | 텍스트에서 불쾌함, 성적으로 노골적이거나 외설적, 신성 모독 및 개인 데이터 측면을 검사합니다. |
| 이미지 조정 | 이미지를 검사하여 이미지에 성인 또는 외설 콘텐츠를 포함하는지 확인합니다. OCR(광학 인식)을 통해 이미지에서 텍스트를 검사하고 이미지에서 얼굴도 감지할 수 있습니다. |
| 비디오 조정 | 비디오 파일에서 성인 또는 외설 콘텐츠를 검사합니다. API는 콘텐츠가 발견된 시간 마커를 반환합니다. |
| 사용자 지정 용어 목록 | 텍스트에서 사용자가 만든 용어 목록을 검사합니다. 목록을 사용하여 조직의 콘텐츠 정책에 따라 콘텐츠를 차단하거나 허용할 수 있습니다. |
| 사용자 지정 이미지 목록 | 사용자 지정 이미지 목록에 대해 이미지를 검사합니다. 목록을 사용하여 다시 분류하지 않으려는 자주 반복되는 콘텐츠를 필터링할 수 있습니다. |
콘텐츠 검토
자동화된 콘텐츠 조정에는 여전히 유효성 검사가 필요할 수 있습니다. 조정 작업에서 서비스 작동 방식을 모니터링하도록 결정할 수도 있습니다. Content Moderator 서비스는 검토 API 세트도 지원합니다. 검토 API를 사용하여 사용자 검토자가 워크플로에 참여하게 할 수 있습니다. 사용자는 조정자가 처리하고 모니터링할 수 있는 콘텐츠 검토를 호스트하는 웹 기반 인터페이스인 검토 도구를 통해 서비스와 상호 작용합니다.