Content Moderator
Content Moderator는 사용자 검토 도구가 내장되어 잠재적으로 불쾌하거나 원치 않는 콘텐츠에 대해 기계 지원 텍스트 및 이미지 조정을 제공하는 Microsoft Cognitive Services 제품입니다.
이 커넥터는 다음 제품 및 지역에서 사용할 수 있습니다.
| 서비스 | 클래스 | Regions |
|---|---|---|
| Copilot Studio | 스탠다드 | 다음을 제외한 모든 Power Automate 지역 : - 21Vianet에서 운영하는 중국 클라우드 |
| 논리 앱 | 스탠다드 | 다음을 제외한 모든 Logic Apps 지역 : - Azure 중국 지역 |
| Power Apps | 스탠다드 | 다음을 제외한 모든 Power Apps 지역 : - 21Vianet에서 운영하는 중국 클라우드 |
| Power Automate | 스탠다드 | 다음을 제외한 모든 Power Automate 지역 : - 21Vianet에서 운영하는 중국 클라우드 |
| 연락처 | |
|---|---|
| 이름 | Microsoft |
| URL |
Microsoft LogicApps 지원 Microsoft Power Automate 지원 Microsoft Power Apps 지원 |
| 커넥터 메타데이터 | |
|---|---|
| 게시자 | Microsoft |
| 웹 사이트 | https://azure.microsoft.com/services/cognitive-services/content-moderator/ |
API를 사용하여 콘텐츠를 검색하고 결과 인사이트를 사용하여 사용자 중재자가 최종 결정을 내릴 수 있도록 검토 도구에서 작동하거나 사용할 수 있도록 합니다.
API를 사용하는 경우 이미지는 최소 128픽셀 및 최대 파일 크기 4MB가 있어야 합니다. 텍스트 길이는 최대 1024자일 수 있습니다. 이 API는 현재 미국 서부, 미국 동부 2, 미국 중서부, 서유럽 및 동남 아시아에서 사용할 수 있습니다.
연결을 만드는 중
커넥터는 다음 인증 유형을 지원합니다.
| 기본값 | 연결을 만들기 위한 매개 변수입니다. | 모든 지역 | 공유 가능 |
기본값
적용 가능: 모든 지역
연결을 만들기 위한 매개 변수입니다.
공유 가능한 연결입니다. 전원 앱이 다른 사용자와 공유되면 연결도 공유됩니다. 자세한 내용은 캔버스 앱에 대한 커넥터 개요를 참조하세요. - Power Apps | Microsoft Docs
| 이름 | 유형 | Description | 필수 |
|---|---|---|---|
| API 키 | 시큐어스트링 (보안 문자열) | 이 API의 API 키 | 진실 |
| 사이트 URL | 문자열 | 루트 사이트 URL(예: https://westus.api.cognitive.microsoft.com ). 지정하지 않은 경우 사이트 URL은 기본값이 ''https://westus.api.cognitive.microsoft.com입니다. |
제한 한도
| Name | 호출 | 갱신 기간 |
|---|---|---|
| 연결당 API 호출 | 1200 | 60초 |
동작
| 사용자 지정 이미지 목록 중 하나에 이미지 일치 |
사용자 지정 이미지 목록 중 하나에 이미지를 유사하게 일치시킬 수 있습니다. 이 API를 사용하여 사용자 지정 이미지 목록을 만들고 관리할 수 있습니다. 일치하는 이미지의 ID 및 태그를 반환합니다. |
| 욕설 검색 및 사용자 지정 및 공유 블록 목록에 대한 일치 |
100개 이상의 언어로 욕설을 검색하고 사용자 지정 및 공유 블록 목록과 일치합니다. |
| 이미지 콘텐츠에서 얼굴 찾기 |
이미지 콘텐츠의 얼굴을 찾습니다. |
| 이미지에 외설 콘텐츠 또는 성인 콘텐츠가 포함되어 있는지 확인 |
외설 콘텐츠 또는 성인 콘텐츠가 포함된 이미지의 확률을 반환합니다. |
| 조정 팀에서 검토자에 대한 검토 만들기 |
만든 리뷰는 팀의 검토자에게 표시됩니다. 검토자가 검토를 완료하면 지정된 CallBackEndpoint에서 검토 결과가 POSTED(예: HTTP POST)가 됩니다. |
| 지정된 언어에 대한 이미지에 있는 텍스트를 반환합니다. |
이미지에 있는 지정된 언어의 텍스트를 반환합니다. 입력에 언어가 지정되지 않은 경우 검색 기본값은 영어로 설정됩니다. |
| 지정된 텍스트 입력 콘텐츠의 언어 검색 |
이 작업은 지정된 입력 콘텐츠의 언어를 검색합니다. 제출된 텍스트를 구성하는 주된 언어에 대한 ISO 639-3 코드를 반환합니다. 110개 이상의 언어가 지원됩니다. |
| 팀에서 원하는 워크플로를 실행하여 이미지 또는 텍스트 콘텐츠 평가 |
이 엔드포인트에 게시된 이미지 또는 텍스트 콘텐츠에 대한 작업 ID가 반환됩니다. 제공된 워크플로에 대해 콘텐츠가 평가되면 워크플로 식에 따라 검토가 생성되거나 무시됩니다. |
사용자 지정 이미지 목록 중 하나에 이미지 일치
사용자 지정 이미지 목록 중 하나에 이미지를 유사하게 일치시킬 수 있습니다. 이 API를 사용하여 사용자 지정 이미지 목록을 만들고 관리할 수 있습니다.
일치하는 이미지의 ID 및 태그를 반환합니다.
참고: 추가 및 제거가 응답에 반영되기 전에 해당 이미지 목록에서 인덱스 새로 고침을 실행해야 합니다.
매개 변수
| Name | 키 | 필수 | 형식 | Description |
|---|---|---|---|---|
|
목록 ID
|
listId | string |
필요에 따라 일치시킬 listId를 지정합니다. 지정하지 않으면 이미지가 모든 이미지 목록과 일치합니다. |
|
|
이미지 원본
|
format | True | string |
이미지의 원본 - 포함되거나 참조 URL로 제공됩니다. |
|
이미지
|
Image | True | dynamic |
이미지 콘텐츠입니다. |
반환
| Name | 경로 | 형식 | Description |
|---|---|---|---|
|
추적 ID
|
TrackingId | string |
고유한 Content Moderator 트랜잭션 ID입니다. |
|
캐시 ID
|
CacheId | string |
캐시 ID입니다. |
|
일치하는 항목
|
IsMatch | boolean |
입력 이미지 목록 ID 또는 사용자 지정 이미지 목록 ID와 일치하는 이미지가 있습니다. |
|
일치 세부 정보 - 점수
|
MatchDetails.Score | number |
이미지 일치의 신뢰도 점수입니다. |
|
일치 세부 정보 - 일치 ID
|
MatchDetails.MatchId | number |
일치하는 사용자 지정 이미지 목록 ID입니다. |
|
일치 세부 정보 - 원본
|
MatchDetails.Source | string |
일치하는 이미지의 원본입니다. |
|
일치 세부 정보 - 태그
|
MatchDetails.Tags | array of number |
일치하는 이미지와 연결된 태그입니다. |
|
일치 세부 정보 - 레이블
|
MatchDetails.Label | string |
일치하는 이미지 레이블입니다. |
욕설 검색 및 사용자 지정 및 공유 블록 목록에 대한 일치
100개 이상의 언어로 욕설을 검색하고 사용자 지정 및 공유 블록 목록과 일치합니다.
매개 변수
| Name | 키 | 필수 | 형식 | Description |
|---|---|---|---|---|
|
Language
|
language | string |
텍스트의 언어(예: 영어의 경우 eng). |
|
|
자동 고침
|
autocorrect | boolean |
텍스트 자동 고침 |
|
|
개인 식별 가능 정보
|
PII | boolean |
텍스트의 개인 식별 가능 정보입니다. |
|
|
목록 ID
|
listId | string |
쉼표로 구분된 목록 ID입니다. |
|
|
입력 분류
|
classify | boolean |
입력을 분류합니다. |
|
|
콘텐츠 형식
|
Content-Type | True | string |
입력 텍스트의 콘텐츠 형식입니다. |
|
텍스트 콘텐츠
|
Text Content | True | binary |
텍스트 콘텐츠입니다. |
반환
| Name | 경로 | 형식 | Description |
|---|---|---|---|
|
원본 텍스트
|
OriginalText | string |
원본 텍스트입니다. |
|
정규화된 텍스트
|
NormalizedText | string |
정규화된 텍스트입니다. |
|
자동 고침 텍스트
|
AutoCorrectedText | string |
자동 고침 텍스트 |
|
허위 진술
|
Misrepresentation | array of string |
잘못된 표현 텍스트 세부 정보입니다. |
|
검색된 전자 메일
|
PII.Email | array of object |
검색된 전자 메일 세부 정보입니다. |
|
검색된 전자 메일
|
PII.Email.Detected | string |
입력 텍스트 콘텐츠에서 전자 메일 주소가 검색되었습니다. |
|
전자 메일 하위 유형
|
PII.Email.SubType | string |
검색된 전자 메일 주소의 하위 형식입니다. |
|
이메일 주소
|
PII.Email.Text | string |
입력 텍스트 콘텐츠의 전자 메일 주소입니다. |
|
전자 메일- 인덱스
|
PII.Email.Index | integer |
입력 텍스트 콘텐츠에 있는 전자 메일 주소의 인덱스(위치)입니다. |
|
검색된 SSN
|
PII.SSN | array of object |
SSN 세부 정보가 검색되었습니다. |
|
주민등록번호
|
PII.SSN.Text | string |
SSN이 검색되었습니다. |
|
SSN 인덱스
|
PII.SSN.Index | integer |
입력 텍스트 콘텐츠의 SSN 인덱스(위치)입니다. |
|
검색된 IP 주소
|
PII.IPA | array of object |
IP 주소 세부 정보가 검색되었습니다. |
|
IP 주소 하위 유형
|
PII.IPA.SubType | string |
검색된 IP 주소의 하위 유형입니다. |
|
IP 주소
|
PII.IPA.Text | string |
IP 주소가 검색되었습니다. |
|
IP 주소 인덱스
|
PII.IPA.Index | integer |
입력 텍스트 콘텐츠의 IP 주소 인덱스(위치)입니다. |
|
감지된 전화 번호
|
PII.Phone | array of object |
전화 번호 세부 정보가 검색되었습니다. |
|
Phone CountryCode
|
PII.Phone.CountryCode | string |
검색된 전화 번호의 국가 코드입니다. |
|
전화 번호
|
PII.Phone.Text | string |
전화 번호가 검색되었습니다. |
|
전화 인덱스
|
PII.Phone.Index | integer |
입력 텍스트 콘텐츠의 전화 번호 인덱스(위치)입니다. |
|
검색된 주소
|
PII.Address | array of object |
주소 세부 정보가 검색되었습니다. |
|
Address
|
PII.Address.Text | string |
입력 텍스트 콘텐츠에서 주소가 검색되었습니다. |
|
주소 - 인덱스
|
PII.Address.Index | integer |
입력 텍스트 콘텐츠의 주소 인덱스(위치)입니다. |
|
Category1 점수
|
Classification.Category1.score | double |
텍스트의 category1 점수 세부 정보입니다. 범주 분류에 대한 자세한 내용을 보려면 여기를 클릭하세요. |
|
Category2 점수
|
Classification.Category2.score | double |
텍스트의 category2 점수 세부 정보입니다. 범주 분류에 대한 자세한 내용을 보려면 여기를 클릭하세요. |
|
Category3 점수
|
Classification.Category3.score | double |
텍스트의 category3 점수 세부 정보입니다. 범주 분류에 대한 자세한 내용을 보려면 여기를 클릭하세요. |
|
권장 검토
|
Classification.ReviewRecommended | boolean |
검토 권장 플래그 상태입니다. |
|
텍스트 언어
|
Language | string |
입력 텍스트 콘텐츠의 언어입니다. |
|
검색된 욕설 용어
|
Terms | array of object |
욕설 용어 세부 정보가 검색되었습니다. |
|
용어 인덱스
|
Terms.Index | integer |
입력 텍스트 콘텐츠에서 검색된 욕설 용어의 인덱스(위치)입니다. |
|
용어 원래 인덱스
|
Terms.OriginalIndex | integer |
입력 텍스트 콘텐츠에서 검색된 욕설 용어의 원래 인덱스(위치)입니다. |
|
용어 목록 ID
|
Terms.ListId | integer |
일치하는 용어 목록 ID입니다. |
|
검색된 용어
|
Terms.Term | string |
욕설 용어가 검색되었습니다. |
|
추적 ID
|
TrackingId | string |
고유한 Content Moderator 트랜잭션 ID입니다. |
이미지 콘텐츠에서 얼굴 찾기
이미지 콘텐츠의 얼굴을 찾습니다.
매개 변수
| Name | 키 | 필수 | 형식 | Description |
|---|---|---|---|---|
|
이미지 원본
|
format | True | string |
이미지의 원본 - 포함되거나 참조 URL로 제공됩니다. |
|
이미지
|
Image | True | dynamic |
이미지 콘텐츠입니다. |
반환
| Name | 경로 | 형식 | Description |
|---|---|---|---|
|
추적 ID
|
TrackingId | string |
고유한 Content Moderator 트랜잭션 ID입니다. |
|
캐시 ID
|
CacheId | string |
캐시 ID입니다. |
|
얼굴 개수
|
Count | number |
이미지에서 감지된 얼굴 수입니다. |
|
감지된 얼굴 위치
|
Faces | array of object |
감지된 얼굴 위치입니다. |
|
아래쪽 위치
|
Faces.Bottom | number |
감지된 얼굴의 아래쪽 위치입니다. |
|
왼쪽 위치
|
Faces.Left | number |
감지된 얼굴의 왼쪽 위치입니다. |
|
올바른 위치
|
Faces.Right | number |
감지된 얼굴의 오른쪽 위치입니다. |
|
상위 위치
|
Faces.Top | number |
감지된 얼굴의 위쪽 위치입니다. |
이미지에 외설 콘텐츠 또는 성인 콘텐츠가 포함되어 있는지 확인
외설 콘텐츠 또는 성인 콘텐츠가 포함된 이미지의 확률을 반환합니다.
매개 변수
| Name | 키 | 필수 | 형식 | Description |
|---|---|---|---|---|
|
이미지 원본
|
format | True | string |
이미지의 원본 - 포함되거나 참조 URL로 제공됩니다. |
|
이미지
|
Image | True | dynamic |
이미지 콘텐츠입니다. |
반환
| Name | 경로 | 형식 | Description |
|---|---|---|---|
|
성인 분류 점수
|
AdultClassificationScore | number |
성인 분류의 신뢰도 점수입니다. |
|
이미지 성인 분류
|
IsImageAdultClassified | boolean |
성인 콘텐츠로 분류된 이미지입니다. |
|
외설 분류 점수
|
RacyClassificationScore | number |
외설 분류의 신뢰도 점수입니다. |
|
이미지 외설 분류
|
IsImageRacyClassified | boolean |
외설 콘텐츠로 분류된 이미지입니다. |
|
추적 ID
|
TrackingId | string |
고유한 Content Moderator 트랜잭션 ID입니다. |
조정 팀에서 검토자에 대한 검토 만들기
만든 리뷰는 팀의 검토자에게 표시됩니다. 검토자가 검토를 완료하면 지정된 CallBackEndpoint에서 검토 결과가 POSTED(예: HTTP POST)가 됩니다.
매개 변수
| Name | 키 | 필수 | 형식 | Description |
|---|---|---|---|---|
|
팀 이름
|
teamName | True | string |
팀 이름입니다. |
|
SubTeam
|
subTeam | string |
팀의 하위 팀입니다. 검토를 할당하려고 합니다. |
|
|
콘텐츠 형식
|
Type | True | string |
콘텐츠의 형식입니다. |
|
콘텐츠 검토
|
Content | True | string |
검토할 이미지 URL(이미지 형식의 경우)/text(텍스트 형식의 경우) 콘텐츠입니다. |
|
콘텐츠 ID
|
ContentId | True | string |
콘텐츠 식별자입니다. |
|
콜백 엔드포인트
|
CallbackEndpoint | string |
선택적 콜백 엔드포인트입니다. |
|
|
키 매개 변수
|
Key | True | string |
키 매개 변수입니다. |
|
값 매개 변수
|
Value | True | string |
값 매개 변수입니다. |
반환
| Name | 경로 | 형식 | Description |
|---|---|---|---|
|
|
array of string |
지정된 언어에 대한 이미지에 있는 텍스트를 반환합니다.
이미지에 있는 지정된 언어의 텍스트를 반환합니다. 입력에 언어가 지정되지 않은 경우 검색 기본값은 영어로 설정됩니다.
매개 변수
| Name | 키 | 필수 | 형식 | Description |
|---|---|---|---|---|
|
Language
|
language | True | string |
텍스트의 언어(예: 영어의 경우 eng). |
|
이미지 원본
|
format | True | string |
이미지의 원본 - 포함되거나 참조 URL로 제공됩니다. |
|
이미지
|
Image | True | dynamic |
이미지 콘텐츠입니다. |
반환
| Name | 경로 | 형식 | Description |
|---|---|---|---|
|
추적 ID
|
TrackingId | string |
고유한 Content Moderator 트랜잭션 ID입니다. |
|
캐시 ID
|
CacheId | string |
캐시 ID입니다. |
|
텍스트 언어
|
Language | string |
이미지에 있는 텍스트의 언어입니다. |
|
검색된 텍스트
|
Text | string |
이미지에 있는 텍스트입니다. |
|
검색된 후보
|
Candidates | array of object |
이미지에서 검색된 텍스트 후보입니다. |
|
검색된 텍스트 콘텐츠 후보
|
Candidates.Text | string |
이미지에서 텍스트 콘텐츠 후보가 검색되었습니다. |
|
신뢰도 점수
|
Candidates.Confidence | number |
검색된 텍스트 콘텐츠 후보의 신뢰도 점수입니다. |
지정된 텍스트 입력 콘텐츠의 언어 검색
이 작업은 지정된 입력 콘텐츠의 언어를 검색합니다. 제출된 텍스트를 구성하는 주된 언어에 대한 ISO 639-3 코드를 반환합니다. 110개 이상의 언어가 지원됩니다.
매개 변수
| Name | 키 | 필수 | 형식 | Description |
|---|---|---|---|---|
|
콘텐츠 형식
|
Content-Type | True | string |
텍스트 콘텐츠의 형식입니다. |
|
텍스트 콘텐츠
|
Text Content | True | binary |
텍스트 콘텐츠입니다. |
반환
| Name | 경로 | 형식 | Description |
|---|---|---|---|
|
검색된 언어
|
DetectedLanguage | string |
텍스트의 언어가 검색되었습니다. |
팀에서 원하는 워크플로를 실행하여 이미지 또는 텍스트 콘텐츠 평가
이 엔드포인트에 게시된 이미지 또는 텍스트 콘텐츠에 대한 작업 ID가 반환됩니다. 제공된 워크플로에 대해 콘텐츠가 평가되면 워크플로 식에 따라 검토가 생성되거나 무시됩니다.
매개 변수
| Name | 키 | 필수 | 형식 | Description |
|---|---|---|---|---|
|
팀 이름
|
teamName | True | string |
팀 이름입니다. |
|
콘텐츠 형식
|
ContentType | True | string |
콘텐츠의 형식입니다. |
|
콘텐츠 ID
|
ContentId | True | string |
콘텐츠 식별자입니다. |
|
워크플로 선택
|
WorkflowName | True | string |
호출하려는 워크플로를 선택합니다. |
|
콜백 엔드포인트
|
CallBackEndpoint | string |
콜백 엔드포인트. |
|
|
콘텐츠 값
|
ContentValue | True | string |
작업에 대해 평가할 콘텐츠입니다. |
반환
| Name | 경로 | 형식 | Description |
|---|---|---|---|
|
작업 ID
|
JobId | string |
게시된 콘텐츠의 작업 ID입니다. |