次の方法で共有


Content Moderator

Content Moderator は Microsoft Cognitive Services 製品であり、潜在的に不快なまたは望ましくないコンテンツに対して、テキストと画像のコンピューター支援モデレートを提供し、組み込みの人間によるレビュー ツールで補強します

このコネクタは、次の製品および地域で利用可能です。

Service クラス 地域
Logic Apps 標準 以下を除くすべての Logic Apps 地域 :
     -   Azure China の地域
Power Automate 標準 以下を除くすべての Power Automate 地域 :
     -   21 Vianet が運用する中国のクラウド
Power Apps 標準 以下を除くすべての Power Apps 地域 :
     -   21 Vianet が運用する中国のクラウド
連絡先
件名 Microsoft
URL Microsoft LogicApps サポート
Microsoft Power Automate サポート
Microsoft Power Apps サポート
コネクタ メタデータ
公開元 Microsoft
Web サイト https://azure.microsoft.com/services/cognitive-services/content-moderator/

API を使用してコンテンツをスキャンし、得られたインサイトを使用して、人間のモデレーターが最終決定を下すために行動するか、レビュー ツールで利用できるようにします。

API を使用する場合、画像は最小 128 ピクセル、最大ファイル サイズ 4 MB である必要があります。 テキストの長さは最大 1024 文字です。 この API は現在、米国西部、米国東部 2、米国中西部、西ヨーロッパ、および東南アジアで利用できます。

接続の作成

コネクタは、次の認証タイプをサポートしています:

既定 接続を作成するためのパラメーター。 すべてのリージョン 共有可能

既定

適用できるもの: すべての領域

接続を作成するためのパラメーター。

これは共有可能な接続です。 Power App が他のユーザーと共有されている場合、接続も共有されます。 詳細については、キャンバス アプリのコネクタの概要 - Power Apps | Microsoft Docs を参照してください

件名 タイプ 内容 必要
API キー securestring この API の API キー
サイトの URL 文字列 ルート サイト URL (例: https://westus.api.cognitive.microsoft.com)。指定されていない場合、サイトの URL は既定で 'https://westus.api.cognitive.microsoft.com' になります。

調整制限

名前 呼び出し 更新期間
接続ごとの API 呼び出し 1200 60 秒

アクション

モデレート チームでレビュー担当者のレビューを作成

作成されたレビューは、チームのレビュー担当者に表示されます。 レビュー担当者がレビューを完了すると、レビューの結果が指定された CallBackEndpoint に投稿されます (例: HTTP POST)。

不適切な言葉を検出し、カスタムおよび共有ブロック リストと照合

100 以上の言語で不適切な言葉を検出し、カスタムおよび共有ブロック リストと照合します。

指定されたテキスト入力コンテンツの言語を検出

この操作を実行すると、指定された入力コンテンツの言語を検出します。 送信されたテキストを構成する主な言語 ISO639-3 コード を返します。 110 以上の言語がサポートされています。

指定された言語の画像にあるテキストを返す

指定された言語の画像にあるテキストを返します。 入力に言語が指定されていない場合、検出は既定の英語になります。

画像にわいせつコンテンツや成人向けコンテンツが含まれていないかどうかを確認

わいせつコンテンツや成人向けコンテンツを含む画像の確率を返します。

画像またはテキスト コンテンツを評価するために、チームで必要なワークフローを実行

このエンドポイントに投稿された画像またはテキストコンテンツのジョブ ID が返されます。 提供されたワークフローに対してコンテンツが評価されると、ワークフロー式に基づいてレビューが作成または無視されます。

画像をユーザー定義の画像リストの 1 つと照合

画像をユーザー定義の画像リストの 1 つと曖昧な一致照合。 ユーザー定義の画像リストは、この API を使用して作成および管理できます。

一致する画像の ID とタグを返します。

注: 追加と削除が応答に反映される前に、対応する画像リストでインデックスの更新を実行する必要があります。

画像コンテンツ内の顔を検索する

画像コンテンツ内の顔を検索します。

モデレート チームでレビュー担当者のレビューを作成

作成されたレビューは、チームのレビュー担当者に表示されます。 レビュー担当者がレビューを完了すると、レビューの結果が指定された CallBackEndpoint に投稿されます (例: HTTP POST)。

パラメーター

名前 キー 必須 説明
チーム名
teamName True string

ユーザーのチーム名。

SubTeam
subTeam string

レビューを割り当てたいユーザーのチームのサブチーム。

コンテンツ タイプ
Type True string

コンテンツの種類。

コンテンツの確認
Content True string

レビューする画像の URL (画像の種類)/テキスト (テキストの種類) のコンテンツ。

コンテンツ ID
ContentId True string

コンテンツ識別子。

コールバック エンドポイント
CallbackEndpoint string

オプション コールバック エンドポイント。

キー パラメーター
Key True string

ユーザーのキー パラメーター。

数値パラメーター
Value True string

ユーザーの数値パラメーター。

戻り値

名前 パス 説明
array of string

不適切な言葉を検出し、カスタムおよび共有ブロック リストと照合

100 以上の言語で不適切な言葉を検出し、カスタムおよび共有ブロック リストと照合します。

パラメーター

名前 キー 必須 説明
言語
language string

テキストの言語 (例 英語には「eng」)。

オートコレクト
autocorrect boolean

オートコレクト テキスト。

個人を特定可能な情報
PII boolean

テキスト内の個人を特定可能な情報。

リスト ID
listId string

コンマで区切られたリスト ID。

入力の分類
classify boolean

入力を分類します。

コンテンツ タイプ
Content-Type True string

入力テキストのコンテンツ タイプ。

テキスト コンテンツ
Text Content True binary

自分のテキスト コンテンツ。

戻り値

名前 パス 説明
元のテキスト
OriginalText string

元のテキスト。

正規化テキスト
NormalizedText string

正規化テキスト。

自動修正されたテキスト
AutoCorrectedText string

自動修正されたテキスト

表現の誤り
Misrepresentation array of string

誤った表示のテキスト詳細。

検出された電子メール
PII.Email array of object

検出された電子メールの詳細。

検出された電子メール
PII.Email.Detected string

入力テキスト コンテンツから検出された電子メール アドレス。

電子メール サブタイプ
PII.Email.SubType string

検出された電子メール アドレスのサブタイプ。

メール アドレス
PII.Email.Text string

入力テキスト コンテンツの電子メール アドレス。

電子メール- インデックス
PII.Email.Index integer

入力テキスト コンテンツ内の電子メールアドレスのインデックス (場所)。

検出された SSN
PII.SSN array of object

検出された SSN の詳細。

SSN
PII.SSN.Text string

検出された SSN。

SSN インデックス
PII.SSN.Index integer

入力テキスト コンテンツ内の SSN のインデックス(場所)。

検出された IP アドレス
PII.IPA array of object

検出された IP アドレスの詳細。

IP アドレスのサブタイプ
PII.IPA.SubType string

検出された IP アドレスのサブタイプ。

IP アドレス
PII.IPA.Text string

検出された IP アドレス。

IP アドレスのインデックス
PII.IPA.Index integer

入力テキスト コンテンツ内の IP アドレスのインデックス (場所)。

検出された電話番号
PII.Phone array of object

検出された電話番号の詳細。

電話の国番号
PII.Phone.CountryCode string

検出された電話番号の国番号。

電話番号
PII.Phone.Text string

検出された電話番号。

電話のインデックス
PII.Phone.Index integer

入力テキスト コンテンツ内の電話番号のインデックス (場所)。

検出された住所
PII.Address array of object

検出された住所の詳細。

住所
PII.Address.Text string

入力テキスト コンテンツから検出された住所。

住所- インデックス
PII.Address.Index integer

入力テキスト コンテンツ内の住所のインデックス (場所)。

カテゴリー 1 のスコア
Classification.Category1.score double

テキストのカテゴリー 1 のスコア詳細。 カテゴリ分類の詳細については、ここをクリックをご覧ください。

カテゴリー 2 のスコア
Classification.Category2.score double

テキストのカテゴリー 2 のスコア詳細。 カテゴリ分類の詳細については、ここをクリックをご覧ください。

カテゴリー 3 のスコア
Classification.Category3.score double

テキストのカテゴリー 3 のスコア詳細。 カテゴリ分類の詳細については、ここをクリックをご覧ください。

レビュー推奨
Classification.ReviewRecommended boolean

レビュー推奨フラグの状態。

テキストの言語
Language string

入力テキスト コンテンツの主な言語。

検出された不適切な条件
Terms array of object

検出された不適切な条件の詳細。

条件インデックス
Terms.Index integer

入力テキスト コンテンツ内の検出された不適切な条件のインデックス (場所)。

条件オリジナル インデックス
Terms.OriginalIndex integer

入力テキスト コンテンツ内の検出された不適切な条件のオリジナル インデックス (場所)。

条件リスト ID
Terms.ListId integer

一致した条件リスト ID。

検出された条件
Terms.Term string

検出された不適切な条件。

追跡 ID
TrackingId string

一意の Content Moderator トランザクション ID。

指定されたテキスト入力コンテンツの言語を検出

この操作を実行すると、指定された入力コンテンツの言語を検出します。 送信されたテキストを構成する主な言語 ISO639-3 コード を返します。 110 以上の言語がサポートされています。

パラメーター

名前 キー 必須 説明
コンテンツ タイプ
Content-Type True string

テキスト コンテンツの種類。

テキスト コンテンツ
Text Content True binary

テキスト コンテンツ。

戻り値

名前 パス 説明
検出された言語
DetectedLanguage string

検出されたテキストの言語。

指定された言語の画像にあるテキストを返す

指定された言語の画像にあるテキストを返します。 入力に言語が指定されていない場合、検出は既定の英語になります。

パラメーター

名前 キー 必須 説明
言語
language True string

テキストの言語 (例 英語には「eng」)。

画像のソース
format True string

画像のソースです。画像は含まれているか、URL で参照されています。

Image
Image True dynamic

画像コンテンツ。

戻り値

名前 パス 説明
追跡 ID
TrackingId string

一意の Content Moderator トランザクション ID。

キャッシュ ID
CacheId string

キャッシュ ID。

テキストの言語
Language string

画像にあるテキストの言語。

検出されたテキスト
Text string

画像にあるテキスト。

検出された候補
Candidates array of object

画像にある検出されたテキスト候補。

検出されたテキスト コンテンツの候補
Candidates.Text string

画像にある検出されたテキスト コンテンツの候補。

信頼度スコア
Candidates.Confidence number

検出されたテキスト コンテンツ候補の信頼度スコア。

画像にわいせつコンテンツや成人向けコンテンツが含まれていないかどうかを確認

わいせつコンテンツや成人向けコンテンツを含む画像の確率を返します。

パラメーター

名前 キー 必須 説明
画像のソース
format True string

画像のソースです。画像は含まれているか、URL で参照されています。

Image
Image True dynamic

画像コンテンツ。

戻り値

名前 パス 説明
成人分類スコア
AdultClassificationScore number

成人分類の信頼度スコアです。

成人向けの画像かどうか
IsImageAdultClassified boolean

画像は成人向けコンテンツに分類されていますか。

わいせつ分類スコア
RacyClassificationScore number

わいせつ分類の信頼度スコアです。

わいせつ分類されている画像かどうか
IsImageRacyClassified boolean

画像はわいせつコンテンツに分類されていますか。

追跡 ID
TrackingId string

一意の Content Moderator トランザクション ID。

画像またはテキスト コンテンツを評価するために、チームで必要なワークフローを実行

このエンドポイントに投稿された画像またはテキストコンテンツのジョブ ID が返されます。 提供されたワークフローに対してコンテンツが評価されると、ワークフロー式に基づいてレビューが作成または無視されます。

パラメーター

名前 キー 必須 説明
チーム名
teamName True string

チーム名。

コンテンツ タイプ
ContentType True string

コンテンツの種類。

コンテンツ ID
ContentId True string

コンテンツ識別子。

ワークフローの選択
WorkflowName True string

呼び出したいワークフローを選択します。

コールバック エンドポイント
CallBackEndpoint string

コールバック エンドポイント。

コンテンツ値
ContentValue True string

仕事を評価するコンテンツ。

戻り値

名前 パス 説明
ジョブ ID
JobId string

投稿されたコンテンツのジョブ ID。

画像をユーザー定義の画像リストの 1 つと照合

画像をユーザー定義の画像リストの 1 つと曖昧な一致照合。 ユーザー定義の画像リストは、この API を使用して作成および管理できます。

一致する画像の ID とタグを返します。

注: 追加と削除が応答に反映される前に、対応する画像リストでインデックスの更新を実行する必要があります。

パラメーター

名前 キー 必須 説明
リスト ID
listId string

任意で、照合する ListId を指定します。 指定されていない場合、画像はすべての画像リストと照合されます。

画像のソース
format True string

画像のソースです。画像は含まれているか、URL で参照されています。

Image
Image True dynamic

画像コンテンツ。

戻り値

名前 パス 説明
追跡 ID
TrackingId string

一意の Content Moderator トランザクション ID。

キャッシュ ID
CacheId string

キャッシュ ID。

照合
IsMatch boolean

入力画像リスト ID またはカスタム画像リスト ID と画像が一致しています。

照合の詳細 - スコア
MatchDetails.Score number

画像照合の信頼度スコア。

照合の詳細 - 照合 ID
MatchDetails.MatchId number

一致したユーザー定義の画像リスト ID。

照合の詳細 - ソース
MatchDetails.Source string

一致した画像のソース。

照合の詳細 - タグ
MatchDetails.Tags array of number

照合された画像に関連付けられているタグ。

照合の詳細 - ラベル
MatchDetails.Label string

一致した画像ラベル。

画像コンテンツ内の顔を検索する

画像コンテンツ内の顔を検索します。

パラメーター

名前 キー 必須 説明
画像のソース
format True string

画像のソースです。画像は含まれているか、URL で参照されています。

Image
Image True dynamic

画像コンテンツ。

戻り値

名前 パス 説明
追跡 ID
TrackingId string

一意の Content Moderator トランザクション ID。

キャッシュ ID
CacheId string

キャッシュ ID。

フェイス カウント
Count number

画像で検出された顔の数。

検出された顔の位置
Faces array of object

検出された顔の位置。

下部の位置
Faces.Bottom number

検出された顔の下部の位置。

左側の位置
Faces.Left number

検出された顔の左側の位置。

右側の位置
Faces.Right number

検出された顔の右側の位置。

上部の位置
Faces.Top number

検出された顔の上部の位置。