什麼是 Azure Content Moderator?

重要

內容仲裁檢閱 API 和線上檢閱工具已於 2021 年 12 月 31 日 淘汰。 仲裁 API 仍可供使用。

Azure Content Moderator 是一種 AI 服務,可讓您處理可能具冒犯意味、有風險或不當的資料。 其包含 AI 驅動的內容審核服務來掃描文字、影像和影片,並自動套用內容旗標。

您可能想要在應用程式中建置內容篩選軟體,以遵循法規或維護使用者應有的環境。

此文件包含下列文章類型:

  • 快速入門是引導您完成對服務提出要求的入門指示。
  • 操作指南包含以更具體或自訂的方式使用服務的指示。
  • 概念提供服務功能和特徵的深入說明。
  • 教學課程是更長的指南,示範如何使用服務作為更廣泛商務解決方案中的元件。

如需更結構化的方法,請遵循 Content Moderator 的訓練課程模組。

其使用場合

以下是軟體開發人員或小組將需要內容仲裁服務的幾個案例:

  • 對產品目錄和使用者產生的其他內容進行仲裁的線上市集。
  • 對使用者產生的遊戲成品和聊天室進行仲裁的遊戲公司。
  • 對使用者新增的影像、文字和影片進行仲裁的社交傳訊平台。
  • 對其內容實作集中式仲裁的企業媒體公司。
  • 為學生和授課者篩選掉不當內容的 K-12 教育解決方案提供者。

重要

您無法使用 Content Moderator 來偵測不合法的孩童利用影像。 不過,合格組織可以使用 PhotoDNA Cloud Service 來篩選出此類型的內容。

包含內容

Content Moderator 服務由數個可透過 REST 呼叫和 .NET SDK 使用的 Web 服務 API 所組成。

仲裁 API

Content Moderator 服務包含仲裁 API,可用來檢查可能不適當或令人反感的素材內容。

Content Moderator 仲裁 API 的區塊圖

下表描述不同類型的仲裁 API。

API 群組 描述
文字仲裁 掃描文字中具冒犯性的內容、明顯色情或性暗示內容、粗話和個人資料。
自訂字詞清單 根據自訂字詞清單以及使用內建字詞來掃描文字。 使用自訂清單可根據您自己的內容原則來封鎖或允許內容。
影像仲裁 掃描影像中的成人或猥褻內容、使用光學字元辨識 (OCR) 功能偵測影像中的文字,以及偵測臉部。
自訂影像清單 根據自訂影像清單掃描影像。 使用自訂影像清單,篩選掉重複出現、而您不想再次分類的內容執行個體。
影片仲裁 掃描影片中的成人或猥褻內容,並傳回該內容的時間標記。

資料隱私權和安全性

和所有認知服務一樣,使用 Content Moderator 服務的開發人員應該要了解 Microsoft 對於客戶資料的政策。 請參閱 Microsoft 信任中心上的認知服務頁面,以進行深入了解。

後續步驟

若要在入口網站上開始使用 Content Moderator,請遵循在 Web 上試用 Content Moderator。 或者,完成用戶端程式庫或 REST API 快速入門,以在程式碼中實作基本案例。