什麼是 Azure Content Moderator？

重要

Azure Content Moderator 已於 2024 年 2 月起被取代，並將於 2027 年 2 月淘汰。它已被 Azure AI 內容安全取代，其提供進階的 AI 功能和增強的效能。

Azure AI 內容安全是一個全方位的解決方案，其設計目的是在應用程式與服務中偵測使用者產生和 AI 產生的有害內容。 Azure AI 內容安全適用於許多案例，例如線上市集、遊戲公司、社交訊息平台、企業媒體公司和 K-12 教育解決方案提供者。以下是其特性和功能的概觀：

文字和影像偵測 API：掃描文字和影像中是否有色情內容、暴力、仇恨，以及多個嚴重層級的自殘内容。
Content Safety Studio：是一種線上工具，其設計目的是使用最先進的內容仲裁 ML 模型來處理潛在具冒犯性、風險性或不想要的內容。它會提供範本和自訂工作流程，讓使用者建置自己的內容仲裁系統。
語言支援：Azure AI 內容安全支持超過 100 種語言，並針對英文、德文、日文、西班牙文、法文、義大利文、葡萄牙文和中文受過專門訓練。

Azure AI 內容安全會提供健全且彈性的解決方案，以滿足您的內容仲裁需求。藉由從 Content Moderator 切換至 Azure AI 內容安全，您可以利用最新的工具和技術，以確保您的內容一律會根據確切規格進行仲裁。

深入了解 Azure AI 內容安全，並探索它可以如何提升內容仲裁策略。

Azure Content Moderator 是一種 AI 服務，可讓您處理可能具冒犯意味、有風險或不當的資料。其包含 AI 驅動的內容審核服務來掃描文字、影像和影片，並自動套用內容旗標。

您可能想要在應用程式中建置內容篩選軟體，以遵循法規或維護使用者應有的環境。

此文件包含下列類型的文章：

如需更為結構化的方法，請遵循適用於內容仲裁者的訓練模組。

其使用場合

以下是軟體開發人員或小組將需要內容仲裁服務的幾個案例：

重要

您無法使用 Content Moderator 來偵測不合法的孩童利用影像。不過，合格組織可以使用PhotoDNA Cloud Service 來篩選出這方面的內容。

Content Moderator 服務由數個可透過 REST 呼叫和 .NET SDK 使用的 Web 服務 API 所組成。

Content Moderator 服務包含仲裁 API，可用來檢查可能不適當或令人反感的素材內容。

Content Moderator 仲裁 API 的區塊圖

下表描述不同類型的仲裁 API。

API 群組	描述
文字仲裁	掃描文字中具冒犯性的內容、明顯色情或性暗示內容、粗話和個人資料。
自訂字詞清單	根據自訂字詞清單以及使用內建字詞來掃描文字。使用自訂清單可根據您自己的內容原則來封鎖或允許內容。
影像仲裁	掃描影像中的成人或猥褻內容、使用光學字元辨識 (OCR) 功能偵測影像中的文字，以及偵測臉部。
自訂影像清單	根據自訂影像清單掃描影像。使用自訂影像清單，篩選掉重複出現、而您不想再次分類的內容執行個體。
影片仲裁	掃描影片中的成人或猥褻內容，並傳回該內容的時間標記。

和所有 Azure AI 服務一樣，使用 Content Moderator 服務的開發人員應該要了解 Microsoft 對於客戶資料的政策。請參閱 Microsoft 信任中心上的 Azure AI 服務頁面以深入了解。