什麼是 Azure AI 內容 保管庫？
Azure AI 內容 保管庫 ty 會在應用程式和服務中偵測有害的用戶產生和 AI 產生的內容。 Azure AI 內容 保管庫 ty 包含文字和影像 API，可讓您偵測有害的材料。 我們也有互動式內容 保管庫 ty Studio，可讓您檢視、探索和試用範例程序代碼，以偵測不同形式的有害內容。
內容篩選軟體可協助您的應用程式符合法規，或維護使用者的預期環境。
本檔案包含下列文章類型：
使用的位置
以下是一些軟體開發人員或小組需要 con 帳篷模式 ration 服務的案例：
- 線上市場，可管理產品目錄和其他使用者產生的內容。
- 遊戲公司，可管理使用者產生的遊戲成品和聊天室。
- 可仲裁使用者新增之影像和文字的社交訊息平臺。
- 實作內容集中仲裁的企業媒體公司。
- K-12 教育解決方案提供者會篩選出不適合學生和授課者的內容。
重要
您無法使用 Azure AI 內容 保管庫 來偵測非法的子惡意探索映像。
產品類型
此服務提供不同類型的分析。 下表描述目前可用的 API。
| 類型 | 功能 |
|---|---|
| 分析文字 API | 掃描文字中是否有性內容、暴力、仇恨和自我傷害與多重嚴重性等級。 |
| 分析影像 API | 掃描影像中是否有性內容、暴力、仇恨和自我傷害的多重嚴重性層級。 |
| 提示盾牌 （預覽） | 掃描文字中是否有使用者輸入攻擊大型語言模型的風險。 快速入門 |
| 地面偵測 （預覽） | 偵測大型語言模型 （LLM） 的文字回應是否以使用者提供的來源數據為根據。 快速入門 |
| 受保護的材料文字偵測 （預覽） | 掃描 AI 產生的文字以取得已知的文字內容（例如歌曲歌詞、文章、食譜、選取的 Web 內容）。 快速入門 |
Content Safety Studio
Azure AI Content 保管庫 ty Studio 是一種在線工具，其設計目的是使用尖端的 con 帳篷模式 ration ML 模型來處理潛在的冒犯性、風險或不想要的內容。 它提供範本和自定義工作流程，讓用戶選擇並建置自己的 con 帳篷模式 ration 系統。 用戶可以上傳自己的內容，或使用提供的範例內容試用。
內容 保管庫 ty Studio 不僅包含現成的 AI 模型，還包含 Microsoft 的內建字詞封鎖清單，以標幟不雅內容，並隨時掌握新趨勢。 您也可以上傳自己的封鎖清單，以增強使用案例專屬有害內容的涵蓋範圍。
Studio 也可讓您設定仲裁工作流程，您可以在其中持續監視和改善 con 帳篷模式 ration 效能。 它可協助您符合各種產業的內容需求，例如遊戲、媒體、教育、電子商務等等。 企業可以輕鬆地將其服務連線到 Studio，並即時進行其 con 帳篷模式，無論是用戶產生的還是 AI 產生的。
所有這些功能都是由 Studio 及其後端處理;客戶不需要擔心模型開發。 您可以讓數據上線以進行快速驗證，並據以監視 KPI，例如技術計量（延遲、精確度、召回率）或商務計量（區塊率、區塊數量、類別比例、語言比例等等）。 透過簡單的作業和組態，客戶可以快速測試不同的解決方案，並尋找最適合的解決方案，而不是花時間實驗自定義模型或手動進行仲裁。
內容 保管庫 ty Studio 功能
在 Content 保管庫 ty Studio 中，有下列 Azure AI 內容 保管庫 ty 服務功能可供使用：
仲裁文字內容：使用文字仲裁工具，您可以輕鬆地對文字內容執行測試。 無論您要測試單一句子或整個數據集，我們的工具都提供方便使用的介面，可讓您直接在入口網站中評估測試結果。 您可以試驗不同的敏感度層級來設定內容篩選和封鎖清單管理，以確保您的內容一律會仲裁到確切的規格。 此外，您可以匯出程式代碼，直接在應用程式中實作工具，簡化工作流程並節省時間。
仲裁影像內容：使用影像仲裁工具，您可以輕鬆地對影像執行測試，以確保它們符合您的內容標準。 我們方便使用的介面可讓您直接在入口網站中評估測試結果，而且您可以試驗不同的敏感度層級來設定內容篩選。 自訂設定之後，您可以輕鬆地導出程式代碼，以在應用程式中實作工具。
監視在線活動：功能強大的監視頁面可讓您輕鬆地追蹤不同模式的仲裁 API 使用量和趨勢。 透過這項功能，您可以存取詳細的響應資訊，包括類別和嚴重性分佈、延遲、錯誤和封鎖清單偵測。 這項資訊可讓您完整概觀您的 con 帳篷模式 ration 效能，讓您將工作流程優化，並確保您的內容一律會仲裁為確切的規格。 透過使用者易記的介面，您可以快速且輕鬆地瀏覽監視頁面，以存取您做出有關您 con 帳篷模式 ration 策略的明智決策所需的資訊。 您有一個工具，您需要隨時掌握您的缺點 帳篷模式 效能，並達成您的內容目標。
輸入需求
文字提交的預設長度上限為 10K 個字元。 如果您需要分析較長的文字區塊，您可以將輸入文字（例如標點符號或間距）分割成多個相關提交。
映像提交的大小上限為 4 MB，且映像尺寸必須介於 50 x 50 像素和 2,048 x 2,048 像素之間。 映像可以是 JPEG、PNG、GIF、BMP、TIFF 或 WEBP 格式。
安全性
使用 Microsoft Entra ID 或受控識別來管理存取權
為了增強安全性，您可以使用 Microsoft Entra ID 或受控識別 （MI） 來管理資源的存取權。
- 當您建立內容 保管庫 型資源時，系統會自動啟用受控識別。
- API 和 SDK 案例都支援 Microsoft Entra ID。 請參閱使用 Microsoft Entra ID 進行驗證的一般 AI 服務指導方針。 您也可以將認知服務用戶和讀取者的角色指派給他們，以授與貴組織內其他使用者的存取權。 若要深入瞭解如何使用 Azure 入口網站 將 Azure 資源的存取權授與使用者，請參閱角色型訪問控制指南。
待用資料加密
瞭解 Azure AI 內容 保管庫 如何處理數據的加密和解密。 客戶管理的金鑰 （CMK），也稱為「攜帶您自己的密鑰」（BYOK），可提供更大的彈性來建立、輪替、停用及撤銷訪問控制。 您也可稽核用來保護資料的加密金鑰。
定價
目前，Azure AI 內容 保管庫 ty 具有 F0 和 S0 定價層。
服務限制
語言支援
內容 保管庫 型模型已以下列語言特別定型和測試：英文、德文、日文、西班牙文、法文、義大利文、葡萄牙文和中文。 不過，服務可以使用許多其他語言，但品質可能會有所不同。 在所有情況下，您應執行自己的測試，以確保它適用於您的應用程式。
如需詳細資訊，請參閱 語言支援。
區域/位置
若要使用內容 保管庫 ty API，您必須在支援的區域中建立 Azure AI 內容 保管庫 ty 資源。 目前可在下列 Azure 區域中使用：
- 澳大利亞東部
- 加拿大東部
- Central US
- 美國東部
- 美國東部 2
- 法國中部
- 日本東部
- 美國中北部
- 美國中南部
- 瑞士北部
- 英國南部
- 西歐
- 美國西部 2
- 瑞典中部
下列 Azure 區域提供公開預覽功能，例如提示盾牌和受保護的材料偵測：
- 美國東部
- 西歐
如果您需要商務的其他區域，請與我們 連絡 。
查詢速率
| 定價層 | 每 10 秒的要求數 （RPS） |
|---|---|
| F0 | 1000 |
| S0 | 1000 |
如果您需要更快的費率，請 與我們連絡 以要求。
與我們連絡
如果您遇到問題， 請傳送電子郵件給我們 ，或使用任何文件頁面右上方的意見反應小工具。
下一步
請遵循快速入門，開始在應用程式中使用 Azure AI Content 保管庫 ty。