共用方式為

Azure AI 內容安全性有什麼更新

  • 發行項

了解該服務的新功能。 這些項目可能是版本資訊、影片、部落格文章與其他類型的資訊。 將此頁面新增為書籤即可隨時掌握最新的功能、增強功能、修正及文件更新。

2024 年 7 月

自訂類別 (標準) API

自訂類別 API 可讓您建立和訓練自己的自訂內容類別，並掃描文字尋找相符項目。 若要深入了解，請參閱自訂類別。

2024 年 5 月

自訂類別 (快速) API

自訂類別 (快速) API 讓您快速定義新興的有害內容模式，並掃描文字和影像以尋找相符項目。 若要深入了解，請參閱自訂類別。

2024 年 3 月

提示盾牌公開預覽版

先前稱為越獄風險偵測，這項更新功能會偵測使用者提示插入式攻擊，其使用者會惡意探索系統弱點，從大型語言模型引發未經授權的行為。 提示盾牌會分析內嵌在輸入文件或影像中的直接使用者提示攻擊和間接攻擊。 若要深入了解，請參閱提示盾牌。

根據性偵測公開預覽版

根據性偵測 API 會偵測大型語言模型 (LLM) 的文字回應是否以使用者所提供的來源素材為根據。 非根據性是指 LLM 從來源素材中出現的資訊產生非事實或不準確資訊的執行個體。 若要深入了解，請參閱根據性偵測。

2024 年一月

內容安全性 SDK GA

Azure AI 內容安全服務現在已透過下列用戶端程式庫 SDK 正式推出：

重要

Azure AI 內容安全 SDK 的公開預覽版將於 2024 年 3 月 31 日取代。 請更新應用程式以使用 GA 版本。

2023 年 11 月

越獄風險和受(版權)保護素材偵測 (預覽版)

新的越獄風險偵測和受(版權)保護素材偵測 API 可讓您在使用生成式 AI 時降低一些風險。

  • 越獄風險偵測會掃描文字，以尋找大型語言模型上越獄攻擊的風險。 快速入門
  • 受保護資料文字會掃描 AI 產生的文字以尋找已知文字內容 (例如歌曲歌詞、文章、食譜、選取的 Web 內容)。 快速入門

越獄風險和受保護素材偵測僅適用於選取的區域。 請參閱區域可用性 (英文)。

2023 年 10 月

Azure AI 內容安全已正式推出 (GA)

Azure AI 內容安全服務現已正式推出作為雲端服務。

  • 服務可在更多 Azure 區域中使用。 如需清單，請參閱概觀。
  • 分析 API 的傳回格式已變更。 如需最新的範例，請參閱快速入門。
  • 數個 API 的名稱和傳回格式已變更。 有關重大變更的完整清單，請參閱移轉指南。 其他指南和快速入門會反映在 GA 版本中。

Azure AI 內容安全 JAVA 和 JavaScript SDK

Azure AI 內容安全服務現在可透過 JAVA 和 JavaScript SDK 取得。 SDK 適用於 Maven 和 npm。 請遵循快速入門以開始使用。

2023 年 7 月

Azure AI 內容安全 C# SDK

Azure AI 內容安全服務現在可透過 C# SDK 取得。 SDK 可於 NuGet取得。 請遵循快速入門以開始使用。

2023 年 5 月

Azure AI 內容安全公開預覽版

Azure AI 內容安全性會偵測可能具冒犯性、有風險或不想要的資料。 此服務提供最新的文字和影像模型，可偵測有問題的內容。 Azure AI 內容安全可協助讓應用程式和服務更安全，免於有害的使用者產生和 AI 產生的內容。 請遵循快速入門以開始使用。

Azure AI 服務更新

Azure AI 服務的 Azure 更新公告