你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。
Azure AI 内容安全中的新增功能
了解服务中的新增功能。 这些内容可能包括发布说明、视频、博客文章和其他类型的信息。 为此页添加书签可了解最新的新功能、增强功能、修补程序和文档更新。
2024 年 3 月
Prompt Shields 公共预览版
这一更新功能（以前称为“越狱风险检测”）可检测用户提示注入攻击，在这种攻击中，用户会故意利用系统漏洞从大型语言模型中诱发未经授权的行为。 Prompt Shields 分析直接用户提示攻击和嵌入在输入文档或图像中的间接攻击。 有关详细信息，请参阅 Prompt Shields。
有据性检测公共预览版
有据性检测 API 检测大型语言模型 (LLM) 的文本响应是否以用户提供的源材料为依据。 无据性是指 LLM 生成的信息与源材料中的信息不符或不准确。 有关详细信息，请参阅有据性检测。
2024 年 1 月
内容安全 SDK GA
Azure AI 内容安全服务现已通过以下客户端库 SDK 正式发布：
- C#：包 | API 参考 | 示例 | 快速入门：文本、图像
- Python：包 | API 参考 | 示例 | 快速入门：文本、图像
- Java：包 | API 参考 | 示例 | 快速入门：文本、图像
- JavaScript：包 | API 参考 | 示例 | 快速入门：文本、图像
重要
Azure AI 内容安全 SDK 的公共预览版将于 2024 年 3 月 31 日弃用。 请更新应用程序以使用 GA 版本。
2023 年 11 月
越狱风险和受保护材料检测（预览版）
通过新的越狱风险检测和受保护材料检测 API，你能够在使用生成式 AI 时缓解一些风险。
美国东部和欧洲西部 Azure 区域提供越狱风险和受保护材料检测。
2023 年 10 月
Azure AI 内容安全现已正式发布 (GA)
Azure AI 内容安全服务现已正式发布为云服务。
- 该服务可在更多 Azure 区域中使用。 有关列表，请参阅概述。
- Analyze API 的返回格式已更改。 有关最新示例，请参阅快速入门。
- 多个 API 的名称和返回格式已更改。 有关重大更改的完整列表，请参阅迁移指南。 其他指南和快速入门现在反映了 GA 版本。
Azure AI 内容安全 Java 和 JavaScript SDK
Azure AI 内容安全服务现已通过 Java 和 JavaScript SDK 提供。 这些 SDK 可在 Maven 和 npm 上获取。 按快速入门的说明开始操作。
2023 年 7 月
Azure AI 内容安全 C# SDK
Azure AI 内容安全服务现已通过 C# SDK 提供。 可在 NuGet 上获取该 SDK。 按快速入门的说明开始操作。
2023 年 5 月
Azure AI 内容安全公开预览版
Azure AI 安全内容服务可检测包含潜在攻击性内容、风险内容或其他不良内容的材料。 这项服务提供了最先进的文本和图像模型，可以检测有问题的内容。 Azure AI 安全内容服务可帮助提高应用程序和服务的安全性，免受用户生成和 AI 生成的有害内容影响。 按快速入门的说明开始操作。