你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。
采用负责任且受信任的 AI 原则
Microsoft 负责任的 AI 的六项关键原则包括公平性、可靠性和安全性、隐私和保障、包容性、透明度和问责制。 使用这些原则来创建负责任且值得信赖的 AI，并在整个 AI 采用过程中将其集成到主流产品和服务中。
负责任的 AI 原则
Microsoft 致力于支持负责任的 AI 做法。
六项关键原则定义了负责任的 AI：
公平性：AI 系统应平等对待每个人，并向所有人提供相同的建议。 AI 系统中的公平性可防止基于个人特征的歧视。
可靠性和安全性：AI 系统必须在各种条件下可靠、安全、一致地运行，以帮助建立信任。
隐私和保障：AI 系统应尊重隐私，并通过保护私人和机密信息来维护安全。 他们还应该抵制破坏或损害系统的攻击和企图。
包容性：AI 系统应该支持每个人并吸引每个人参与。 包容性设计做法可以帮助 AI 系统开发人员了解和解决产品或服务中潜在的排斥障碍。 包容性促进创新，并帮助设计使每个人都受益的体验。
透明度：AI 系统应该是透明和易于理解的。 AI 系统可以为可能深刻影响人们生活的决策提供信息；因此了解系统如何做出这些决策对个人来说至关重要。
问责制：AI 系统及其开发人员应当承担责任。
在从战略和规划到实施的整个 AI 采用过程中纳入负责任的 AI 原则。 确保在保护、管理和治理 AI 计划时应用这些原则。
此 AI 采用指南包括如何使用适用于 Azure 的云采用框架来实现负责任的 AI 做法的示例。 在整个 AI 采用过程中，负责任的 AI 原则被纳入指导和建议中。
负责任的 AI 的重要性
负责任的 AI 有助于缓解以下风险：
意外的后果：规划和监督负责任的 AI 实施，以降低具有伦理影响的不可预见影响的风险。
不断演变的威胁：随着 AI 技术的发展，新威胁会定期出现。 为了帮助减轻这些威胁并保持领先地位，请遵守负责任的 AI 原则。
偏见：AI 中的偏见缓解可能具有挑战性；但对于确保 AI 系统公平公正是必要的。 使用负责任的 AI 原则来帮助指导你。
敏感技术：面部识别等技术被视为敏感技术，因为它们可能危及基本自由和人权。 考虑这些技术的影响，以确保你负责任地使用它们。
Azure 便利化
Microsoft Azure 提供了一系列工具、服务和资源，来帮助构建负责任的 AI 系统。
使用 Microsoft Azure AI 内容安全构建安全系统
使用 Microsoft Azure AI 内容安全检测应用程序和服务中有害的用户生成和 AI 生成的内容。 内容安全可帮助你分析 AI 应用程序中生成的内容，包括文本和图像，以确保其安全且适合你的用户。 内容安全提供以下功能：
Prompt shields 在大型语言模型 (LLM) 上扫描文本和文档，以检测用户输入攻击或越狱的风险。
基础性检测检测 LLM 的文本响应是否基于用户提供的源材料。
受保护材料检测检测 LLM 的文本响应是否包含受保护的材料，如受版权保护的文本、歌曲歌词、文章和 Web 内容。
自定义类别 (rapid) API 定义新出现的有害内容模式，并扫描文本和图像以查找匹配项。
分析文本 API分析可能有害的文本内容。 它通常标识仇恨、自残、性或暴力内容等类别。
分析图像 API 分析潜在的有害图像内容。 它通常标识仇恨、自残、性或暴力内容等类别。
在 Azure AI 服务中负责任地使用 AI
Microsoft 为 AI 相关的 Azure 服务提供了一份透明度说明列表。 该列表包括 Azure AI 服务套件中的服务。 有关详细信息，请参阅通过 Azure AI 服务负责任地使用 AI。
将负责任的 AI 仪表板用于 Azure 机器学习
如果使用 Azure 机器学习构建系统，则可以使用负责任的 AI 仪表板来评估 AI 系统。 负责任的 AI 仪表板提供了一个界面，帮助你实施负责任的 AI 原则。 一些负责任的 AI 功能包括：
数据分析：了解和浏览数据集分布及统计信息。
模型概述和公平性评估：评估模型的性能和模型的组公平性问题。
错误分析：查看并了解错误在数据集中的分布情况。
模型可解释性：了解模型的预测，以及模型如何做出单独和整体预测。
反事实 what-if 分析：观察特征的更改如何影响模型预测。
因果分析：使用历史数据查看治疗功能对实际结果的因果关系。
负责任地开发 AI
| 资源 | 说明 |
|---|---|
| 用于构建有效人类 AI 体验的实践工具 (HAX) | 在设计过程早期使用 HAX 工具包，帮助你概念化 AI 系统的作用及其行为方式。 将 HAX 工具包用于面向用户的 AI 产品。 |
| 对话 AI 指导原则 | 以赢得他人信任的方式设计机器人，帮助人们和社会充分发挥其潜力。 使用这些准则创建一个机器人，在它所代表的公司和服务中建立信任。 |
| 非独占 AI 设计准则 | 使用这些指南来帮助你设计包容性强、对每个人都可用的 AI。 |
| AI 公平清单 | 使用 AI 公平性核对清单来确定 AI 系统是否公平公正。 |
| 机器学习中负责任的 AI | 如果使用机器学习生成 AI 系统，请查看这些负责任的 AI 资源。 |