适用于生成式 AI 应用的 Microsoft Purview 数据安全性和合规性保护

Microsoft 365 安全 & 合规性许可指南

使用 Microsoft Purview 来缓解和管理与 AI 使用相关的风险,并实现相应的保护和治理控制。

本页上的以下部分概述了适用于 AI 的数据安全状况管理以及Microsoft Purview 功能,这些功能提供了额外的数据安全性和合规性控制,以加速组织采用 Copilots 和代理以及其他生成 AI 应用。

在某些Microsoft Purview 解决方案中,你可能会看到受支持的 AI 应用按以下类别名称分组:

  • 适用于支持的 Copilot 和代理的 Copilot 体验和代理或Microsoft Copilot体验,其中包括:

    • Microsoft 365 Copilot
    • Security Copilot
    • Fabric 中的 Copilot
    • Copilot Studio
  • 适用于通过 Entra 注册、数据连接器、Azure AI Foundry和其他方法连接到组织的非 Copilot AI 应用和代理的企业 AI 应用,包括:

    • Entra-registered AI 应用
    • ChatGPT Enterprise
    • Azure AI 服务
  • 其他通过浏览器活动检测到并在Defender for Cloud Apps目录中分类为“生成 AI”的 AI 应用,包括:

    • ChatGPT
    • 谷歌双子座
    • Microsoft Copilot (使用者版本)
    • DeepSeek

有关Microsoft Purview 安全性与合规性支持的 AI 交互功能(按应用)的细目,请参阅下表中标识的其他页面。 在这些 AI 应用支持代理的情况下,它们继承了与其父 AI 应用相同的安全性和合规性功能。 但是,有关快速摘要,请参阅 使用 Microsoft Purview 管理 AI 代理的数据安全性 & 合规性

Copilot 体验和代理 企业 AI 应用 其他 AI 应用
智能 Microsoft 365 Copilot 副驾驶® & 智能 Microsoft 365 Copilot 副驾驶® 对话助手 Entra-registered AI 应用 其他 AI 应用
Microsoft Security Copilot Azure AI 服务
Fabric 中的Microsoft Copilot ChatGPT Enterprise
Microsoft Copilot Studio
Microsoft主持人

如果不熟悉 Microsoft Purview,可能还会发现产品概述很有帮助: 了解 Microsoft Purview

Microsoft Purview 适用于 AI 的数据安全状况管理

使用适用于 AI 的 Microsoft Purview 数据安全状况管理 (DSPM) 作为在企业中发现、保护和应用 AI 使用情况的合规性控制。 此解决方案使用 Microsoft Purview 信息保护和合规性管理中的现有控制,以及易于使用的图形工具和报表,快速深入了解组织中的 AI 使用情况。 通过个性化建议,一键式策略可帮助你保护数据并符合法规要求。

有关详细信息,请参阅了解 ai 数据安全状况管理 (DSPM)

Microsoft Purview 增强了 AI 应用的信息保护

由于 AI 可以主动呈现内容,因此生成 AI 可以放大过度共享或泄露数据的问题和风险。 了解 Microsoft Purview 的信息保护功能如何帮助增强现有数据安全解决方案。

敏感度标签和 AI 交互

Microsoft Purview 支持的 AI 应用使用 现有控件来确保存储在租户中的数据永远不会返回 给用户,也不会被大型语言模型 (LLM) 使用(如果用户无权访问该数据)。 当数据将组织的 敏感度标签 应用于内容时,会有一层额外的保护:

  • 在 Outlook 中打开Word、Excel、PowerPoint 或类似的电子邮件或日历事件中打开文件时,数据敏感度会显示给应用中的用户,其中包含标签名称和内容标记 (,例如为标签配置的页眉或页脚文本) 。 Loop组件和页面也支持相同的敏感度标签

  • 当敏感度标签应用加密时,用户必须具有 EXTRACT 使用权限以及 VIEW,AI 应用才能返回数据。

  • 在 Office 应用(正在使用的数据)中打开时,此保护将扩展到Microsoft 365租户外部存储的数据。 例如,本地存储、网络共享和云存储。

提示

如果尚未启用,建议为 SharePoint 和 OneDrive 启用敏感度标签,同时熟悉这些服务可以处理的文件类型和标签配置。 如果未为这些服务启用敏感度标签,则 Copilot 和代理可以访问的加密文件仅限于从 Windows 上的 Office 应用使用的数据。

有关说明,请参阅 在 SharePoint 和 OneDrive中为 Office 文件启用敏感度标签。

如果尚未使用敏感度标签,请参阅 敏感度标签入门

不使用敏感度标签和 AI 交互的加密

即使敏感度标签未应用于内容,服务和产品也可能使用 Azure Rights Management 服务中的加密功能。 因此,在将数据和链接返回给用户之前,AI 应用仍可以检查 VIEW 和 EXTRACT 使用权限,但不会自动继承对新项的保护。

提示

当你始终使用敏感度标签来保护数据,并且加密由标签应用时,你将获得最佳用户体验。

可以使用 Azure Rights Management服务中的加密功能而不带敏感度标签的产品和服务示例:

  • Microsoft Purview 邮件加密
  • Microsoft信息Rights Management (IRM)
  • Microsoft 权限管理连接器
  • Microsoft Rights Management SDK

对于不使用 Azure Rights Management服务的其他加密方法:

  • 受 S/MIME 保护的电子邮件不会由 Copilot 返回,并且当受 S/MIME 保护的电子邮件打开时,Copilot 在 Outlook 中不可用。

  • AI 应用无法访问受密码保护的文档,除非用户已在同一应用中打开这些文档, (正在使用) 的数据。 密码不是由目标项继承的。

与其他 Microsoft 365 服务(如电子数据展示和搜索)一样,使用 Microsoft Purview 客户密钥你自己的根密钥 (BYOK) 加密的项目受 Copilot 支持并有资格返回。

数据丢失防护和 AI 交互

Microsoft Purview 数据丢失防护 (DLP) 可帮助你跨Microsoft 365 服务和终结点识别敏感项,对其进行监视,并帮助防止这些项泄露。 它使用深度内容检查和上下文分析来识别敏感项目,并强制实施策略来保护敏感数据,例如财务记录、健康信息或知识产权。

可以将 载入到 Microsoft Purview 的 Windows 计算机配置为终结点数据丢失防护 (DLP) 策略来警告或阻止用户与通过浏览器访问的第三方生成 AI 站点共享敏感信息。 例如,用户无法将信用卡数字粘贴到ChatGPT,或者用户看到可以替代的警告。 有关支持的 DLP作以及哪些平台支持它们的详细信息,请参阅表中的前两行,这些行来自 可以监视和对其执行作的 Endpoint 活动

此外,限定为 AI 位置的 DLP 策略可以限制 AI 应用处理敏感内容。 例如,DLP 策略可以限制智能 Microsoft 365 Copilot 副驾驶®基于敏感度标签(如“高度机密”)汇总文件。 启用此策略后,智能 Microsoft 365 Copilot 副驾驶®和代理不会汇总标记为“高度机密”的文件,但可以使用链接引用它,以便用户可以使用Word打开和查看内容。 有关包括哪些 AI 应用支持此 DLP 配置的详细信息,请参阅了解智能 Microsoft 365 Copilot 副驾驶®策略位置

内部风险管理和 AI 交互

Microsoft Purview 内部风险管理可帮助你检测、调查和缓解内部风险,例如 IP 盗窃、数据泄露和安全违规。 它利用机器学习模型以及来自 Microsoft 365 和第三方指标的各种信号来识别潜在的恶意或无意内部活动。 该解决方案包括隐私控制,如假名化和基于角色的访问,确保用户级别的隐私,同时使风险分析师能够采取适当的作。

使用 风险 AI 使用策略模板 来检测风险使用情况,包括即时注入攻击和访问受保护的材料。 来自这些信号的见解集成到Microsoft Defender XDR中,以提供 AI 相关风险的全面视图。

数据分类和 AI 交互

Microsoft Purview 数据分类提供了一个全面的框架,用于识别和标记各种Microsoft服务的敏感数据,包括Office 365、Dynamics 365和 Azure。 对数据进行分类通常是确保符合数据保护法规并防止未经授权的访问、更改或破坏的第一步。 可以使用内置系统分类或创建自己的系统分类。

敏感信息类型和可训练分类器可用于在用户使用 AI 应用时在用户提示和响应中查找敏感数据。 然后,生成的信息会显示在适用于 AI 的数据安全状况管理中的数据分类仪表板和活动资源管理器中

Microsoft Purview 支持 AI 应用的合规性管理

可以针对租户中的每个用户监视使用支持的 AI 应用的交互。 因此,可以结合数据分类,使用 Microsoft Purview 的审核、通信合规性、带内容搜索的电子数据展示以及数据生命周期管理中的自动保留和删除功能来管理此 AI 使用情况。

审核和 AI 交互

Microsoft Purview 审核解决方案提供了全面的工具,用于搜索和管理用户和管理员在各种Microsoft服务中执行的活动的审核记录,并帮助组织有效地响应安全事件、取证调查、内部调查和合规性义务。

与其他活动一样,提示和响应在 统一审核日志中捕获。 事件包括用户与 AI 应用交互的方式和时间,可以包括活动发生的Microsoft 365 服务,以及对在交互期间访问的 Microsoft 365 中存储的文件的引用。 如果这些文件应用了敏感度标签,也会捕获该标签。

这些事件会流入 适用于 AI 的数据安全状况管理 中的活动资源管理器,可在其中显示来自提示和响应的数据。 还可以使用 Microsoft Purview 门户中审核解决方案来搜索和查找这些审核事件。

有关详细信息,请参阅 Copilot 和 AI 活动的审核日志

通信合规性和 AI 交互

Microsoft Purview 通信合规性提供的工具可帮助你检测和管理跨各种通信渠道(包括 AI 应用的用户提示和响应)的法规合规性和业务行为违规行为。 默认情况下,它设计为隐私,将用户名化名并合并基于角色的访问控制。 该解决方案有助于识别和修正不适当的通信,例如共享敏感信息、骚扰、威胁和成人内容。

若要详细了解如何将通信合规性策略用于 AI 应用,请参阅 配置通信合规性策略以检测生成 AI 交互

包含内容搜索和 AI 交互的电子数据展示

Microsoft Purview 电子数据展示可以识别和提供可在法律案件中用作证据的电子信息。 Microsoft Purview 中的电子数据展示工具支持在 Exchange Online、OneDrive for Business、SharePoint Online、Microsoft Teams、Microsoft 365 组 和 Viva Engage 团队中搜索内容。 然后,可以阻止删除和导出信息。

由于 AI 应用的用户提示和响应存储在用户的邮箱中,因此可以在用户邮箱被选为 搜索 查询的源时创建事例并使用搜索。 例如,选择源邮箱中的此数据,方法是从查询生成器中选择 “添加条件>类型>等于任何>”添加/删除更多“选项>”“Copilot 交互”。

优化搜索后,可以导出结果或添加到 审阅集。 可以直接从审阅集中查看和导出信息。

若要详细了解如何标识和删除用户 AI 交互数据,请参阅 在电子数据展示中搜索和删除 Copilot 数据

数据生命周期管理和 AI 交互

Microsoft Purview 数据生命周期管理提供了工具和功能,通过保留必要的内容和删除不必要的内容来管理组织数据的生命周期。 这些工具可确保符合业务、法律和法规要求。

使用 保留策略 自动保留或删除 AI 应用的用户提示和响应。 有关此保留工作的详细信息,请参阅 了解 Copilot & AI 应用的保留

与所有保留策略和保留一样,如果同一位置的多个策略适用于用户, 则保留原则 可解决任何冲突。 例如,数据在所有应用的保留策略或电子数据展示保留的最长持续时间内保留。

合规性管理器和 AI 交互

Microsoft Purview 合规性管理器 是一种解决方案,可帮助你跨多云环境自动评估和管理合规性。 合规性管理器可以帮助你完成合规性之旅,从清查数据保护风险到管理实现控制的复杂性、及时了解最新法规和认证、以及向审核员报告。

为了帮助你遵守 AI 法规,合规性管理器提供了法规模板,帮助你评估、实施和加强所有生成 AI 应用的合规性要求。 例如,监视 AI 交互并防止 AI 应用程序中的数据丢失。 有关详细信息,请参阅 AI 法规评估

其他文档,可帮助你保护和管理生成 AI 应用

博客文章公告: 使用下一代安全性和治理功能加速 AI 采用

智能 Microsoft 365 Copilot 副驾驶®:

相关资源: