使用以下部分来确定使用浏览器到第三方 AI 站点的 AI 交互支持的 Microsoft Purview 功能 ,以及一些入门建议,用于管理这些 AI 交互以确保安全性和合规性。
管理与 Microsoft Purview 的这些 AI 交互需要你在组织中启用 即用即付计费 。
支持的功能
使用下表一目了然地了解第三方 AI 站点(如 ChatGPT、Google Gemini 和 DeepSeek)支持的 Microsoft Purview 功能。
除非对特定解决方案进行说明,否则支持的 AI 站点列表与DSPM支持的 AI 站点列表相同:Microsoft Purview 适用于 AI 的数据安全状况管理 支持的 AI 站点列表。
| Microsoft Purview 中的功能或解决方案 | 支持 AI 交互 |
|---|---|
| 适用于 AI 的DSPM (经典) 和DSPM (预览版) | ✓ |
| 审核 | ✓ |
| 数据分类 | ✓ |
| 敏感度标签 | ✕ |
| 不带敏感度标签的加密 | ✕ |
| 数据丢失防护 | ✓ |
| 内部风险管理 | ✓ |
| 通信合规性 | ✓ |
| 电子数据展示 | ✓ |
| 数据生命周期管理 | ✓ |
| 合规性管理器 | ✓ |
大多数受支持的功能和解决方案都需要 Microsoft Purview 浏览器扩展 和设备 载入到 Microsoft Purview。 例外是,具有自己的先决条件:
- 使用安全访问服务 Edge 或安全服务边缘集成,在网络层检测敏感信息类型的网络数据安全性。
- 浏览器数据安全性 ,用于检测 Edge 浏览器层的敏感信息类型,使用从 Purview 直接集成到 Edge 浏览器。
适用于 AI (经典) 和DSPM (预览) 的DSPM
使用适用于 AI 的数据安全状况管理 (经典) 或数据安全状况管理 (预览) 作为前端,以发现、保护和应用企业内 AI 使用情况的合规性控制。 这两个DSPM版本都使用 Microsoft Purview 信息保护和合规性管理中的现有控制措施,以及易于使用的图形工具和报表,以快速深入了解组织中的 AI 使用情况。 通过个性化建议和一键式策略,可帮助你保护数据并符合法规要求。
AI 应用特定的信息:
“概述”页中的“入门”部分包含安装 Microsoft Purview 浏览器扩展和设备载入过程所需的步骤和信息。
建议 获取 AI 法规的引导式帮助,该法规使用 合规性管理器中的控制映射法规模板。
一键式策略可用:
- 适用于 AI 的DSPM:检测从建议或修正作添加到 AI 站点的敏感信息 扩展数据发现的见解
- ai DSPM - 检测用户何时通过建议或修正作访问 AI 网站 扩展数据发现见解
- 适用于 AI 的DSPM - 从建议或修正作中检测 Edge 中的 AI 提示中共享的敏感信息扩展数据发现的见解
- 适用于 AI 的DSPM - 从建议或修正作中检测通过网络与 AI 共享的敏感信息:在 AI 应用交互中扩展对敏感数据的见解。
审核和 AI 交互
Microsoft Purview 审核解决方案提供了全面的工具,用于搜索和管理用户和管理员在各种Microsoft服务中执行的活动的审核记录,并帮助组织有效地响应安全事件、取证调查、内部调查和合规性义务。
与其他活动一样,提示和响应在 统一审核日志中捕获。 事件包括用户与 AI 应用交互的方式和时间,可以包括活动发生的Microsoft 365 服务,以及对在交互期间访问的 Microsoft 365 中存储的文件的引用。 如果这些文件应用了敏感度标签,也会捕获该标签。
这些事件从DSPM预览版流入DSPM中的活动资源管理器和活动资源管理器中的“AI 活动”选项卡,可在其中显示来自提示和响应的数据。 还可以使用 Microsoft Purview 门户中的审核解决方案来搜索和查找这些审核事件。
有关详细信息,请参阅 Copilot 和 AI 活动的审核日志。
AI 应用特定的信息:
- 使用安全访问服务 Edge 或安全服务边缘集成,使用网络数据安全性审核网络层的提示和响应。
数据分类和 AI 交互
Microsoft Purview 数据分类提供了一个全面的框架,用于跨各种Microsoft服务(包括Office 365、Dynamics 365和Azure)标识和标记敏感数据。 对数据进行分类通常是确保符合数据保护法规并防止未经授权的访问、更改或破坏的第一步。 可以使用内置系统分类或创建自己的系统分类。
敏感信息类型和可训练分类器可用于在用户使用 AI 应用时在用户提示和响应中查找敏感数据。 然后,生成的信息会显示在 Microsoft Purview 报告概述和活动资源管理器中DSPM for AI 中,以及活动资源管理器中预览版DSPM的 AI 活动选项卡。
AI 应用特定的信息:
- 使用安全访问服务 Edge 或安全服务边缘集成,使用网络数据安全性在网络层检测敏感信息类型。
- 使用 浏览器数据安全性 在 Edge 浏览器层检测敏感信息类型,并将 Purview 直接集成到 Edge 浏览器。
数据丢失防护和 AI 交互
Microsoft Purview 数据丢失防护 (DLP) 可帮助你跨Microsoft 365 服务和终结点识别敏感项,对其进行监视,并帮助防止这些项泄露。 它使用深度内容检查和上下文分析来识别敏感项目,并强制实施策略来保护敏感数据,例如财务记录、健康信息或知识产权。
可以将 载入到 Microsoft Purview 的 Windows 计算机配置为终结点数据丢失防护 (DLP) 策略来警告或阻止用户与通过浏览器访问的第三方生成 AI 站点共享敏感信息。 例如,用户无法将信用卡号码粘贴到 ChatGPT 中,或者用户看到可以替代的警告。 有关支持的 DLP作以及哪些平台支持它们的详细信息,请参阅表中的前两行,这些行来自 可以监视和对其执行作的 Endpoint 活动。
AI 应用特定的信息:
- 终结点 DLP 支持基于指定的敏感度标签阻止上传文件的选项。
内部风险管理和 AI 交互
Microsoft Purview 内部风险管理可帮助你检测、调查和缓解内部风险,例如 IP 盗窃、数据泄露和安全违规。 它利用机器学习模型以及来自 Microsoft 365 和第三方指标的各种信号来识别潜在的恶意或无意内部活动。 该解决方案包括隐私控制,如假名化和基于角色的访问,确保用户级别的隐私,同时使风险分析师能够采取适当的作。
使用 风险 AI 使用策略模板 来检测风险使用情况,包括即时注入攻击和访问受保护的材料。 来自这些信号的见解集成到Microsoft Defender XDR中,以提供 AI 相关风险的全面视图。
AI 应用特定的信息:
- 对于提示和响应,需要包含用于捕获内容的设置的收集策略。 有关详细信息,请参阅 集合策略解决方案概述。
通信合规性和 AI 交互
Microsoft Purview 通信合规性提供的工具可帮助你检测和管理跨各种通信渠道(包括 AI 应用的用户提示和响应)的法规合规性和业务行为违规行为。 默认情况下,它设计为隐私,将用户名化名并合并基于角色的访问控制。 该解决方案有助于识别和修正不适当的通信,例如共享敏感信息、骚扰、威胁和成人内容。
若要详细了解如何将通信合规性策略用于 AI 应用,请参阅 配置通信合规性策略以检测生成 AI 交互。
AI 应用特定的信息:
支持仅限于 Edge 浏览器,对于 ChatGPT、Microsoft聊天 (使用者版本) 、Google Gemini和 DeepSeek。
对于提示和响应,需要包含用于捕获内容的设置的收集策略。 有关详细信息,请参阅 集合策略解决方案概述。
使用安全访问服务 Edge 或安全服务边缘集成,使用网络数据安全性分析网络层的提示和响应。
电子数据展示和 AI 交互
Microsoft Purview 电子数据展示可以识别和提供可在法律案件中用作证据的电子信息。 Microsoft Purview 中的电子数据展示工具支持在 Exchange Online、OneDrive for Business、SharePoint Online、Microsoft Teams、Microsoft 365 组 和 Viva Engage 团队中搜索内容。 然后,可以阻止删除和导出信息。
由于 AI 应用的用户提示和响应存储在用户的邮箱中,因此可以在用户邮箱被选为 搜索 查询的源时创建事例并使用搜索。 例如,通过从查询生成器中选择“ 添加条件>类型>包含任何>编辑>Copilot 活动”,从源邮箱中选择并检索此数据。 此查询条件包括所有 Copilot 和其他 AI 应用程序活动。
优化搜索后,可以导出结果或添加到 审阅集。 可以直接从审阅集中查看和导出信息。
若要详细了解如何标识和删除用户 AI 交互数据,请参阅 在电子数据展示中搜索和删除 Copilot 数据。
AI 应用特定的信息:
支持仅限于 Edge 浏览器,对于 ChatGPT、Microsoft聊天 (使用者版本) 、Google Gemini和 DeepSeek。
对于提示和响应,需要包含用于捕获内容的设置的收集策略。 有关详细信息,请参阅 集合策略解决方案概述。
使用 网络数据安全性 分析网络层的提示和响应。
数据生命周期管理和 AI 交互
Microsoft Purview 数据生命周期管理提供了工具和功能,通过保留必要的内容和删除不必要的内容来管理组织数据的生命周期。 这些工具可确保符合业务、法律和法规要求。
使用 保留策略 自动保留或删除 AI 应用的用户提示和响应。 有关此保留工作的详细信息,请参阅 了解 Copilot & AI 应用的保留。
与所有保留策略和保留一样,如果同一位置的多个策略适用于用户, 则保留原则 可解决任何冲突。 例如,数据在所有应用的保留策略或电子数据展示保留的最长持续时间内保留。
AI 应用特定的信息:
支持仅限于 Edge 浏览器,对于 ChatGPT、Microsoft聊天 (使用者版本) 、Google Gemini和 DeepSeek。
对于保留策略,请选择“ 其他 AI 应用”选项。
对于提示和响应,需要包含用于捕获内容的设置的收集策略。 有关详细信息,请参阅 集合策略解决方案概述。
使用 网络数据安全性 在网络层保留提示和响应。
使用 浏览器数据安全性 在 Edge 浏览器层保留提示和响应。
合规性管理器和 AI 交互
Microsoft Purview 合规性管理器 是一种解决方案,可帮助你跨多云环境自动评估和管理合规性。 合规性管理器可以帮助你完成合规性之旅,从清查数据保护风险到管理实现控制的复杂性、及时了解最新法规和认证、以及向审核员报告。
为了帮助你遵守 AI 法规,合规性管理器提供了法规模板,帮助你评估、实施和加强所有生成 AI 应用的合规性要求。 例如,监视 AI 交互并防止 AI 应用程序中的数据丢失。 有关详细信息,请参阅 AI 法规评估。
建议的入门步骤
使用以下步骤开始管理使用浏览器到第三方 AI 站点的 AI 交互的数据安全性 & 合规性。
注意
这些步骤侧重于管理特定的 AI 应用或代理。 若要更广泛地将安全目标与引导工作流配合使用,请使用目前处于预览状态的新数据安全状况管理 。
由于适用于 AI 的数据安全状况管理是保护和管理 AI 交互的前门,因此以下说明使用该解决方案:
登录到 Microsoft Purview 门户>解决 方案>DSPM具有适当权限的帐户 (经典) 。 例如,属于Microsoft Entra合规性管理员组角色的帐户。
发现与其他 AI 应用交互时的潜在安全风险
从 DSPM for AI (经典) >概述中,在“入门”部分中,找到并执行以下所需步骤的作:
- 安装 Microsoft Purview 浏览器扩展
- 将设备载入到 Microsoft Purview
- 扩展见解以发现数据
如果需要有关浏览器扩展或其他载入要求的详细信息,请参阅适用于 AI 的数据安全状况管理先决条件。
有关使用扩展数据发现见解的选项自动创建的一键式策略的详细信息,请参阅使用 适用于 AI 的数据安全状况管理 的数据发现的默认策略以及具有扩展数据发现见解源的策略。
请至少等待一天的数据,然后导航到 “报表 ”页以查看策略的结果。 选择“ 其他 AI 应用 ”并查看如下信息:
- 一段时间内其他 AI 应用 (交互总数)
- 其他 AI 应用) (访问总数
- 每个 AI 应用的敏感交互数
- 内部风险严重性
- 每个 AI 应用的内部风险严重性
选择“查看每个报表图 的详细信息 ”,在活动资源管理器中查看详细活动。
根据不同的活动类型、AI 应用类别、应用和管理单元的范围等,选择可用的筛选器以查看 Copilot 体验 & 代理的结果。 然后向下钻取到每个活动以查看详细信息,包括当你是 Microsoft Purview 内容资源管理器内容查看器角色组的成员时显示提示和响应。 有关此要求的详细信息,请参阅适用于 AI 的数据安全状况管理的权限。
在与其他 AI 应用交互时保护敏感数据
在“DSPM for AI (经典) >建议”页的“未启动”下,选择“强化数据安全性”以创建以下一键式策略:
阻止高风险用户在 AI 网站上粘贴或上传敏感信息:此建议创建一个策略,该策略使用自适应保护来对尝试在 Edge、Chrome 和 Firefox 中的其他 AI 应用中粘贴或上传敏感信息的提升风险用户提供阻止和替代。 此策略涵盖组织中测试模式下的所有用户和组。
阻止风险提升的用户在 Microsoft Edge 中向 AI 应用提交提示:此建议指导你完成创建 Purview 数据丢失防护 (DLP) 策略的过程 ,以阻止使用 Microsoft Edge 时尝试将信息放入 AI 应用中的提升、中等风险和次要风险用户。
阻止与 Edge 中的 AI 应用共享敏感信息:此建议指导你完成创建 Purview 数据丢失防护 (DLP) 策略的过程 ,以内联检测所选的常见敏感信息类型,并在使用 Microsoft Edge 时阻止在 AI 应用中发送提示。
将合规性控制应用于与其他 AI 应用的交互
如果需要确保出于合规性原因保留与支持的其他 AI 应用的交互:
在 Microsoft Purview 门户中,导航到 “数据生命周期管理>策略>保留策略” ,通过选择位置“其他 AI 应用”并指定所需的保留期,创建保留策略以保留与其他 AI 应用的 交互。 有关详细信息,请参阅 创建和配置保留策略。
注意
仅 Edge 浏览器和 ChatGPT 支持保留期,Microsoft聊天 (使用者版本) 、Google Gemini 和 DeepSeek。
在 Microsoft Purview 门户中,导航到 电子数据展示>案例>创建案例。 在这种情况下, 请创建一个搜索 ,并使用 ItemClass 属性和
IPM.SkypeTeams.Message.ConnectedAIApp.Connector.<AppName>本地计算机活动的值或IPM.SkypeTeams.Message.CloudAIApp.SaaS.<AppID>基于浏览器的活动的值在组织中搜索这些交互。
定期查看 DSPM for AI 中的报告,以确定是否需要进行更改,并使用活动资源管理器和事件更深入地分析用户在使用浏览器到第三方 AI 站点时如何与其他 AI 应用交互。