通过


配置通信合规性策略以检测生成 AI 交互

重要

Microsoft Purview 通信合规性提供的工具可帮助组织检测法规合规性 (例如 SEC 或 FINRA) 和业务行为违规行为,例如敏感或机密信息、骚扰或威胁性语言以及成人内容的共享。 通信合规性是在设计上以隐私为构建的。 用户名默认为假名,内置基于角色的访问控制,管理员选择调查人员,审核日志已到位,以帮助确保用户级隐私。

可以使用通信合规性来分析交互 (提示和响应,) 检测不适当或有风险的交互,或者共享输入到许多生成 AI 应用程序中的机密信息。

这些应用程序包括 Microsoft 365 Copilot、使用Microsoft Copilot Studio构建的 Copilot、通过Microsoft EntraMicrosoft Purview 数据映射连接器连接的 AI 应用程序等。

提示

开始使用智能 Microsoft Security Copilot 副驾驶®,探索使用 AI 功能更智能、更快速地工作的新方法。 详细了解 Microsoft Purview 中的智能 Microsoft Security Copilot 副驾驶®

Microsoft Copilot体验

重要

若要检测非Microsoft 365 AI 数据的不适当或有风险的交互,必须在组织中启用 即用即付计费 。 非Microsoft 365 AI 数据包括来自Microsoft和连接的外部 AI 应用程序的其他生成 AI 应用程序的信息。 此数据类型包括 Microsoft Fabric 中的 Copilot智能 Microsoft Security Copilot 副驾驶®Microsoft Copilot Studio,以及任何连接或云 AI 应用程序。 Microsoft 365 检测 Microsoft 365 Copilot 数据的不适当或风险交互时,没有即用即付计费要求或费用。

通信合规性可以检测与 IPM 的任何消息中的交互。SkypeTeams.Message.Copilot。应用程序 项类。 这些项目类包括 Teams、Outlook 等Microsoft解决方案中的 Copilot 应用程序。

例如,通信合规性检测 Copilot 消息中与 IPM 的交互。SkypeTeams.Message.Copilot.Teams、IPM。SkypeTeams.Message.Copilot.Outlook 项目类等。

连接的生成 AI 应用程序

重要

若要检测连接的生成 AI 应用程序的不适当或有风险的交互,必须在组织中启用 即用即付计费

通信合规性可以检测与非 Copilot AI 应用程序的提示和响应交互。 这些应用程序是使用Microsoft EntraMicrosoft Purview 数据映射连接器连接的生成 AI 应用程序。

其他 AI 应用程序

重要

若要检测其他 AI 应用程序的不适当或有风险的交互,组织必须启用 即用即付计费

通信合规性还可以检测组织中的用户从浏览器和网络活动中与 AI 应用程序的交互。 此功能可帮助你检测用户进入组织外部 AI 应用程序的不适当或有风险的交互或机密信息的共享。

先决条件

若要调查通信合规性中的 Copilot 交互,必须分配以下角色之一:

  • 通信合规性
  • 通信合规性调查员
  • 通信合规性分析师

在策略创建期间,还必须在“审阅者”字段中将你分配为策略的审阅者

运作方式

重要

Microsoft致力于确保人工智能 (人工智能) 系统得到负责任的开发,并保证人们的信任。 作为此承诺的一部分,Microsoft Purview 工程团队实施 Microsoft负责任 AI 战略的六项核心原则,以设计、构建和管理 AI 解决方案。 为了负责任地部署 AI,我们提供文档、基于角色的访问、方案证明等,以帮助组织负责任地使用 AI 系统。

创建可检测Microsoft 365 Copilot 和智能 Microsoft 365 Copilot 副驾驶® 对话助手交互的通信合规性策略时,可以利用所有通信合规性功能,包括:

用户在受支持的生成 AI 应用中输入且与通信合规性策略匹配的任何提示或响应在“挂起”选项卡上的“策略”页上显示为策略匹配项,其中包含单独的提示和响应条目。 如果只有提示或只有响应与某个策略匹配,“ 挂起 ”选项卡仅显示该策略匹配项。 可以采用与修正任何其他策略匹配相同的方式修正生成 AI 应用的策略匹配项。

AI 策略匹配项的“ 挂起 ”选项卡上的每个项都显示以下信息:

  • 图标:Copilot 图标将策略匹配标识为与基于 Microsoft 的 Copilot 的生成 AI 交互对于所有其他生成 AI 交互,此图标是电子邮件图标。
  • 主题列:此列中的 [Copilot] 值将策略匹配标识为与基于 Microsoft Copilots 的生成 AI 交互。 此列中的 [AI 应用] 值标识所有其他生成 AI 交互的策略匹配项。
  • 发件人列:邮件的发件人。 根据源 AI 应用程序,发送方如下所示:
    • 如果策略匹配是来自 Copilot 应用程序的响应,则值为 Copilot
    • 如果策略匹配是来自已连接 AI 应用程序的响应,则值为 Connected AI 应用
    • 如果策略匹配是来自云 AI 应用程序的响应,则值为 “云 AI 应用”。
  • 收件人列:邮件中包含的收件人。 此值是与 AI 应用程序交互的用户。
  • 消息文本:用户输入的消息文本 (导致策略匹配的文本) 全部显示在屏幕右侧。

创建检测Microsoft Copilot交互的策略

  1. 使用 Microsoft 365 组织中的管理员帐户的凭据登录到 Microsoft Purview 门户
  2. 转到通信合规性解决方案。
  3. 在左侧导航栏中选择“ 策略 ”。
  4. 选择“创建策略”,然后选择“检测Microsoft Copilot交互”模板。
  5. 输入策略名称,选择要应用策略的用户和组,然后选择策略的审阅者。 从模板创建策略时详细了解这些选项
  6. 根据模板查看为你选择的设置列表。 选择“ 创建策略 ”以创建策略,或者如果要在创建策略之前进行任何更改,请选择“ 自定义 策略”。

添加生成 AI 应用作为现有策略的位置

  1. 使用 Microsoft 365 组织中的管理员帐户的凭据登录到 Microsoft Purview 门户

  2. 转到通信合规性解决方案。

  3. 在左侧导航栏中选择“ 策略 ”。

  4. 在要更改的策略的行中选择“ 更多作 (省略号) ”,然后选择“ 编辑”。

  5. 在策略创建工作流中选择 “下一步 ”两次,转到 “选择要检测通信的位置 ”页。

  6. 选中以下一个或多个复选框,将生成 AI 应用程序添加为位置:

    • Microsoft Copilot体验
    • 企业 AI 应用
    • 其他 AI 应用
  7. 对策略进行任何其他更改,然后在“ 查看并完成 ”页上,选择“ 保存”。

创建策略以查看所有生成 AI 交互

首次使用生成 AI 交互时,请考虑查看所有 AI 交互,以了解组织中的人员如何使用这些应用程序。 创建或编辑策略时,若要创建可查看所有生成 AI 交互的策略:

  • 将位置设置为包含所有生成 AI 应用程序:

    • Microsoft Copilot体验
    • 企业 AI 应用
    • 其他 AI 应用
  • 将“选择条件和 审阅百分比 ”页上的 “审阅百分比 ”选项设置为 100%。

  • 不要为策略设置任何条件。

注意

根据组织的规模,检测所有生成 AI 交互的策略可能会导致大量检测到的消息。 此卷可能导致组织达到其 存储限制。 如果出现此问题,请调整策略以减少检测数。

修正包含生成 AI 交互的策略匹配项和警报

修正包含生成 AI 交互的策略匹配和警报,与修正通信合规性中的任何策略匹配或警报的方式相同。 例如,可以标记、升级、解决、下载或导出策略匹配项。 在通信合规性中详细了解如何解决策略匹配项和警报

报表

你引入通信合规性策略范围的 AI 交互会显示在通信合规性报告和审核数据中。 详细了解通信合规性报告和审核

另请参阅