使用代理扩展智能 Microsoft 365 Copilot 副驾驶®时,可以根据提示、聊天历史记录和Microsoft 365 数据与代理共享查询,以生成响应或完成命令。 使用智能 Microsoft 365 Copilot 副驾驶®连接器 (以前Microsoft Graph 连接器) 扩展智能 Microsoft 365 Copilot 副驾驶®时,外部数据将引入到 Microsoft Graph 中,并保留在租户中。 本文概述了在内部和商业开发人员中开发不同 Copilot 扩展性解决方案时的数据隐私和安全注意事项。
代理和作
智能 Microsoft 365 Copilot 副驾驶®中的代理单独受其使用条款和隐私策略的约束。 作为 (插件) 开发人员的代理和作,你负责保护服务范围内的客户数据,并提供有关用户个人信息策略的信息。 然后,管理员和用户可以在应用商店中查看 你的隐私策略 和 使用条款 ,然后选择添加或使用你的代理。
将业务工作流作为 Copilot 的代理集成后,外部数据将保留在应用中;它不会流入 Microsoft Graph,也不用于训练智能 Microsoft 365 Copilot 副驾驶® LLM。 但是,Copilot 会根据用户的提示和与 Copilot 的对话历史记录以及用户在 Microsoft 365 中有权访问的数据,生成一个搜索查询,以代表用户发送到代理。
确保 Microsoft 365 中声明性代理的安全实现
Microsoft 365 个客户和合作伙伴可以构建声明性代理,通过声明性代理配置的 REST API 说明调用自定义说明、地面知识和作来扩展智能 Microsoft 365 Copilot 副驾驶®。 在运行时,智能 Microsoft 365 Copilot 副驾驶®用户提示、属于声明性代理的自定义指令以及自定义作提供的数据的组合的原因。 所有这些数据都可能影响系统的行为,并且此类处理会带来安全风险。 具体而言,如果自定义作可以提供来自不受信任的源 (的数据,例如电子邮件或支持票证) ,攻击者可能能够创建一个消息有效负载,使代理的行为方式由攻击者控制,例如错误地回答问题,甚至调用自定义作。 Microsoft采取许多措施来防止此类攻击。 此外,组织应仅启用使用受信任知识源并通过自定义作连接到受信任的 REST API 的声明性代理。 如果需要使用不受信任的数据源,请在设计声明性代理时考虑到泄露的可能性,并且不要赋予它执行敏感作的能力,而无需仔细人工干预。
Microsoft 365 为组织提供了广泛的控制,用于控制谁可以获取和使用集成应用,以及为Microsoft 365 租户中的组或个人(包括使用声明性代理的应用)启用哪些应用。 使用户能够创建自己的声明性代理的 Copilot Studio 等工具还包括允许管理员管理用于知识和自定义作的连接器的广泛控制。
Copilot 连接器
Microsoft 365 Copilot 仅显示每个人可以访问的数据,且使用与其他 Microsoft 365 服务中使用的数据访问相同的基础控件。 Microsoft Graph 遵循基于用户标识的访问边界,以便 Copilot 地面进程仅访问当前用户有权访问的内容。 对于从 Copilot 连接器引入的 Microsoft Graph 中的外部数据也是如此。
使用 Copilot 连接器将外部数据连接到 Copilot 时,数据将流入 Microsoft Graph。 可以通过将访问控制列表 (ACL) 与Microsoft Entra用户和组 ID 或外部组相关联来管理查看外部项目的权限。
通过 Microsoft Graph 访问的提示、回复和数据不用于培训基础 LLM,包括 Microsoft 365 Copilot 使用的 LLM。
业务线开发人员注意事项
智能 Microsoft 365 Copilot 副驾驶®仅与 Microsoft 365 管理员为 Copilot 启用的代理或连接器共享和搜索数据。作为 Copilot 扩展性解决方案的业务线开发人员,请确保你和管理员熟悉:
- Microsoft 365 Copilot 要求
- 智能 Microsoft 365 Copilot 副驾驶® 管理文档的数据、隐私和安全性
- 将零信任原则应用到智能 Microsoft 365 Copilot 副驾驶®智能 Microsoft 365 Copilot 副驾驶®部署计划的零信任原则
- Microsoft 365 管理中心过程:
独立软件发布者的注意事项
将应用包提交到 Microsoft 合作伙伴中心 Microsoft 365 和 Copilot 计划需要满足认证策略才能接受 365 个产品内商店Microsoft。 Microsoft有关隐私、安全性和负责任的 AI 的认证策略和指南包括: