规划数据、隐私和安全性

在规划插件时使用本文。 立即确定适用的要求,并在选择功能和开发工具后确认特定于组件的实现。

图表 开发 Copilot 可扩展性的主要注意事项:企业安全性和信任、负责任的 AI、高质量的用户体验、高价值功能

映射数据和操作流

记录信息如何进入、通过和离开解决方案。 包括提示、对话历史记录、Microsoft 365 数据、外部组织数据、生成的内容、操作、日志和支持数据。

潜在组件 规划问题
代理 代理可以使用哪些指令、知识、对话上下文、操作和外部服务?
技能 技能依赖于哪些指令、工作流程步骤、输入、输出和主机权限?
Copilot 连接器 外部数据是同步到 Microsoft Graph 还是通过联合连接检索? 如何强制执行对每个项目的访问权限?
基于 MCP 的功能 远程服务器公开哪些工具和资源? 哪些数据被发送到它,服务器在哪里运行?
API 或外部服务 涉及哪些操作、凭据、客户数据、日志和服务提供商?

确保在 Microsoft 365 中安全实现声明性代理

Microsoft 365 客户和合作伙伴可以构建声明性代理,使用自定义说明、基础知识以及通过声明式代理配置的 REST API 说明调用的操作扩展智能 智能 Microsoft 365 Copilot 副驾驶® 副驾驶®。 在运行时,智能 智能 Microsoft 365 Copilot 副驾驶® 副驾驶® 根据用户的提示、属于声明性代理的自定义指令和自定义操作提供的数据的组合进行推理。 所有这些数据都可能影响系统的行为,并且此类处理会带来安全风险。 具体而言,如果自定义操作可以提供来自不受信任的来源的数据, (例如电子邮件或支持票证) ,则攻击者可能会制作出消息有效负载,使代理以攻击者控制的方式运行,例如错误回答问题甚至调用自定义操作。 Microsoft 采取了许多措施来防止此类攻击。 此外,组织应仅启用使用受信任知识源并通过自定义操作连接到受信任 REST API 的声明性代理。 如果有必要使用不受信任的数据源,请在设计声明式代理时考虑到违规的可能性,并且不要让它能够在没有仔细的人为干预的情况下执行敏感操作。

Microsoft 365 为组织提供了广泛的控制,用于控制谁可以获取和使用集成应用,以及为 Microsoft 365 租户中的组或个人启用哪些应用,包括使用声明式代理的应用。 Copilot Studio 等工具使用户能够创建自己的声明式代理,还包括广泛的控件,允许管理员管理用于知识和自定义操作的连接器。

对于每个流,记录数据所有者、源、目标、位置、分类、保留、删除、加密、可用性和失败行为。

规划标识、身份验证和权限

识别:

  • 用户、应用程序、包、发布者、服务和管理员标识。
  • 所需的 Microsoft Entra 注册、权限、范围和同意。
  • 外部服务和远程 MCP 服务器的身份验证和连接要求。
  • 访问权限是委派的、基于应用程序的、服务到服务还是组合的。
  • 如何存储和轮换机密、证书、令牌、密钥和连接信息。
  • 当身份验证、授权或连接检查失败时解决方案的行为。

对每个组件和依赖项应用最低权限。 插件不会授予用户访问用户或组件无权访问的数据的权限。

规划数据保护和合规性

审查:

  • 数据收集、使用、存储、传输、保留、导出和删除。
  • 现有 Microsoft 365 权限、敏感度标签、数据丢失防护、保留、电子数据展示、审核和合规性控制。
  • 发送到外部服务、API、连接器和 MCP 服务器的数据和提示。
  • 区域、行业、合同、组织和客户要求。
  • 隐私声明、使用条款、支持披露和第三方服务提供商。
  • 监视和审核调查访问和活动所需的信息。

Microsoft Graph 和 Microsoft 365 服务对存储在这些服务中的数据强制实施适用的基于标识的访问边界。 外部托管的服务仍负责强制实施自己的标识、权限、隐私和合规性要求。

有关智能 智能 Microsoft 365 Copilot 副驾驶® 副驾驶®隐私信息,请参阅 智能 智能 Microsoft 365 Copilot 副驾驶® 副驾驶®的数据、隐私和安全性。 有关零信任规划,请参阅智能 智能 智能 Microsoft 365 Copilot 副驾驶® 副驾驶®的零信任。

规划相应操作和负责任的 AI

标识用于创建、更改、发送、批准、购买、删除或披露信息的操作。 对于每个相应操作,定义:

  • 允许的用户和条件。
  • 验证和授权检查。
  • 确认和人工监督要求。
  • 安全失败、重试、恢复和恢复行为。
  • 准确性、质量、安全性和误用的评估标准。
  • 监控、事件响应、升级和暂停过程。

有关详细信息,请参阅 负责任的 AI 验证 和 Microsoft 对负责任 AI 的承诺。

插件共享的治理和管理控制

在规划过程中,定义管理员和服务所有者所需的结果:

  • 查看插件、发布者、请求的访问权限、数据源、操作和外部服务。
  • 批准或拒绝购置、发布、共享或部署请求。
  • 将可用性分配给预期用户和组。
  • 配置所需的连接、权限、许可和组织策略。
  • 监视库存、活动、报告、消耗和审核信息。
  • 在要求发生变化时限制、阻止、删除或停用访问权限。

可用的控件和管理界面因组件和 Microsoft 体验而异。 在进行规划时确定所需的治理结果。 稍后选择支持的包和管理模型,并按照治理 插件访问和连接 进行操作指导。

规划预期分发范围

对于组织或业务线解决方案,让管理 Microsoft 365、Microsoft Entra、Microsoft Purview、Power Platform、外部服务和目标 Microsoft 体验的管理员和安全所有者参与进来。

对于公共或多租户解决方案,请规划面向客户的隐私声明、使用条款、发布者标识、客户同意、支持模型、安全响应和认证要求。 有关当前公共分发要求,请参阅:

将这些要求发扬光大

计划时,请跟踪:

  • 数据和操作流。
  • 标识、权限、同意和连接。
  • 信任边界和外部托管的依赖项。
  • 隐私、安全性、合规性和负责任的 AI 要求。
  • 治理结果和生命周期所有者。
  • 依赖于所选组件或工具的未解决需求。

在为插件选择功能和开发工具时,请使用这些要求。 实施后,通过 插件验证 和适用的产品特定安全与管理指南进行确认。

后续步骤