随着 AI 驱动的代理成为我们工作和创建方式不可或缺的一部分，Windows 致力于使这些体验对个人和企业更加高效和安全。 最近，我们宣布将每台Windows 11电脑打造为 AI 电脑，使强大的 AI 在Windows 11上变得轻松。 我们引入的新体验之一是称为 Copilot Actions 的实验性功能。 Copilot Actions on Windows 11 以我们在 5 月份的公告为基础，在该公告中，我们在网上宣布 Copilot Actions 允许 Copilot 代表您采取实际作，例如在最喜欢的餐厅预订餐桌或订购杂货。
即将面向 Copilot Labs 中的 Windows 预览体验成员，我们将预览 Copilot Actions 的实验模式，以扩展到浏览器之外，直接对 Windows 中的本地文件执行作。
什么是 Copilot Actions？
Copilot Actions 是一种 AI 代理 ，它通过与应用和文件交互、使用视觉和高级推理来像人类一样单击、键入和滚动，为你完成任务。 此功能可将代理从被动助理转换为主动数字协作者，这些协作者可以执行复杂的任务来提高效率和工作效率，例如更新文档、组织文件、预订票证或发送电子邮件。 授予代理访问权限后，与 Windows 集成后，代理可以利用电脑上已有的内容（如应用和数据）为你完成任务。
为什么安全很重要
代理 AI 目前具有强大的功能。 例如，它可以在响应用户提示时完成许多复杂任务，从而转换用户与其电脑的交互方式。 当我们引入新功能时，AI 模型在行为方式方面仍面临功能限制。 有时，它们可能不正确，并产生意外的输出。 此外，代理 AI 应用程序引入了新的安全风险，例如跨提示注入 (XPIA) ，其中嵌入 UI 元素或文档中的恶意内容可以替代代理指令，从而导致意外作，例如数据外泄或恶意软件安装。 有关详细信息 ，请参阅保护模型上下文协议：在 Windows 上构建更安全的代理未来 。 当我们开始在 Windows 中构建代理功能时，我们的承诺是包括强大的安全和隐私控制，使客户能够在明确的指导和适当的防护措施的支持下自信地探索其潜力。
代理安全和隐私原则
解决 AI 代理的安全挑战需要遵守一组强有力的安全原则，以确保代理的行为符合用户意图并保护其敏感信息。 我们正在建立一组持久的安全和隐私原则，你必须满足这些原则才能在 Windows 中使用新的代理功能：
- 不同的代理帐户：我们正在创建 Windows 中的代理使用与设备上的用户帐户不同的专用代理帐户进行作的功能。 此功能可促进特定于代理的策略应用程序，该策略应用程序可以不同于应用于其他帐户（例如人类用户的规则）。 可以像与设备上的其他用户（如家庭或同事）共享对文件和其他资源的访问权限，以共享这些专用代理帐户。
- 受限代理权限：代理以有限权限开头，仅获取对显式提供权限的资源（例如本地文件）的访问权限。 代理的作有一个明确定义的边界，并且它无法在没有你的干预的情况下对设备进行更改。 可以随时撤销此访问权限。
- 作信任：与 Windows 集成的代理必须由受信任的源签名，以便可以通过证书验证和防病毒等一系列深层防御措施撤销和阻止恶意或行为不佳的代理。
- 隐私保护设计：Windows 旨在帮助代理遵守Microsoft在Microsoft隐私声明和负责任的 AI Standard中做出的承诺。 Windows 仅支持代理出于明确定义的目的收集和处理数据，从而确保透明度和信任。 请参阅 Microsoft隐私报告 ，详细了解我们在负责任地推进 AI 的同时保护隐私和其他基本权利的承诺。
代理开发和 AI 相关安全仍然是一个快速发展的研究领域，Microsoft与更广泛的安全社区合作积极参与。 作为Microsoft 安全未来计划 承诺的一部分，帮助用户、企业和开发人员应对这些挑战是我们的首要任务，因为人们开始在日常工作流中与代理进行交互。
安全控制
Copilot Actions 将我们的安全和隐私原则付诸实践。 在预览版推出时，我们会不断学习和优化我们的方法。 我们添加了四个新的构建基块，Windows 11以支持此探索。 在预览期间，我们会继续添加更精细的安全和隐私控制，然后再使这些功能广泛可用：
- 用户控制：默认情况下禁用 Copilot作，仅当用户在“设置系统>AI 组件>代理工具>”>“试验性代理功能”中切换以下 Windows 设置时才启用。
- 代理帐户：代理代表你执行作时在设备上使用的独立标准帐户，用于启用代理级授权和访问控制。
- 代理工作区：一个包含的环境，代理可以与人类用户并行工作，从而实现运行时隔离和精细权限。 此环境为代理提供其自己的桌面等功能，同时限制代理对用户桌面活动的可见性和访问权限。 代理工作区基于已识别的安全边界，Microsoft根据我们长期的安全服务 标准进行防御。 有关代理工作区的详细信息，请参阅 实验代理功能 – 了解详细信息。
- 用户透明度：一种让用户在代理工作区中授权、监视和接管代理作的方法。
即将推出更多构建基块，例如Microsoft Entra和 MSA 标识支持。
由 Copilot Actions 驱动的应用程序和作在代理帐户下运行，而不是在已登录电脑用户的帐户下运行。 这种区别清楚地将代理完成的工作与系统上的其他作（例如电脑用户执行的作）区分开来。 仅当用户启用代理工作区时，才会预配代理帐户。
在 Copilot Actions 的实验预览版中，代理可以访问一组有限的用户本地已知文件夹（如文档、下载、桌面或图片），以及系统上所有帐户都可以访问的其他资源。 仅当用户提供授权时，Copilot Actions 才能访问这些文件夹外部的数据。 Standard Windows 安全机制（如访问控制列表 (ACL) ）可帮助防止未经授权的使用。
当 Copilot Actions 正在运行时，用户可以监视其进度、随时了解每个步骤的最新信息，并随时进行控制。 当涉及敏感作或重要决策时，Copilot Actions 可能会请求额外的用户批准以采取这些特定步骤 -- 确保其同意并在发生任何关键事件之前由他们负责。
展望未来
安全性是一项持续的承诺。 随着我们在 Windows 中扩展代理功能，我们将继续改进我们的防御。 随着即将在 Copilot 实验室中向 Windows 预览体验成员发布的 Copilot Actions 预览版，我们期待着收集有价值的反馈，帮助我们在更广泛的版本发布之前进一步塑造体验。 此外，Windows 平台及其安全控件将很快可供其他开发人员预览版进行测试并提供输入。
Windows 11是有史以来最安全的 Windows 版本。 随着我们进入这个新的代理时代，我们的承诺是明确的：Windows 将成为最安全、最受信任且以用户为中心的代理计算平台。