智能体运行时保护状态

在 Copilot Studio 的智能体页面上,创建者可以通过单一智能体级别状态判断已发布智能体是否符合安全和治理标准,并验证智能体的威胁检测是否已启用。 如需更多信息,请参阅:关键概念 - Copilot Studio 安全与治理

已发布智能体的安全状态显示在智能体页面上的保护状态列中。 通过将每个智能体的保护状态显示为受保护需求审查未知,制作者可以快速判断威胁检测是否处于活动状态,智能体是否受到保护。

显示“智能体”页面的屏幕截图,其中保护状态列已被圈出。

保护状态下已发布智能体可能拥有的值为受保护需求审查未知

当智能体的智能体级别状态为受保护时(基于检测到的信号),无需立即采取任何操作。 当状态为受保护时,会显示一个绿色盾牌,以突出该智能体已受保护的状态 (截图显示绿色盾牌保护图标。)。

当智能体级别状态为需要审核时,要么违反智能体策略,要么身份验证不充分。 无论状态如何,管理员均可向下钻取来查看智能体级别的摘要对话,获取智能体安全状况的分类详细信息。

保护状态列中选择智能体的状态,即可查看该智能体的保护状态摘要对话框。

保护状态摘要

在保护状态摘要对话框中,智能体的保护配置文件被分为三个类别:身份验证策略内容审核。 每个类别的状态可以是受保护需要审查未知,与智能体页面上的智能体级摘要状态相同。

此外,该对话框还显示因潜在威胁、策略违规以及内容审核设置违规而被拦截的消息数量。 潜在威胁可以是直接的,也可以是间接的。 例如,潜在威胁可能表现为用户使用管理员权限覆盖安全设置。 另外,潜在威胁也可能是被引用的知识来源。 所有已发布的智能体均默认启用威胁检测功能,并显示活跃标签。

与智能体级保护状态类似,如果身份验证策略违反了由您的智能体的安全设置所定义的公认安全标准,则在摘要对话框中该类别旁会显示需要审核标签。 如果这两个类别中的任何一个带有需要审核标签,该标签会汇总到智能体页面上的智能体级保护状态。

显示智能体级别保护摘要对话框的屏幕截图。

从智能体级别的摘要保护对话框中,如果您想查看更多详细信息,请选择查看详细信息以打开安全分析对话框。

安全分析

安全分析对话框显示有关被阻止消息的统计数据和趋势,以及智能体在身份验证、策略和内容审核等类别中的状态。

选择您想查看的安全分析数据日期范围。 如果某些日期范围内没有相关数据,则这些范围不会在日期范围选择器中显示为可选项。 从以下范围选项中选择:

  • 最近 7 天
  • 最近 14 天
  • 最近 30 天

显示“安全分析”对话框的屏幕截图。

阻止原因堆叠条形图会将配置时间范围内所有被阻止消息的总数,按不同阻止原因分解为彩色条形段,每个条形段的长度表示该原因所占的比例。 例如,在图表中,过去七天共有 496 条被阻止的消息。 在这些被阻止的消息中,79.6% 因被判定为潜在威胁(粉色条段)而被阻止,其中约 60% 为直接提示攻击。 通过快速查看会话阻断率趋势图,可以直观看出因潜在威胁检测而导致的消息阻断率在 5 月 23 日达到峰值。

会话阻断率趋势图表以趋势线形式展示在总会话数量中被阻断提示的占比随时间的变化。 三种保护类别中的每一种都分别以独立的、颜色编码的趋势线表示,颜色编码与阻止的原因条形图保持一致。 有关对话会话的更多信息,请参阅对话式会话

威胁检测或防护类别 描述 操作
威胁检测 该组件显示被阻挡的提示攻击统计数据,这些攻击默认会被主动阻挡。 它为创建者提供有关攻击数量和趋势的见解,帮助他们了解其智能体的安全态势。
身份验证 此组件指示智能体是否需要最终用户认证或为公开访问。 若自主智能体为公开访问,可能导致敏感数据暴露给潜在攻击者或未经授权的个人。 在这种情况下,状态反映需要制作者注意的潜在威胁向量。 选择打开设置,前往你的智能体的设置>安全>身份验证页面,在此你可以选择身份验证方式。
策略 此组件反映管理员在 Power Platform 管理中心设置的策略违规行为。 智能体可能违反这些策略,制作者需了解这些违规情况并进行必要调整。 例如,组织数据策略可能会阻止智能体尝试使用的连接器。 请对您的智能体进行必要调整,以确保其遵守组织的策略。 要查看因策略导致的错误,请在策略下,选择审核错误链接。 如果需要更改组织的策略,并且您具有访问权限,请选择打开管理中心,前往 Power Platform 管理中心,以便查看或编辑组织的策略。
内容审核 此组件不会直接影响保护状态,但属于创建者可用的统计数据和趋势的一部分。 它有助于确保智能体生成的内容符合所需的敏感度水平。 选择打开设置,进入您的智能体设置>生成式 AI 页面,在审核>内容审核级别部分,调整滑块至所需的内容审核级别。