使用测试集来评估和优化您的智能体在真实世界回复应用场景中的处理方式。 本文解释了如何修改测试集的名称和设置,管理用于认证的用户配置文件和连接,编辑或删除单个测试用例,以及删除整个测试集或结果。 这些步骤有助于确保评估反映正确的用户情境,并保持对知识来源和工具的安全访问。
可以选择三种测试方法(也称为分级器)来评估智能体响应:质量、相似性和文本匹配。 有关不同测试方法的详细信息,请参阅测试方法。
编辑测试集的详细信息
您可以更改测试集的详细信息,例如它用于身份验证的帐户以及所使用的测试方法。
转到您的智能体的评估页面。
选择测试集。
在测试集中,选择要编辑的测试案例。
(可选)更改测试集的名称。
添加或修改测试方法。 每种测试方法测量的指标不同,并且需要不同的配置。 要了解如何设置每种测试方法,请参见选择测试方法。
测试方法 度量 测试集类型 计分 配置 一般质量 根据特定属性评估测试用例响应的质量 单一回复或对话 计分(满分 100%) 无 比较含义 测试用例答案的语义与预期答案的匹配程度 单个响应 计分(满分 100%) 及格分数和预期答案 工具使用 测试用例是否使用了全部或任何预期的资源 单个响应 通过/未通过 预期能力 关键字匹配 测试用例是否使用了所有或部分预期的关键词或短语 单一回复或对话 通过/未通过 预期关键词或短语 文本相似度 测试用例答案文本与预期答案的匹配程度 单个响应 计分(满分 100%) 及格分数和预期答案 完全匹配 测试用例的答案是否与预期答案完全匹配 单个响应 通过/未通过 预期的答案 自定义 测试用例的回复是否满足所定义的标准或期望。 单一回复或对话 通过/不通过(符合已定义的标签标准) 名称、评估说明、标签 选择管理配置文件以添加帐户,或选择当前配置文件来管理连接或选择其他配置文件。 自动化测试使用所选测试帐户的身份验证信息。 多配置文件评估仅支持不依赖连接器的智能体。 如果你的智能体拥有需要特定认证的知识来源或工具,你可以为测试选择合适的帐户。 有关详细信息,请参阅管理用户配置文件和连接。
备注
当 Copilot Studio 生成测试用例或运行评估时,它会使用连接帐户的认证凭据来访问你的智能体的知识来源和工具。 生成的测试用例中可能包含连接帐户能够访问的敏感数据。 任何有权访问该智能体的创建者均可查看与该智能体关联的测试集。
管理用户配置文件和连接
你可以使用用户帐户的认证来运行测试集。 这种认证方法允许您的智能体访问其完成目标所需的知识来源和工具。
您可以使用配置文件来模拟特定的用户体验。 例如,主管的用户档案可以访问与实习生用户档案不同的知识来源,智能体返回的结果也会不同。 多配置文件评估仅支持不依赖连接器的智能体。
重要提示
测试集中的用户档案无法为工具进行身份验证。 在运行评估时,您的智能体必须使用您当前登录的帐户来进行工具连接的身份验证。 如果你选择了不同的用户配置文件,或者你的智能体的工具连接没有使用你的帐户进行身份验证,评估将会失败,并显示消息此帐户无法连接到工具。 要解决此问题,请使用已配置工具连接器的帐户登录,然后运行评估。
测试结果显示所使用的用户配置文件。
备注
当 Copilot Studio 生成测试用例或运行评估时,它会使用连接帐户的认证凭据来访问你的智能体的知识来源和工具。 生成的测试用例中可能包含连接帐户能够访问的敏感数据。 任何有权访问该智能体的创建者均可查看与该智能体关联的测试集。
使用用户身份验证的智能体评估需要通过 Microsoft Copilot Studio 连接器访问。 如果管理员禁用此连接,则无法使用评估工具运行测试。 如需了解更多信息,请参见 Copilot Studio 连接器和数据组。
要在测试集中添加或更改用户配置文件:
打开一个测试集,然后选择管理配置文件。
选择用户下拉菜单,然后:
- 选择要使用的用户帐户,或者
- 选择添加帐户,然后登录该帐户。
对于带有警告的连接,请选择连接。 将现有连接更改为可用连接,选择重新连接以尝试重新建立现有连接,或选择创建新连接以尝试新连接。
对于新连接,输入所需的连接信息,然后选择连接。
当所有连接都正常时,选择保存。
删除测试集或测试结果
你可以删除不再需要的测试用例或测试集。
- 转到您的智能体的评估页面。
- 在测试集部分,您可以通过以下任一步骤删除测试集:
- 选择测试集卡上的三个点 (…),然后选择删除。
- 选择测试集打开后,在配置测试集窗格中点击三个点 (…),然后选择删除。
- 在最近结果部分,请执行以下任一步骤删除测试结果:
- 将鼠标悬停在你想删除的测试结果上,选择三个点 (…),然后选择删除测试。
- 选择测试结果以打开它,然后在评估摘要窗格中选择三个点 (…),接着选择删除。