在 Visual Studio ALM 的 Analysis Services 数据库中使用测试透视分析和报告测试结果

利用 SQL Server 的 Visual Studio Team Foundation Server Analysis Services 多维数据集中的测试透视图,您可以查看有关测试结果和测试运行报告的度量值、维度和特性。 例如,您可以使用这些度量值来确定每个生成的总体质量、受特定生成影响的测试以及运行的测试用例的数量。 您还可以回答有关对结果成果的更改的问题。

测试度量值组基于测试结果关系表,该表支持对作为测试属性或独立结果的测试结果的报告。 有关详细信息,请参阅“测试结果”表

测试度量值组

利用测试透视图,您可以创建回答以下问题的报表:

状态报表:

  • 特定用户情景或产品区域的测试的状态如何?

  • 基于失败和通过的测试数的生成的质量如何?

  • 多少测试用例从未运行?

  • 哪些测试用例从未运行?

趋势报表:

  • 一段时间内有多少测试受阻、通过或失败?

  • 有多少测试正在回归?

  • 一段时间内手动测试活动的一致性如何?

备注

如果 Visual Studio Application Lifecycle Management (ALM) 的数据仓库使用的是 SQL Server Enterprise Edition,则多维数据集列表中将包括 Team System 和一组透视图。这些透视图提供了数据的集中视图,使你不必在整个 Team System 多维数据集中滚动所有维度和度量组。

若要使用大量测试度量值和维度特性,测试团队必须将测试结果发布到 Team Foundation Server 的数据存储区。 有关详细信息,请参见本主题后面的“管理测试和生成所需的活动”。

主题内容

  • 示例:用于测试用户情景的进度报表

  • 测试度量值

  • 支持筛选和分类的测试透视中的维度和特性

    • 生成、生成风格和生成平台维度

    • 测试用例、测试配置、测试计划和测试套件维度

    • 测试结果维度

    • 测试运行维度

    • 工作项和工作项链接的维度

  • 所需的活动

示例:用于测试用户情景的进度报表

利用 Excel 中的数据透视表和数据透视图报表,您可以创建显示用户情景测试进度的状态报表,类似于下图中的报表。

Excel 格式的“用户情景测试状态”报表

Microsoft Solutions Framework (MSF) Agile 的过程模板和 CMMI 分别包含 Excel 中的Excel 格式的“用户情景测试状态”报表(敏捷)Excel 格式的“要求测试状态”报表 (CMMI)

指定和筛选透视字段

用户情景测试进度的透视字段

通过执行以下步骤,您可以创建用于测试用户情景的进度报表:

  1. 在 Excel 中,连接到 Team Foundation Server 的 Analysis Services 多维数据集,然后插入数据透视图报表。

    有关详细信息,请参阅基于工作项查询创建 Excel 报表

  2. 右击图表,然后选择**“更改图表类型”“区域”“堆积条形图”**。

  3. 对于每个报告筛选器,右击以下每个字段,指定相关层次结构或元素,然后将该字段拖动到**“报告筛选器”**区域。

    • “团队项目”维度中的“团队项目层次结构”

    • “团队项目”维度中的“区域路径”

    • “测试用例”维度中的“迭代路径”

    • “链接的工作项”维度中的“工作项类型”

      将类型指定为用户情景、要求或者链接了要报告的测试用例的另一种工作项。

  4. 将**“点计数趋势”字段从“测试”度量值组下拖动到“值”**区域。

  5. 将**“结果”字段从“测试结果”维度下拖动到“列标签”**区域。

测试度量值

下表说明了测试度量值组包含的度量值。 您可以通过聚合测试结果及其在特定生成中的结果或测试结果中的更改结果分析测试结果。

度量值

描述

生成结果计数趋势

对特定生成中的每个结果的最新版本进行计数。

有关使用此度量值的报表的示例,请参见Excel 格式的“生成质量”报表

点计数趋势

特定生成中每个测试结果的最新版本的计数。 如果某个测试针对一个生成运行了多次,则“点计数趋势”会为使用该生成的该测试计算最新结果。 如果生成中不包含某个测试用例,则将该用例作为“从不运行”计数。

使用此度量值可确定当前生成中有哪些测试或多少测试失败。

结果计数

对每个测试结果的最新版本进行计数。 当要确定测试的总数时,请使用此度量值。

有关使用此度量值的报表的示例,请参见“生成质量指示器”报表

结果转换计数

对其成果在特定生成中发生更改的所有结果进行计数。 当要确定受特定生成影响的测试时,请使用此度量值。

测试用例计数

测试用例的数量。 当要确定为特定测试运行或生成运行的测试用例数时,请使用此度量值。

支持筛选和分类的测试透视中的维度和特性

利用本节所述的特性,您可以聚合度量值、筛选报表或指定报表轴。 这些特性是使用共享维度所述的**“团队项目”“日期”**共享维度之外的特性。

生成、生成风格和生成平台维度

您可以使用下表所述的特性来基于生成定义、生成风格或生成平台筛选测试报告。

维度

特性

描述

生成

生成定义名称

分配给已为其执行生成的生成定义的名称。

有关使用此特性的报表的示例,请参见Excel 格式的“生成质量”报表

生成 ID

分配给生成的编号。 每次运行特定的生成定义时,“生成 ID”都会增加 1。

生成名称

唯一标识生成的名称或表达式。 有关详细信息,请参阅使用生成号为已完成的生成指定有意义的名称

生成开始时间

生成开始的日期和时间。

生成类型

运行生成的原因。 生成类型与已为此生成定义的触发器关联。 Team Foundation Server 支持以下生成类型:手动、持续(由每次签入触发)、滚动(累积签入,直到上一个生成完成)、封闭签入和计划。 有关详细信息,请参阅指定生成触发器和原因

放置位置

为生成定义且指定为统一资源定位器 (URL) 的放置文件夹。 URL 指定 Web 浏览器用来查找 Internet 资源的协议。 URL 还包含资源所在的服务器的名称。 您还可以包含资源路径。

有关详细信息,请参阅选择临时位置和设置放置文件夹

生成风格

生成风格

(仅限已发布的测试结果)一个用于指定生成的类别的名称,此类生成已分配到已作为测试运行的一部分发布的一组已完成生成。 例如,生成风格可用于指定 Beta 版本或最终发布版本。

生成平台

生成平台

为其执行端到端(非桌面)生成的计算机平台的名称(例如,“x86”“任意 CPU”)。 有关详细信息,请参阅对生成过程使用默认模板

测试用例、测试配置、测试计划和测试套件维度

测试用例、测试配置、测试计划和测试套件维度对应于使用 Microsoft Visual Studio 2010 旗舰版或 Visual Studio 专业测试工具版中的 Microsoft 测试管理器来组织、配置、自动化和运行测试的方式。

测试用例对应于一个工作项类型,测试团队用它来定义团队可通过 Microsoft 测试管理器运行和管理的手动和自动测试。 测试计划包括测试配置和测试套件。 测试配置定义要在其上运行测试的软件或硬件。 测试套件可定义计划中的层次结构,以便让您将测试用例分组在一起。

有关详细信息,请参阅测试应用程序

维度

特性

描述

测试用例

区域层次结构和更多信息

“工作项”和“测试用例”维度包含与工作项有关的所有特性,如状态、工作项类型和工作项 ID。 有关“测试用例”维度的结构的信息,请参见使用工作项透视分析和报告工作项和测试用例数据

有关每个特性的说明,请参见Visual Studio ALM 的工作项字段参考

有关如何处理日期、区域和迭代层次结构的信息,请参见Analysis Services 多维数据集中的共享维度

当一种工作项类型中的自定义字段将 Dimension 指定为可报告特性时,此度量值组包含其他特性。 有关如何使用可选 reportable 特性及其值的详细信息,请参见添加或修改工作项字段以支持报告

测试配置

配置 ID 和配置名称

系统分配的编号和测试配置的名称。

测试计划

区域层次结构、区域路径、迭代层次结构和迭代路径

分配给测试计划的产品区域和里程碑。

有关详细信息,请参阅使用工作项透视分析和报告工作项和测试用例数据

按月或按周划分的结束日期层次结构

按月或按周划分的开始日期层次结构

测试计划所有者可向测试计划分配的可选值。 它们表示测试计划应开始的日期和测试计划应完成的日期。

有关如何使用日期分层的详细信息,请参见Analysis Services 多维数据集中的共享维度

测试计划 ID 和测试计划名称

系统分配的编号和测试计划所有者分配的名称。

测试计划所有者

创建或当前被指定为测试计划所有者的测试团队成员的用户名。

测试计划 ID 和状态

测试计划的系统分配的编号和状态名称。 例如,“不活动的”指示测试计划正在定义中,而“活动的”指示测试计划已准备好评审和运行。

测试套件

测试套件层次结构

根据项目集合、团队项目和测试套件提供机制以指定多个筛选器。

套件路径

对应于为所有团队项目集合中的所有团队项目配置的测试套件的层次结构。

测试结果维度

下表列出了特定于多维数据集中的测试度量值的所有维度和特性。 测试团队必须填写此信息以作为其测试活动的一部分,然后才可以报告**“失败类型”“解决方法”**。

特性

描述

失败类型和失败类型 ID

对应于以下测试失败原因之一:“无”“已知问题”“新问题”“回归测试”

Microsoft 测试管理器自动为每个原因分配编号或 ID。 测试团队可以但不必将失败类型分配给每个失败的测试。

备注

您不能添加到或更改失败类型集。

有关基于失败类型显示测试结果的成果的趋势报表示例,请参见Excel 格式的“失败分析”报表

结果和结果 ID

测试的结果(例如,“通过”“未通过”“无结论”)。

有关显示测试计划和测试配置的结果的趋势报表的示例,请参见“测试计划进度”报表

就绪状态和就绪状态 ID

测试运行中的特定测试的状态。 有效值为:“已完成”“正在进行中”“无”“未就绪”“就绪”

解决状态

(可选)测试人员用来测试失败的原因的“解决方法”的名称。 默认情况下,所有 MSF 过程模板具有以下解决状态:“需求调查”“测试问题”“产品问题”“配置问题”。 测试团队可以但不必将解决状态分配给每个失败的测试。

备注

您可以使用 tcm 命令行工具更改这些状态或添加状态。请参阅自定义和管理测试体验 [tcm 和 Microsoft 测试管理器]

测试结果执行者

运行测试的用户或其他帐户的名称。

有关使用此特性的报表的示例,请参见Excel 格式的“测试团队效率”报表

测试结果所有者

作为测试结果的所有者分配的用户或其他帐户的名称。 该分配对应于使用 tcm /resultowner 开关设置的值。

测试结果优先级

测试运行中的特定测试的优先级。

测试运行维度

下表说明了为测试运行维度定义的特性。 其中很多特性对应于测试团队运行测试时指定的参数。

特性

描述

完成日期、创建日期、按月或按周划分的开始日期层次结构

创建、完成或开始测试运行的日期。 您可以使用这些特性筛选或构建报表。 有关详细信息,请参阅Analysis Services 多维数据集中的共享维度

是自动的

指示测试运行包含一个还是多个自动化测试的标志。

有关使用此特性的报表的示例,请参见Excel 格式的“生成质量”报表

是生成验证运行

一个标记,用于指示测试运行是否包含检查生成的基本功能的生成验证测试。 此标志对应于 tcm /buildverification 开关。

有关使用此特性的报表的示例,请参见Excel 格式的“生成质量”报表

测试运行 ID

系统分配给测试运行的编号。

测试运行所有者

对应于分配给测试团队创建或发布的测试运行的所有者。 对应于 tcm /owner 开关。

测试运行状态和 ID

分配给测试运行状态(例如“已中止”“已完成”“正在进行”“未开始”“未知”)的名称或编号。

测试运行标题

对应于分配给测试团队创建或发布的测试运行的标题。 对应于 tcm /title 开关。

工作项和工作项链接的维度

您可以将测试用例链接到其他工作项(如用户情景、要求和 Bug)。 利用“链接的工作项”维度,您可以创建提供有关链接工作项的测试结果的报表。 本主题前面提到过,用于测试用户情景的进度报告提供了使用链接的工作项的示例。

有关每个特性的说明,请参见Visual Studio ALM 的工作项字段参考

所需的活动

若要创建包含有关测试工作量和测试结果的有用数据的报表,团队成员应查看以下主题中的信息:

请参见

概念

“测试计划进度”报表

Visual Studio 的 Analysis Services 多维数据集中提供的透视和度量值组

其他资源

测试管理报表