Dela via

Exempelrapport för flagnande tester

  • Artikel

Azure DevOps Services | Azure DevOps Server 2022 | Azure DevOps Server 2020

Du kan skapa en rapport, som visas i följande bild, som listar de flagnande tester som inträffar i pipelinekörningar som innehåller testuppgifter. Ett flagnande test är ett test som ger olika resultat, till exempel pass eller fail, även om det inte finns några ändringar i källkods- eller körningsmiljön. Mer information om hur du aktiverar flagnande tester finns i Hantera flagnande tester. Information om hur du lägger till tester i en pipeline finns i avsnittet Testa aktivitetsresurser senare i den här artikeln.

Skärmbild av rapporten Flaky Tests Table( Flaky Tests Table).

Använd frågorna i den här artikeln för att generera följande rapporter:

  • Flagnande tester för byggarbetsflöde
  • Flagnande tester för versionsarbetsflöde
  • Flagnande tester för en viss gren
  • Flagnande tester för en viss testfil
  • Flagnande tester för en viss testägare.

Viktigt!

Power BI-integrering och åtkomst till OData-flödet i Analytics Service är allmänt tillgängliga för Azure DevOps Services och Azure DevOps Server 2020 och senare versioner. Exempelfrågorna i den här artikeln är endast giltiga mot Azure DevOps Server 2020 och senare versioner och är beroende av v3.0-förhandsversion eller senare version. Vi rekommenderar att du använder dessa frågor och ger oss feedback.

Förutsättningar

  • Om du vill visa analysdata och fråga tjänsten måste du vara medlem i ett projekt med grundläggande åtkomst eller större. Som standard beviljas alla projektmedlemmar behörighet att köra frågor mot Analytics och definiera analysvyer.
  • Mer information om andra förutsättningar för tjänst- och funktionsaktivering och allmänna dataspårningsaktiviteter finns i Behörigheter och krav för åtkomst till analys.

Kommentar

Den här artikeln förutsätter att du har läst Översikt över exempelrapporter med OData-frågor och har en grundläggande förståelse för Power BI.

Exempelfrågor

Du kan använda följande frågor i entitetsuppsättningen TestResultsDaily för att skapa olika men liknande pipeline-flagnande testrapporter. Entitetsuppsättningen TestResultsDaily ger en daglig ögonblicksbild av TestResult körningar grupperade efter test.

Kommentar

Information om hur du fastställer tillgängliga egenskaper för filter- eller rapportändamål finns i Metadatareferens för Analys av testplaner och metadatareferens för Azure Pipelines. Du kan filtrera dina frågor eller returnera egenskaper med något av värdena Property under ett EntityType eller NavigationPropertyBinding Path flera värden som är tillgängliga med en EntitySet. Var och EntitySet en motsvarar en EntityType. Mer information om datatypen för varje värde finns i metadata för motsvarande EntityType.

Flagnande tester för ett build-arbetsflöde

Använd följande frågor för att visa de flagnande testerna för en pipeline för byggarbetsflödet .

Du kan klistra in Power BI-frågan nedan direkt i fönstret Hämta data-tom> fråga . Mer information finns i Översikt över exempelrapporter med OData-frågor.

let
   Source = OData.Feed ("https://analytics.dev.azure.com/{organization}/{project}/_odata/v4.0-preview/TestResultsDaily?
$apply=filter("
                &"Pipeline/PipelineName eq '{pipelineName} "
                &"And Date/Date ge {startdate} "
                &"And Workflow eq 'Build') "
        &"/groupby((TestSK, Test/TestName), "
            &"aggregate( "
                &"ResultCount with sum as TotalCount, "
                &"ResultPassCount with sum as PassedCount, "
                &"ResultFailCount with sum as FailedCount, "
                &"ResultNotExecutedCount with sum as NotExecutedCount, "
                &"ResultNotImpactedCount with sum as NotImpactedCount, "
                &"ResultFlakyCount with sum as FlakyCount)) "
    &"/filter(FlakyCount gt 0) "
    &"/compute( "
    &"(FlakyCount div cast(TotalCount, Edm.Decimal)) mul 100 as FlaykRate) "
    ,null, [Implementation="2.0",OmitValues = ODataOmitValues.Nulls,ODataVersion = 4]) 
in
    Source

Flagnande tester för versionsarbetsflöde

Använd följande frågor för att visa de flagnande testerna för en pipeline för versionsarbetsflöde .

Du kan klistra in Power BI-frågan nedan direkt i fönstret Hämta data-tom> fråga . Mer information finns i Översikt över exempelrapporter med OData-frågor.

let
   Source = OData.Feed ("https://analytics.dev.azure.com/{organization}/{project}/_odata/v4.0-preview/TestResultsDaily?
$apply=filter("
                &"Pipeline/PipelineName eq '{pipelineName}' "
                &"And Date/Date ge {startdate}) "
        &"/groupby((TestSK, Test/TestName, Workflow), "
        &"aggregate( "
                &"ResultCount with sum as TotalCount, "
                &"ResultPassCount with sum as PassedCount, "
                &"ResultFailCount with sum as FailedCount, "
                &"ResultNotExecutedCount with sum as NotExecutedCount, "
                &"ResultNotImpactedCount with sum as NotImpactedCount, "
                &"ResultFlakyCount with sum as FlakyCount)) "
        &"/filter(FlakyCount gt 0) "
    &"/compute( "
    &"(FlakyCount div cast(TotalCount, Edm.Decimal)) mul 100 as FlakyRate) "
    ,null, [Implementation="2.0",OmitValues = ODataOmitValues.Nulls,ODataVersion = 4]) 
in
    Source

Flagnande tester filtrerade efter gren

Om du vill visa misslyckade tester av en pipeline för en viss gren använder du följande frågor. Skapa rapporten genom att utföra följande extra steg tillsammans med det som anges senare i den här artikeln.

  • Expandera Branch till Branch.BranchName
  • Välj Power BI Visualization Utsnitt och lägg till fältet Branch.BranchName i utsnittets fält
  • Välj grennamnet från utsnittet som du behöver se resultatsammanfattningen för.

Mer information om hur du använder utsnitt finns i Utsnitt i Power BI.

Du kan klistra in Power BI-frågan nedan direkt i fönstret Hämta data-tom> fråga . Mer information finns i Översikt över exempelrapporter med OData-frågor.

let
   Source = OData.Feed ("https://analytics.dev.azure.com/{organization}/{project}/_odata/v4.0-preview/TestResultsDaily?
$apply=filter("
                &"Pipeline/PipelineName eq '{pipelineName}' "
                &"And Date/Date ge {startdate} "
                &"And Workflow eq 'Build') "
        &"/groupby((TestSK, Test/TestName, Branch/BranchName), "
            &"aggregate( "
                &"ResultCount with sum as TotalCount, "
                &"ResultPassCount with sum as PassedCount, "
                &"ResultFailCount with sum as FailedCount, "
                &"ResultNotExecutedCount with sum as NotExecutedCount, "
                &"ResultNotImpactedCount with sum as NotImpactedCount, "
                &"ResultFlakyCount with sum as FlakyCount)) "
    &"/filter(FlakyCount gt 0) "
    &"/compute( "
    &"(FlakyCount div cast(TotalCount, Edm.Decimal)) mul 100 as FlakyRate) "
    ,null, [Implementation="2.0",OmitValues = ODataOmitValues.Nulls,ODataVersion = 4]) 
in
    Source

Flagnande tester filtrerade efter testfil

Om du vill visa de flagnande testerna för en pipeline och en viss testfil använder du följande frågor. Skapa rapporten genom att utföra följande extra steg tillsammans med vad som definieras senare i den här artikeln.

  • Expandera Test till Test.ContainerName
  • Välj Power BI Visualization Utsnitt och lägg till fältet Test.ContainerName i utsnittets fält
  • Välj containernamnet från utsnittet som du behöver se resultatsammanfattningen för.

Du kan klistra in Power BI-frågan nedan direkt i fönstret Hämta data-tom> fråga . Mer information finns i Översikt över exempelrapporter med OData-frågor.

let
   Source = OData.Feed ("https://analytics.dev.azure.com/{organization}/{project}/_odata/v4.0-preview/TestResultsDaily?
$apply=filter("
                &"Pipeline/PipelineName eq '{pipelineName}' "
                &"And Date/Date ge {startdate}) "
        &"/groupby((TestSK, Test/TestName, Test/ContainerName), "
        &"aggregate( "
                &"ResultCount with sum as TotalCount, "
                &"ResultPassCount with sum as PassedCount, "
                &"ResultFailCount with sum as FailedCount, "
                &"ResultNotExecutedCount with sum as NotExecutedCount, "
                &"ResultNotImpactedCount with sum as NotImpactedCount, "
                &"ResultFlakyCount with sum as FlakyCount)) "
        &"/filter(FlakyCount gt 0) "
    &"/compute( "
    &"(FlakyCount div cast(TotalCount, Edm.Decimal)) mul 100 as FlakyRate) "
    ,null, [Implementation="2.0",OmitValues = ODataOmitValues.Nulls,ODataVersion = 4]) 
in
    Source

Flagnande tester filtrerade efter testägare

Om du vill visa de flagnande testerna för en pipeline och tester som ägs av en viss testägare använder du följande frågor. Skapa rapporten genom att utföra följande extra steg tillsammans med vad som definieras senare i den här artikeln.

  • Expandera Test till Test.TestOwner
  • Välj Power BI Visualization Utsnitt och lägg till fältet Test.TestOwner i utsnittets fält
  • Välj testägaren från utsnittet som du behöver se resultatsammanfattningen för.

Du kan klistra in Power BI-frågan nedan direkt i fönstret Hämta data-tom> fråga . Mer information finns i Översikt över exempelrapporter med OData-frågor.

let
   Source = OData.Feed ("https://analytics.dev.azure.com/{organization}/{project}/_odata/v4.0-preview/TestResultsDaily?
$apply=filter("
                &"Pipeline/PipelineName eq '{pipelineName}' "
                &"And Date/Date ge {startdate}) "
        &"/groupby((TestSK, Test/TestName, Test/TestOwner), "
        &"aggregate( "
                &"ResultCount with sum as TotalCount, "
                &"ResultPassCount with sum as PassedCount, "
                &"ResultFailCount with sum as FailedCount, "
                &"ResultNotExecutedCount with sum as NotExecutedCount, "
                &"ResultNotImpactedCount with sum as NotImpactedCount, "
                &"ResultFlakyCount with sum as FlakyCount)) "
        &"/filter(FlakyCount gt 0) "
    &"/compute( "
    &"(FlakyCount div cast(TotalCount, Edm.Decimal)) mul 100 as FlakyRate) "
    ,null, [Implementation="2.0",OmitValues = ODataOmitValues.Nulls,ODataVersion = 4]) 
in
    Source

Ersättningssträngar och frågeuppdelning

Ersätt följande strängar med dina värden. Ta inte med hakparenteser {} med din ersättning. Om ditt organisationsnamn till exempel är "Fabrikam" ersätter du {organization} med Fabrikam, inte {Fabrikam}.

 

  • {organization} – Organisationens namn
  • {project} – Namnet på ditt teamprojekt
  • {pipelinename} - Ditt pipelinenamn. Exempel: Fabrikam hourly build pipeline
  • {startdate} - Datumet då rapporten skulle startas. Format: ÅÅÅÅ-MM-DDZ. Exempel: 2021-09-01Z representerar 1 september 2021. Omslut inte citattecken eller hakparenteser och använd inte två siffror för både månad och datum.

Frågeuppdelning

I följande tabell beskrivs varje del av frågan.

Frågedel

Beskrivning

$apply=filter(

Start-sats filter() .

Pipeline/PipelineName eq '{pipelineName}'

Returnera testkörningar för den angivna pipelinen.

and CompletedOn/Date ge {startdate}

Returtestet körs på eller efter det angivna datumet.

and Workflow eq 'Build'

Returnera testkörningar för ett Build arbetsflöde.

)

Stäng-satsen filter() .

/groupby(

Start-sats groupby() .

(TestSK, Test/TestName),

Gruppera efter testnamnet.

aggregate(

Start-sats aggregate för att beräkna testkörningarna som matchar filtervillkoren.

ResultCount with sum as TotalCount,

Räkna det totala antalet testkörningar som TotalCount.

ResultPassCount with sum as PassedCount,

Räkna det totala antalet godkända testkörningar som PassedCount.

ResultFailCount with sum as FailedCount,

Räkna det totala antalet misslyckade testkörningar som FailedCount.

ResultNotExecutedCount with sum as NotExecutedCount

Räkna det totala antalet testkörningar som inte körs som NotExecutedCount.

ResultNotImpactedCount with sum as NotImpactedCount,

Räkna det totala antalet testkörningar som inte påverkas som NotImpactedCount.

ResultFlakyCount with sum as FlakyCount

Räkna det totala antalet flagnande testkörningar som FlakyCount.

))

Stäng aggregate() och groupby() satser.

/filter(FlakyCount gt 0)

Filtrera bara bort de tester som var flagnande minst en gång.

/compute(

Start-sats compute() .

(FlakyCount div cast(TotalCount, Edm.Decimal)) mul 100 as FlakyRate

För alla flagnande tester beräknar du FlakyRate.

)

Stäng-satsen compute() .

(Valfritt) Byt namn på fråga

Du kan byta namn på standardfrågans etikett, Query1, till något mer meningsfullt. Ange bara ett nytt namn från fönstret Fråga Inställningar.

Skärmbild av alternativ för Power BI-frågemenyer, byt namn på fråga.

Expandera kolumnen Test i Power BI

Test Expandera kolumnen för att visa den expanderade entiteten Test.TestName. Om du expanderar kolumnen plattas posten ut till specifika fält. Mer information finns i Transformera analysdata för att generera Power BI-rapporter, Expandera kolumner.

Ändra kolumndatatyp

  1. I Power Query-redigeraren väljer du kolumnerna TotalCount, PassedCount, FailedCount, NotExecutedCount, NotImpactedCountoch . FlakyCount Välj Datatyp på menyn Transformera och välj sedan Vem läsnummer.

  2. FlakyRate Välj kolumnen, välj Datatyp på menyn Transformera och välj sedan Decimaltal.

Mer information om hur du ändrar datatypen finns i Transformera analysdata för att generera Power BI-rapporter, Transformera en kolumndatatyp.

Stäng frågan och tillämpa ändringarna

När du har slutfört alla dina datatransformeringar väljer du Stäng och använd på startmenyn för att spara frågan och återgå till fliken Rapport i Power BI.

Skärmbild av alternativet stäng och tillämpa Power Query-redigeraren.

Skapa tabellrapporten

  1. Under Visualiseringar i Power BI väljer du Tabell och drar och släpper fälten till området Kolumner.

    Skärmbild av val av visualiseringsfält för tabellrapporten Flaky tests.

  2. Lägg till följande fält i avsnittet Kolumner i den ordning som visas.

    • Test.TestName
    • TotalCount
    • PassedCount
    • FailedCount
    • FlakyCount
    • FlakyRate

Rapporten bör se ut ungefär som i följande bild.

Skärmbild av tabellrapporten Exempel på flagnande tester.

Testa aktivitetsresurser