Prestaties van Azure Cosmos DB for NoSQL meten met een benchmarking-framework

Er zijn nu meer opties dan ooit, met betrekking tot het type database dat moet worden gebruikt met uw gegevensworkload. Een van de belangrijkste factoren voor het kiezen van een database zijn de prestaties van de database of service, maar benchmarkprestaties kunnen omslachtig en foutgevoelig zijn. Het benchmarkframework voor Azure Databases vereenvoudigt het proces van het meten van prestaties met populaire opensource-benchmarkinghulpprogramma's met recepten met lage wrijving die algemene best practices implementeren. In Azure Cosmos DB for NoSQL implementeert het framework best practices voor de Java SDK en maakt het gebruik van het opensource-hulpprogramma YCSB . In deze handleiding gebruikt u dit benchmarkframework om een leesworkload te implementeren om vertrouwd te raken met het framework.

Vereisten

• Een Azure-account met een actief abonnement. Gratis een account maken
• Azure Cosmos DB voor NoSQL-account. Maak een API voor NoSQL-account.
  • Noteer de eindpunt-URI en primaire sleutel voor het account. API voor primaire NoSQL-sleutels.
• Azure-opslagaccount. Maak een Azure Storage-account.
  • Noteer de connection string voor het opslagaccount. Azure Storage-connection string.
• Tweede lege resourcegroep. Maak een resourcegroep.
• Azure Command-Line Interface (CLI).

Azure Cosmos DB-accountresources maken

Eerst maakt u een database en container in de bestaande API voor NoSQL-account.

Azure Portal

1. Navigeer naar uw bestaande API voor NoSQL-account in de Azure Portal.

2. Selecteer Data Explorer in het resourcemenu.

   

3. Selecteer op de pagina Data Explorer de optie Nieuwe container in de opdrachtbalk.

   

4. Maak in het dialoogvenster Nieuwe container een nieuwe container met de volgende instellingen:

   Instelling	Waarde
   Database-id	ycsb
   Type databasedoorvoer	Handmatig
   Hoeveelheid databasedoorvoer	400
   Container-id	usertable
   Partitiesleutel	/id

   

Azure-CLI

1. Als u dit nog niet hebt gedaan, meldt u zich aan bij de Azure CLI met behulp van de az login opdracht .

2. Maak shellvariabelen voor de volgende waarden:

   • Naam van uw bestaande Azure Cosmos DB for NoSQL-account met de naam cosmosAccountName.
   • Naam van uw eerste resourcegroep met resources met de naam sourceResourceGroupName.
   • Naam van uw tweede lege resourcegroep met de naam targetResourceGroupName.
   • Bestaande eindpunt-URI voor Azure Cosmos DB voor NoSQL-account met naam cosmosEndpoint
   • Bestaande primaire sleutel van Azure Cosmos DB voor NoSQL-account met de naam cosmosPrimaryKey

   # Variable for Azure Cosmos DB for NoSQL account name
   cosmosAccountName="<cosmos-db-nosql-account-name>"
   
   # Variable for resource group with Azure Cosmos DB and Azure Storage accounts
   sourceResourceGroupName="<first-resource-group-name>"
   
   # Variable for empty resource group
   targetResourceGroupName="<second-resource-group-name>"
   
   # Variable for API for NoSQL endpoint URI
   cosmosEndpoint="<cosmos-db-nosql-endpoint-uri>"
   
   # Variable for API for NoSQL primary key
   cosmosPrimaryKey="<cosmos-db-nosql-primary-key>"
   
   # Variable for Azure Storage account name
   storageAccountName="<storage-account-name>"
   
   # Variable for storage account connection string
   storageConnectionString="<storage-connection-string>"
   

3. Maak met behulp van de az cosmosdb sql database create opdracht een nieuwe database met de volgende instellingen:

   Instelling	Waarde
   Database-id	ycsb
   Type databasedoorvoer	Handmatig
   Hoeveelheid databasedoorvoer	400

   az cosmosdb sql database create \
       --resource-group $sourceResourceGroupName \
       --account-name $cosmosAccountName \
       --name "ycsb" \
       --throughput 400
   

4. Maak met behulp van de az cosmosdb sql container create opdracht een nieuwe container met de volgende instellingen:

   Instelling	Waarde
   Database-id	ycsb
   Container-id	usertable
   Partitiesleutel	/id

   az cosmosdb sql container create \
       --resource-group $sourceResourceGroupName \
       --account-name $cosmosAccountName \
       --database-name "ycsb" \
       --name "usertable" \
       --partition-key-path "/id"
   

Benchmarking-framework implementeren in Azure

Nu gebruikt u een Azure Resource Manager-sjabloon om het benchmarkframework te implementeren in Azure met het standaard leesrecept.

Azure Portal

1. Implementeer het benchmarkframework met behulp van een Azure Resource Manager-sjabloon die beschikbaar is via deze koppeling.

   

2. Op de pagina Aangepaste implementatie ziet u de volgende parameters

   

3. Selecteer Beoordelen en maken en vervolgens Maken om de sjabloon te implementeren.

4. Wacht totdat de installatie is voltooid.

   Tip

   De implementatie kan 5-10 minuten duren.

Azure-CLI

1. Gebruik az deployment group create om het benchmarkframework te implementeren met behulp van een Azure Resource Manager-sjabloon.

   # Variable for raw template JSON on GitHub
   templateUri="https://raw.githubusercontent.com/Azure/azure-db-benchmarking/main/cosmos/sql/tools/java/ycsb/recipes/read/try-it-read/azuredeploy.json"
   
   az deployment group create \
       --resource-group $targetResourceGroupName \
       --name "benchmarking-framework" \
       --template-uri $templateUri \
       --parameters \
           adminPassword='P@ssw.rd' \
           resultsStorageConnectionString=$storageConnectionString \
           cosmosURI=$cosmosEndpoint \
           cosmosKey=$cosmosPrimaryKey
   

2. Wacht totdat de installatie is voltooid.

   Tip

   De implementatie kan 5-10 minuten duren.

Resultaten van de benchmark weergeven

U kunt nu het bestaande Azure Storage-account gebruiken om de status van de benchmarktaak te controleren en de geaggregeerde resultaten te bekijken. De status wordt opgeslagen met behulp van een opslagtabel en de resultaten worden geaggregeerd in een opslagblob met behulp van de CSV-indeling.

Azure Portal

1. Navigeer naar uw bestaande Azure Storage-account in de Azure Portal.

2. Navigeer naar een opslagtabel met de naam ycsbbenchmarkingmetadata en zoek de entiteit met een partitiesleutel van ycsb_sql.

   

3. Bekijk het JobStatus veld van de tabelentiteit. In eerste instantie is Started de status van de taak en bevat deze een tijdstempel in de JobStartTime eigenschap, maar niet de JobFinishTime eigenschap.

4. Wacht totdat de taak de status heeft en Finished een tijdstempel bevat in de JobFinishTime eigenschap.

   Tip

   Het kan ongeveer 20-30 minuten duren voordat de taak is voltooid.

5. Navigeer naar de opslagcontainer in hetzelfde account met het voorvoegsel ycsbbenchmarking-*. Bekijk de uitvoer- en diagnostische blobs voor het hulpprogramma.

   

6. Open de aggregation.csv-blob en bekijk de inhoud. U hebt nu een CSV-gegevensset met geaggregeerde resultaten van alle benchmarkclients.

   

   Operation,Count,Throughput,Min(microsecond),Max(microsecond),Avg(microsecond),P9S(microsecond),P99(microsecond)
   READ,180000,299,706,448255,1079,1159,2867
   

Azure-CLI

1. Voer een query uit op de taakrecord in een opslagtabel met de naam ycsbbenchmarkingmetadata .az storage entity query

   az storage entity query \
       --account-name $storageAccountName \
       --connection-string $storageConnectionString \
       --table-name ycsbbenchmarkingmetadata
   

2. Bekijk de resultaten van deze query. De resultaten moeten één taak met JobStartTimede eigenschappen , JobStatusen JobFinishTime retourneren. In eerste instantie is Started de status van de taak en bevat deze een tijdstempel in de JobStartTime eigenschap, maar niet de JobFinishTime eigenschap.

   {
     "items": [
       {
         "JobFinishTime": "",
         "JobStartTime": "2023-02-02T13:59:42Z",
         "JobStatus": "Started",
         "NoOfClientsCompleted": "0",
         "NoOfClientsStarted": {
           "edm_type": "Edm.Int64",
           "value": 1
         },
         "PartitionKey": "ycsb_sql",
         ...
       }
     ],
     ...
   }
   

3. Voer indien nodig meerdere keren uit az storage entity query totdat de taak de status heeft en Finished een tijdstempel in de JobFinishTime eigenschap bevat.

   {
     "items": [
       {
         "JobFinishTime": "2023-02-02T14:21:12Z",
         "JobStartTime": "2023-02-02T13:59:42Z",
         "JobStatus": "Finished",
         ...
       }
     ],
     ...
   }
   

   Tip

   Het kan ongeveer 20-30 minuten duren voordat de taak is voltooid.

4. Zoek de naam van de meest recent gewijzigde opslagcontainer met het voorvoegsel ycsbbenchmarking-* using az storage container list en een JMESPath-query.

   az storage container list \
       --account-name $storageAccountName \
       --connection-string $storageConnectionString \
       --query "sort_by([?starts_with(name, 'ycsbbenchmarking-')], &properties.lastModified)[-1].name" \
       --output tsv
   

5. Sla de containertekenreeks op in een variabele met de naam storageConnectionString.

   storageContainerName=$( \
       az storage container list \
           --account-name $storageAccountName \
           --connection-string $storageConnectionString \
           --query "sort_by([?starts_with(name, 'ycsbbenchmarking-')], &properties.lastModified)[-1].name" \
           --output tsv \
   )
   

6. Gebruik [az storage blob query]/cli/azure/storage/blob#az-storage-blob-query) om een query uit te voeren op de taakresultaten in een opslagblob die is opgeslagen in de eerder gelegen container.

   az storage blob query \
       --account-name $storageAccountName \
       --connection-string $storageConnectionString \
       --container-name $storageContainerName \
       --name aggregation.csv \
       --query-expression "SELECT * FROM BlobStorage"
   

7. Bekijk de resultaten van deze query. U hebt nu een CSV-gegevensset met geaggregeerde resultaten van alle benchmarkclients.

   Operation,Count,Throughput,Min(microsecond),Max(microsecond),Avg(microsecond),P9S(microsecond),P99(microsecond)
   READ,180000,299,706,448255,1079,1159,2867
   

Recepten

Het benchmarkframework voor Azure Databases bevat recepten voor het inkapselen van de workloaddefinities die worden doorgegeven aan het onderliggende benchmarking-hulpprogramma voor een '1-klik'-ervaring. De workloaddefinities zijn ontworpen op basis van de best practices die zijn gepubliceerd door het Azure Cosmos DB-team en het team van het benchmarkprogramma. De recepten zijn getest en gevalideerd voor consistente resultaten.

U kunt de volgende latenties verwachten voor alle lees- en schrijfrecepten in de GitHub-opslagplaats.

• Leeslatentie

  

• Schrijflatentie

  

Algemene problemen

Deze sectie bevat de veelvoorkomende fouten die kunnen optreden bij het uitvoeren van het hulpprogramma voor benchmarking. De foutenlogboeken voor het hulpprogramma zijn doorgaans beschikbaar in een container in het Azure Storage-account.

• Als de logboeken niet beschikbaar zijn in het opslagaccount, wordt dit probleem meestal veroorzaakt door een onjuiste of ontbrekende opslag connection string. In dit geval wordt deze fout vermeld in het agent.out-bestand in de map /home/benchmarking van de virtuele clientmachine.

  Error while accessing storage account, exiting from this machine in agent.out on the VM
  

• Deze fout wordt vermeld in het agent.out-bestand , zowel in de client-VM als in het opslagaccount als de Azure Cosmos DB-eindpunt-URI onjuist of onbereikbaar is.

  Caused by: java.net.UnknownHostException: rtcosmosdbsss.documents.azure.com: Name or service not known 
  

• Deze fout wordt vermeld in het agent.out-bestand , zowel in de client-VM als in het opslagaccount als de Azure Cosmos DB-sleutel onjuist is.

  The input authorization token can't serve the request. The wrong key is being used….
  

Volgende stappen

• Meer informatie over het hulpprogramma voor benchmarking vindt u in de handleiding voor Aan de slag.