Měření výkonu služby Azure Cosmos DB for NoSQL s využitím architektury srovnávacích testů

U typu databáze, kterou chcete použít s datovými úlohami, je teď více možností. Jedním z klíčových faktorů při výběru databáze je výkon databáze nebo služby, ale výkon srovnávacích testů může být těžkopádný a náchylný k chybám. Architektura srovnávacích testů pro Azure Database zjednodušuje proces měření výkonu pomocí oblíbených opensourcových nástrojů pro srovnávací testy s nízkými třeními, které implementují běžné osvědčené postupy. Ve službě Azure Cosmos DB for NoSQL architektura implementuje osvědčené postupy pro sadu Java SDK a používá opensourcový nástroj YCSB . V této příručce použijete tuto srovnávací architekturu k implementaci úlohy čtení, abyste se seznámili s architekturou.

Požadavky

• Účet Azure s aktivním předplatným. Vytvoření účtu zdarma
• Účet Služby Azure Cosmos DB for NoSQL Vytvořte rozhraní API pro účet NoSQL.
  • Nezapomeňte si pro účet poznamenat identifikátor URI koncového bodu a primární klíč.
• Účet služby Azure Storage. Vytvořte účet azure Storage.
  • Nezapomeňte si poznamenat připojovací řetězec pro účet úložiště. Vies Azure Storage připojovací řetězec.
• Druhá prázdná skupina prostředků Vytvořte skupinu prostředků.
• Rozhraní příkazového řádku Azure (CLI)

Vytvoření prostředků účtu služby Azure Cosmos DB

Nejprve vytvoříte databázi a kontejner v existujícím účtu rozhraní API for NoSQL.

Azure Portal

1. Přejděte ke svému stávajícímu účtu API pro NoSQL ve službě Azure portal.

2. V nabídce prostředků vyberte Průzkumník dat.

   

3. Na stránce Průzkumník dat vyberte na panelu příkazů možnost Nový kontejner.

   

4. V dialogovém okně Nový kontejner vytvořte nový kontejner s následujícím nastavením:

   Nastavení	Hodnota
   ID databáze	ycsb
   Typ propustnosti databáze	Manuál
   Velikost propustnosti databáze	400
   ID kontejneru	usertable
   Klíč oddílu	/id

   

Azure CLI

1. Pokud jste to ještě neudělali, přihlaste se k Azure CLI pomocí az login příkazu.

2. Vytvořte shellové proměnné pro následující hodnoty:

   • Název existujícího účtu Azure Cosmos DB for NoSQL s názvem cosmosAccountName.
   • Název vaší první skupiny prostředků s názvem sourceResourceGroupName.
   • Název druhé prázdné skupiny prostředků s názvem targetResourceGroupName.
   • Stávající identifikátor URI koncového bodu účtu Azure Cosmos DB pro NoSQL pojmenovaný cosmosEndpoint
   • Existující primární klíč účtu Azure Cosmos DB for NoSQL s názvem cosmosPrimaryKey

   # Variable for Azure Cosmos DB for NoSQL account name
   cosmosAccountName="<cosmos-db-nosql-account-name>"
   
   # Variable for resource group with Azure Cosmos DB and Azure Storage accounts
   sourceResourceGroupName="<first-resource-group-name>"
   
   # Variable for empty resource group
   targetResourceGroupName="<second-resource-group-name>"
   
   # Variable for API for NoSQL endpoint URI
   cosmosEndpoint="<cosmos-db-nosql-endpoint-uri>"
   
   # Variable for API for NoSQL primary key
   cosmosPrimaryKey="<cosmos-db-nosql-primary-key>"
   
   # Variable for Azure Storage account name
   storageAccountName="<storage-account-name>"
   
   # Variable for storage account connection string
   storageConnectionString="<storage-connection-string>"
   

3. az cosmosdb sql database create Pomocí příkazu vytvořte novou databázi s následujícím nastavením:

   Nastavení	Hodnota
   ID databáze	ycsb
   Typ propustnosti databáze	Příručka
   Velikost propustnosti databáze	400

   az cosmosdb sql database create \
       --resource-group $sourceResourceGroupName \
       --account-name $cosmosAccountName \
       --name "ycsb" \
       --throughput 400
   

4. az cosmosdb sql container create Pomocí příkazu vytvořte nový kontejner s následujícím nastavením:

   Nastavení	Hodnota
   ID databáze	ycsb
   ID kontejneru	usertable
   Klíč oddílu	/id

   az cosmosdb sql container create \
       --resource-group $sourceResourceGroupName \
       --account-name $cosmosAccountName \
       --database-name "ycsb" \
       --name "usertable" \
       --partition-key-path "/id"
   

Nasazení architektury srovnávacích testů do Azure

Teď pomocí šablony Azure Resource Manageru nasadíte rámec pro srovnávací testy do Azure s výchozím receptem pro čtení.

Azure Portal

1. Nasaďte architekturu srovnávacích testů pomocí šablony Azure Resource Manageru, která je k dispozici na tomto odkazu.

   

2. Na stránce Vlastní nasazení jsou uvedeny následující parametry

   

3. Vyberte Zkontrolovat a vytvořit a potom Vytvořit pro nasazení šablony.

4. Počkejte, až se nasazení dokončí.

   Tip

   Dokončení nasazení může trvat 5 až 10 minut.

Azure CLI

1. Slouží az deployment group create k nasazení architektury srovnávacích testů pomocí šablony Azure Resource Manageru.

   # Variable for raw template JSON on GitHub
   templateUri="https://raw.githubusercontent.com/Azure/azure-db-benchmarking/main/cosmos/sql/tools/java/ycsb/recipes/read/try-it-read/azuredeploy.json"
   
   az deployment group create \
       --resource-group $targetResourceGroupName \
       --name "benchmarking-framework" \
       --template-uri $templateUri \
       --parameters \
           adminPassword='P@ssw.rd' \
           resultsStorageConnectionString=$storageConnectionString \
           cosmosURI=$cosmosEndpoint \
           cosmosKey=$cosmosPrimaryKey
   

2. Počkejte, až se nasazení dokončí.

   Tip

   Dokončení nasazení může trvat 5 až 10 minut.

Zobrazení výsledků srovnávacího testu

Teď můžete pomocí existujícího účtu Azure Storage zkontrolovat stav úlohy srovnávacího testu a zobrazit agregované výsledky. Stav se uloží pomocí tabulky úložiště a výsledky se agregují do objektu blob úložiště pomocí formátu CSV.

Azure Portal

1. Na webu Azure Portal přejděte ke svému existujícímu účtu Azure Storage.

2. Přejděte do tabulky úložiště s názvem ycsbbenchmarkingmetadata a vyhledejte entitu s klíčem oddílu ycsb_sql.

   

3. JobStatus Prohlédněte si pole entity tabulky. Stav úlohy je zpočátku Started a zahrnuje časové razítko ve vlastnosti JobStartTime, ale ne ve vlastnosti JobFinishTime.

4. Počkejte, až má úloha stav Finished a zahrne do JobFinishTime vlastnosti časové razítko.

   Tip

   Dokončení úlohy může trvat přibližně 20 až 30 minut.

5. Přejděte do kontejneru úložiště v rámci stejného účtu s předponou ycsbbenchmarking-*. Prohlédněte si výstup a diagnostické objekty blob nástroje.

   

6. Otevřete aggregation.csv objekt blob a prohlédněte si obsah. Teď byste měli mít datovou sadu CSV s agregovanými výsledky ze všech klientů srovnávacích testů.

   

   Operation,Count,Throughput,Min(microsecond),Max(microsecond),Avg(microsecond),P9S(microsecond),P99(microsecond)
   READ,180000,299,706,448255,1079,1159,2867
   

Azure CLI

1. Dotazování záznamu úlohy v tabulce úložiště pojmenované ycsbbenchmarkingmetadata pomocí az storage entity query.

   az storage entity query \
       --account-name $storageAccountName \
       --connection-string $storageConnectionString \
       --table-name ycsbbenchmarkingmetadata
   

2. Prohlédněte si výsledky tohoto dotazu. Výsledky by měly vrátit jednu úlohu se znakem , JobStartTimea JobStatus vlastnostmiJobFinishTime. Na začátku je stav úlohy Started, který obsahuje časové razítko ve vlastnosti JobStartTime, ale ne ve vlastnosti JobFinishTime.

   {
     "items": [
       {
         "JobFinishTime": "",
         "JobStartTime": "2023-02-02T13:59:42Z",
         "JobStatus": "Started",
         "NoOfClientsCompleted": "0",
         "NoOfClientsStarted": {
           "edm_type": "Edm.Int64",
           "value": 1
         },
         "PartitionKey": "ycsb_sql",
         ...
       }
     ],
     ...
   }
   

3. V případě potřeby spusťte az storage entity query několikrát, dokud úloha nemá stav Finished a vlastnost JobFinishTime nezahrnuje časové razítko.

   {
     "items": [
       {
         "JobFinishTime": "2023-02-02T14:21:12Z",
         "JobStartTime": "2023-02-02T13:59:42Z",
         "JobStatus": "Finished",
         ...
       }
     ],
     ...
   }
   

   Tip

   Dokončení úlohy může trvat přibližně 20 až 30 minut.

4. Vyhledejte název naposledy upraveného kontejneru úložiště s předponou ycsbbenchmarking-* použití az storage container list a dotazem JMESPath.

   az storage container list \
       --account-name $storageAccountName \
       --connection-string $storageConnectionString \
       --query "sort_by([?starts_with(name, 'ycsbbenchmarking-')], &properties.lastModified)[-1].name" \
       --output tsv
   

5. Uložte řetězec kontejneru do proměnné s názvem storageConnectionString.

   storageContainerName=$( \
       az storage container list \
           --account-name $storageAccountName \
           --connection-string $storageConnectionString \
           --query "sort_by([?starts_with(name, 'ycsbbenchmarking-')], &properties.lastModified)[-1].name" \
           --output tsv \
   )
   

6. Pomocí [az storage blob query]/cli/azure/storage/blob#az-storage-blob-query) můžete dotazovat výsledky úlohy v objektu blob úložiště uloženém v dříve umístěném kontejneru.

   az storage blob query \
       --account-name $storageAccountName \
       --connection-string $storageConnectionString \
       --container-name $storageContainerName \
       --name aggregation.csv \
       --query-expression "SELECT * FROM BlobStorage"
   

7. Prohlédněte si výsledky tohoto dotazu. Teď byste měli mít datovou sadu CSV s agregovanými výsledky ze všech klientů srovnávacích testů.

   Operation,Count,Throughput,Min(microsecond),Max(microsecond),Avg(microsecond),P9S(microsecond),P99(microsecond)
   READ,180000,299,706,448255,1079,1159,2867
   

Návody

Architektura srovnávacích testů pro Azure Database zahrnuje recepty pro zapouzdření definic úloh, které se předávají základnímu nástroji pro srovnávací testy pro prostředí "1-Click". Definice úloh byly navrženy na základě osvědčených postupů publikovaných týmem služby Azure Cosmos DB a týmem nástroje pro srovnávací testy. Recepty byly testovány a ověřeny pro konzistentní výsledky.

U všech receptů pro čtení a zápis v úložišti GitHub můžete očekávat následující latence.

• Latence čtení

  

• Latence zápisu

  

Běžné problémy

Tato část obsahuje běžné chyby, ke kterým může dojít při spuštění nástroje pro srovnávací testy. Protokoly chyb pro nástroj jsou obvykle dostupné v kontejneru v rámci účtu azure Storage.

• Pokud protokoly nejsou v účtu úložiště dostupné, příčinou tohoto problému je obvykle nesprávná nebo chybějící připojovací řetězec úložiště. V tomto případě je tato chyba uvedená v souboru agent.out ve složce /home/benchmarking klientského virtuálního počítače.

  Error while accessing storage account, exiting from this machine in agent.out on the VM
  

• Tato chyba je uvedená v souboru agent.out jak v klientském virtuálním počítači, tak v účtu úložiště, pokud je identifikátor URI koncového bodu služby Azure Cosmos DB nesprávný nebo nedostupný.

  Caused by: java.net.UnknownHostException: rtcosmosdbsss.documents.azure.com: Name or service not known 
  

• Tato chyba je uvedená v souboru agent.out v klientském virtuálním počítači i v účtu úložiště, pokud je klíč služby Azure Cosmos DB nesprávný.

  The input authorization token can't serve the request. The wrong key is being used….
  

Další kroky

• Další informace o nástroji pro srovnávací testy najdete v příručce Začínáme.