Měření výkonu služby Azure Cosmos DB for NoSQL s využitím architektury srovnávacích testů

Článek
03/25/2023

V současné chvíli existuje více možností, než kdy jindy, ohledně typu databáze, kterou můžete použít s datovými úlohami. Jedním z klíčových faktorů při výběru databáze je výkon databáze nebo služby, ale výkon srovnávacích testů může být těžkopádný a náchylný k chybám. Architektura srovnávacích testů pro službu Azure Database zjednodušuje proces měření výkonu pomocí oblíbených opensourcových nástrojů pro srovnávací testy s recepty s minimálním třením, které implementují běžné osvědčené postupy. Ve službě Azure Cosmos DB for NoSQL architektura implementuje osvědčené postupy pro sadu Java SDK a používá opensourcový nástroj YCSB . V této příručce použijete tuto architekturu srovnávacího testu k implementaci úlohy čtení, abyste se s touto architekturou seznámili.

Požadavky

Účet Azure s aktivním předplatným. Vytvořte si zdarma účet.
Účet Služby Azure Cosmos DB pro NoSQL Vytvořte rozhraní API pro účet NoSQL.
- Nezapomeňte si poznamenat identifikátor URI koncového bodu a primární klíč účtu. Rozhraní API pro primární klíče NoSQL
Účet Azure Storage. Vytvořte účet Azure Storage.
- Nezapomeňte si poznamenat připojovací řetězec pro účet úložiště. Vies Azure Storage connection string.
Druhá prázdná skupina prostředků. Vytvořte skupinu prostředků.
Rozhraní azure Command-Line (CLI)

Vytvoření prostředků účtu služby Azure Cosmos DB

Nejprve vytvoříte databázi a kontejner v existujícím účtu rozhraní API pro NoSQL.

Azure Portal
Azure CLI

V Azure Portal přejděte ke stávajícímu účtu rozhraní API pro NoSQL.
V nabídce prostředků vyberte Data Explorer.
Na stránce Data Explorer vyberte na panelu příkazů možnost Nový kontejner.
V dialogovém okně Nový kontejner vytvořte nový kontejner s následujícím nastavením:

Nastavení Hodnota

ID databáze ycsb

Typ propustnosti databáze Ruční

Propustnost databáze 400

ID kontejneru usertable

Klíč oddílu /id

Pokud jste to ještě neudělali, přihlaste se k Azure CLI pomocí az login příkazu .

Vytvořte proměnné prostředí pro následující hodnoty:

Název existujícího účtu Azure Cosmos DB for NoSQL s názvem cosmosAccountName.
Název první skupiny prostředků s prostředky s názvem sourceResourceGroupName.
Název druhé prázdné skupiny prostředků s názvem targetResourceGroupName.
Existující identifikátor URI koncového bodu účtu služby Azure Cosmos DB for NoSQL s názvem cosmosEndpoint
Stávající primární klíč účtu Služby Azure Cosmos DB pro NoSQL s názvem cosmosPrimaryKey

# Variable for Azure Cosmos DB for NoSQL account name
cosmosAccountName="<cosmos-db-nosql-account-name>"

# Variable for resource group with Azure Cosmos DB and Azure Storage accounts
sourceResourceGroupName="<first-resource-group-name>"

# Variable for empty resource group
targetResourceGroupName="<second-resource-group-name>"

# Variable for API for NoSQL endpoint URI
cosmosEndpoint="<cosmos-db-nosql-endpoint-uri>"

# Variable for API for NoSQL primary key
cosmosPrimaryKey="<cosmos-db-nosql-primary-key>"

# Variable for Azure Storage account name
storageAccountName="<storage-account-name>"

# Variable for storage account connection string
storageConnectionString="<storage-connection-string>"

Pomocí příkazu az cosmosdb sql database create vytvořte novou databázi s následujícím nastavením:

Nastavení Hodnota

ID databáze ycsb

Typ propustnosti databáze Ruční

Propustnost databáze 400
```
az cosmosdb sql database create \
    --resource-group $sourceResourceGroupName \
    --account-name $cosmosAccountName \
    --name "ycsb" \
    --throughput 400
```

Pomocí příkazu az cosmosdb sql container create vytvořte nový kontejner s následujícím nastavením:

Nastavení	Hodnota
ID databáze	`ycsb`
ID kontejneru	`usertable`
Klíč oddílu	`/id`

az cosmosdb sql container create \
    --resource-group $sourceResourceGroupName \
    --account-name $cosmosAccountName \
    --database-name "ycsb" \
    --name "usertable" \
    --partition-key-path "/id"

Nasazení architektury srovnávacích testů do Azure

Teď pomocí šablony Azure Resource Manager nasadíte architekturu srovnávacího testu do Azure s výchozím receptem pro čtení.

Azure Portal
Azure CLI

Nasaďte architekturu srovnávacích testů pomocí šablony Azure Resource Manager, která je k dispozici na tomto odkazu.
Na stránce Vlastní nasazení se zobrazí následující parametry.
Pokud chcete šablonu nasadit, vyberte Zkontrolovat a vytvořit a pak Vytvořit .
Počkejte, až se nasazení dokončí.

Tip

Dokončení nasazení může trvat 5 až 10 minut.

Slouží az deployment group create k nasazení architektury srovnávacího testu pomocí šablony Azure Resource Manager.

# Variable for raw template JSON on GitHub
templateUri="https://raw.githubusercontent.com/Azure/azure-db-benchmarking/main/cosmos/sql/tools/java/ycsb/recipes/read/try-it-read/azuredeploy.json"

az deployment group create \
    --resource-group $targetResourceGroupName \
    --name "benchmarking-framework" \
    --template-uri $templateUri \
    --parameters \
        adminPassword='P@ssw.rd' \
        resultsStorageConnectionString=$storageConnectionString \
        cosmosURI=$cosmosEndpoint \
        cosmosKey=$cosmosPrimaryKey

Počkejte, až se nasazení dokončí.

Tip

Dokončení nasazení může trvat 5 až 10 minut.

Zobrazení výsledků srovnávacího testu

Teď můžete pomocí existujícího účtu Azure Storage zkontrolovat stav úlohy srovnávacího testu a zobrazit agregované výsledky. Stav se ukládá pomocí tabulky úložiště a výsledky se agregují do objektu blob úložiště ve formátu CSV.

Azure Portal
Azure CLI

V Azure Portal přejděte ke svému stávajícímu účtu Azure Storage.
Přejděte do tabulky úložiště s názvem ycsbbenchmarkingmetadata a vyhledejte entitu s klíčem oddílu ycsb_sql.
Prohlédněte si JobStatus pole entity tabulky. Zpočátku je Started stav úlohy a zahrnuje časové razítko ve JobStartTime vlastnosti, ale ne JobFinishTime vlastnost .
Počkejte, až bude úloha ve stavu Finished a zahrne do vlastnosti časové razítko JobFinishTime .

Tip

Dokončení úlohy může trvat přibližně 20 až 30 minut.
Přejděte do kontejneru úložiště ve stejném účtu s předponou ycsbbenchmarking-*. Prohlédněte si výstupní a diagnostické objekty blob pro nástroj.
Otevřete aggregation.csv objekt blob a prohlédněte si obsah. Teď byste měli mít datovou sadu CSV s agregovanými výsledky ze všech klientů srovnávacích testů.
```
Operation,Count,Throughput,Min(microsecond),Max(microsecond),Avg(microsecond),P9S(microsecond),P99(microsecond)
READ,180000,299,706,448255,1079,1159,2867
```

Zadejte dotaz na záznam úlohy v tabulce úložiště s názvem ycsbbenchmarkingmetadata pomocí az storage entity querypříkazu .

az storage entity query \
    --account-name $storageAccountName \
    --connection-string $storageConnectionString \
    --table-name ycsbbenchmarkingmetadata

Prohlédněte si výsledky tohoto dotazu. Výsledky by měly vrátit jednu úlohu s vlastnostmi JobStartTime, JobStatusa JobFinishTime . Zpočátku je Started stav úlohy a zahrnuje časové razítko ve JobStartTime vlastnosti, ale ne JobFinishTime vlastnost .

{
  "items": [
    {
      "JobFinishTime": "",
      "JobStartTime": "2023-02-02T13:59:42Z",
      "JobStatus": "Started",
      "NoOfClientsCompleted": "0",
      "NoOfClientsStarted": {
        "edm_type": "Edm.Int64",
        "value": 1
      },
      "PartitionKey": "ycsb_sql",
      ...
    }
  ],
  ...
}

V případě potřeby spusťte az storage entity query několikrát, dokud úloha nebude mít stav Finished a zahrne do JobFinishTime vlastnosti časové razítko.
```
{
  "items": [
    {
      "JobFinishTime": "2023-02-02T14:21:12Z",
      "JobStartTime": "2023-02-02T13:59:42Z",
      "JobStatus": "Finished",
      ...
    }
  ],
  ...
}
```
Tip

Dokončení úlohy může trvat přibližně 20 až 30 minut.

Vyhledejte název naposledy upraveného kontejneru úložiště s předponou ycsbbenchmarking-* using az storage container list a dotazem JMESPath.

az storage container list \
    --account-name $storageAccountName \
    --connection-string $storageConnectionString \
    --query "sort_by([?starts_with(name, 'ycsbbenchmarking-')], &properties.lastModified)[-1].name" \
    --output tsv

Uložte řetězec kontejneru do proměnné s názvem storageConnectionString.

storageContainerName=$( \
    az storage container list \
        --account-name $storageAccountName \
        --connection-string $storageConnectionString \
        --query "sort_by([?starts_with(name, 'ycsbbenchmarking-')], &properties.lastModified)[-1].name" \
        --output tsv \
)

Použijte [az storage blob query]/cli/azure/storage/blob#az-storage-blob-query) k dotazování výsledků úlohy v objektu blob úložiště uloženém v dříve umístěném kontejneru.

az storage blob query \
    --account-name $storageAccountName \
    --connection-string $storageConnectionString \
    --container-name $storageContainerName \
    --name aggregation.csv \
    --query-expression "SELECT * FROM BlobStorage"

Prohlédněte si výsledky tohoto dotazu. Teď byste měli mít datovou sadu CSV s agregovanými výsledky ze všech klientů srovnávacích testů.

Operation,Count,Throughput,Min(microsecond),Max(microsecond),Avg(microsecond),P9S(microsecond),P99(microsecond)
READ,180000,299,706,448255,1079,1159,2867

Návody

Architektura srovnávacích testů pro Azure Databases obsahuje recepty pro zapouzdření definic úloh, které se předávají do základního srovnávacího nástroje pro prostředí s jedním kliknutím. Definice úloh byly navrženy na základě osvědčených postupů publikovaných týmem služby Azure Cosmos DB a týmem srovnávacího nástroje. Recepty byly testovány a ověřeny pro konzistentní výsledky.

U všech receptů čtení a zápisu v úložišti GitHub můžete očekávat následující latence.

Latence čtení
Latence zápisu

Běžné problémy

Tato část obsahuje běžné chyby, ke kterým může dojít při spuštění nástroje pro srovnávací testy. Protokoly chyb pro tento nástroj jsou obvykle k dispozici v kontejneru v rámci účtu služby Azure Storage.

Snímek obrazovky s kontejnerem a objekty blob v účtu úložiště

Pokud protokoly nejsou v účtu úložiště dostupné, je tento problém obvykle způsobený nesprávným nebo chybějícím připojovacím řetězcem úložiště. V tomto případě je tato chyba uvedená v souboru agent.out ve složce /home/benchmarking klientského virtuálního počítače.
```
Error while accessing storage account, exiting from this machine in agent.out on the VM
```
Tato chyba je uvedená v souboru agent.out na klientském virtuálním počítači i v účtu úložiště, pokud je identifikátor URI koncového bodu služby Azure Cosmos DB nesprávný nebo nedostupný.
```
Caused by: java.net.UnknownHostException: rtcosmosdbsss.documents.azure.com: Name or service not known 
```
Tato chyba je uvedená v souboru agent.out na klientském virtuálním počítači i v účtu úložiště, pokud je klíč služby Azure Cosmos DB nesprávný.
```
The input authorization token can't serve the request. The wrong key is being used….
```

Další kroky

Další informace o nástroji pro srovnávací testy najdete v průvodci Začínáme.

Share via