Meça o Azure Cosmos DB para desempenho NoSQL com uma framework de benchmarking

Agora há mais opções do que nunca sobre o tipo de base de dados a utilizar com a sua carga de trabalho de dados. Um dos fatores-chave para escolher uma base de dados é o desempenho da base de dados ou serviço, mas o desempenho em benchmarking pode ser complicado e propenso a erros. A framework de benchmarking para Azure Databases simplifica o processo de medição do desempenho com ferramentas populares de benchmarking open-source, com receitas de baixa fricção que implementam as melhores práticas comuns. No Azure Cosmos DB para NoSQL, o framework implementa as melhores práticas para o Java SDK e utiliza a ferramenta open source YCSB . Neste guia, usa esta estrutura de benchmarking para implementar uma carga de trabalho de leitura e assim se familiarizar com a estrutura.

Pré-requisitos

• Uma conta do Azure com uma assinatura ativa. Crie uma conta gratuitamente.
• Conta do Azure Cosmos DB para base de dados NoSQL. Crie uma API para uma conta NoSQL.
  • Certifica-te de que registas o URI do endpoint e a chave principal da conta.
• Conta de Armazenamento do Azure. Crie uma conta de Armazenamento do Azure.
  • Certifica-te de que registas a cadeia de ligação da conta de armazenamento. Vies Azure Storage connection string.
• Segundo grupo de recursos vazio. Crie um grupo de recursos.
• Azure Command-Line Interface (CLI).

Criar recursos de conta Azure Cosmos DB

Primeiro, cria-se uma base de dados e um contentor na API existente para a conta NoSQL.

portal do Azure

1. Navegue até à sua API existente para a conta NoSQL no Portal Azure.

2. No menu de recursos, selecione Data Explorer.

   

3. Na página do Data Explorer , selecione a opção Novo Contentor na barra de comandos.

   

4. No diálogo Novo Contentor , crie um novo contentor com as seguintes definições:

   Configuração	Valor
   ID da base de dados	ycsb
   Tipo de rendimento da base de dados	Manual
   Taxa de transferência da base de dados	400
   ID do contentor	usertable
   Chave de partição	/id

   

1. Se ainda não o fizeste, inicia sessão no Azure CLI usando o az login comando.

2. Crie variáveis shell para os seguintes valores:

   • Nome da sua conta existente Azure Cosmos DB para NoSQL chamada cosmosAccountName.
   • Nome do teu primeiro grupo de recursos com recursos chamados sourceResourceGroupName.
   • Nome do seu segundo grupo de recursos vazio chamado targetResourceGroupName.
   • URI do ponto final da conta Azure Cosmos DB para NoSQL existente chamado cosmosEndpoint
   • Chave primária de conta existente do Azure Cosmos DB para NoSQL nomeada cosmosPrimaryKey

   # Variable for Azure Cosmos DB for NoSQL account name
   cosmosAccountName="<cosmos-db-nosql-account-name>"
   
   # Variable for resource group with Azure Cosmos DB and Azure Storage accounts
   sourceResourceGroupName="<first-resource-group-name>"
   
   # Variable for empty resource group
   targetResourceGroupName="<second-resource-group-name>"
   
   # Variable for API for NoSQL endpoint URI
   cosmosEndpoint="<cosmos-db-nosql-endpoint-uri>"
   
   # Variable for API for NoSQL primary key
   cosmosPrimaryKey="<cosmos-db-nosql-primary-key>"
   
   # Variable for Azure Storage account name
   storageAccountName="<storage-account-name>"
   
   # Variable for storage account connection string
   storageConnectionString="<storage-connection-string>"
   

3. Usando o az cosmosdb sql database create comando, crie uma nova base de dados com as seguintes definições:

   Configuração	Valor
   ID da base de dados	ycsb
   Tipo de rendimento da base de dados	Manual
   Largura de banda da base de dados	400

   az cosmosdb sql database create \
       --resource-group $sourceResourceGroupName \
       --account-name $cosmosAccountName \
       --name "ycsb" \
       --throughput 400
   

4. Usando o az cosmosdb sql container create comando, crie um novo contentor com as seguintes definições:

   Configuração	Valor
   ID da base de dados	ycsb
   ID do contentor	usertable
   Chave de partição	/id

   az cosmosdb sql container create \
       --resource-group $sourceResourceGroupName \
       --account-name $cosmosAccountName \
       --database-name "ycsb" \
       --name "usertable" \
       --partition-key-path "/id"
   

Implementar o framework de benchmarking no Azure

Agora, usas um modelo do Gerenciador de Recursos do Azure para implementar o framework de benchmarking no Azure com a receita de leitura padrão.

portal do Azure

1. Implemente o framework de benchmarking usando um modelo Azure Resource Manager disponível neste link.

   

2. Na página de Implantação Personalizada, os seguintes parâmetros

   

3. Selecione Rever + criar e depois Criar para implementar o modelo.

4. Aguarde até que a implementação seja concluída.

   Sugestão

   O desdobramento pode demorar entre 5 a 10 minutos a completar.

1. Use az deployment group create para implementar o framework de benchmarking usando um modelo Azure Resource Manager.

   # Variable for raw template JSON on GitHub
   templateUri="https://raw.githubusercontent.com/Azure/azure-db-benchmarking/main/cosmos/sql/tools/java/ycsb/recipes/read/try-it-read/azuredeploy.json"
   
   az deployment group create \
       --resource-group $targetResourceGroupName \
       --name "benchmarking-framework" \
       --template-uri $templateUri \
       --parameters \
           adminPassword='P@ssw.rd' \
           resultsStorageConnectionString=$storageConnectionString \
           cosmosURI=$cosmosEndpoint \
           cosmosKey=$cosmosPrimaryKey
   

2. Aguarde até que a implementação seja concluída.

   Sugestão

   O desdobramento pode demorar entre 5 a 10 minutos a completar.

Ver resultados do benchmark

Agora, pode usar a conta Azure Storage existente para verificar o estado do trabalho de benchmark e visualizar os resultados agregados. O estado é armazenado usando uma tabela de armazenamento e os resultados são agregados num blob de armazenamento usando o formato CSV.

portal do Azure

1. Navegue até à sua conta Azure Storage existente no portal Azure.

2. Navegue até uma tabela de armazenamento chamada ycsbbenchmarkingmetadata e localize a entidade com uma chave de partição de ycsb_sql.

   

3. Observe o JobStatus campo da entidade da tabela. Inicialmente, o estado do trabalho é Started e inclui um carimbo temporal na propriedade JobStartTime, mas não na JobFinishTime.

4. Espere até que o trabalho tenha um estado de Finished e que inclua um carimbo temporal na propriedade JobFinishTime.

   Sugestão

   Pode demorar aproximadamente 20-30 minutos para o trabalho terminar.

5. Aceda ao contentor de armazenamento na mesma conta, com o prefixo ycsbbenchmarking-*. Observe os blobs de saída e de diagnóstico da ferramenta.

   

6. Abre o aggregation.csv blob e observa o conteúdo. Agora deves ter um conjunto de dados CSV com resultados agregados de todos os clientes de benchmark.

   

   Operation,Count,Throughput,Min(microsecond),Max(microsecond),Avg(microsecond),P9S(microsecond),P99(microsecond)
   READ,180000,299,706,448255,1079,1159,2867
   

1. Consulte o registo de trabalho numa tabela de armazenamento nomeada ycsbbenchmarkingmetadata usando az storage entity query.

   az storage entity query \
       --account-name $storageAccountName \
       --connection-string $storageConnectionString \
       --table-name ycsbbenchmarkingmetadata
   

2. Observe os resultados desta consulta. Os resultados devem devolver uma única tarefa com as propriedades JobStartTime, JobStatus e JobFinishTime. Inicialmente, o estado do trabalho é Started e inclui um carimbo temporal na propriedade JobStartTime, mas não na JobFinishTime.

   {
     "items": [
       {
         "JobFinishTime": "",
         "JobStartTime": "2023-02-02T13:59:42Z",
         "JobStatus": "Started",
         "NoOfClientsCompleted": "0",
         "NoOfClientsStarted": {
           "edm_type": "Edm.Int64",
           "value": 1
         },
         "PartitionKey": "ycsb_sql",
         ...
       }
     ],
     ...
   }
   

3. Se necessário, execute az storage entity query várias vezes até que o trabalho tenha um estado de Finished e um carimbo temporal esteja incluído na propriedade JobFinishTime.

   {
     "items": [
       {
         "JobFinishTime": "2023-02-02T14:21:12Z",
         "JobStartTime": "2023-02-02T13:59:42Z",
         "JobStatus": "Finished",
         ...
       }
     ],
     ...
   }
   

   Sugestão

   Pode demorar aproximadamente 20-30 minutos para o trabalho terminar.

4. Encontre o nome do contentor de armazenamento mais recentemente modificado com o prefixo ycsbbenchmarking-*, usando az storage container list e uma consulta JMESPath.

   az storage container list \
       --account-name $storageAccountName \
       --connection-string $storageConnectionString \
       --query "sort_by([?starts_with(name, 'ycsbbenchmarking-')], &properties.lastModified)[-1].name" \
       --output tsv
   

5. Armazene a cadeia de contentores numa variável chamada storageConnectionString.

   storageContainerName=$( \
       az storage container list \
           --account-name $storageAccountName \
           --connection-string $storageConnectionString \
           --query "sort_by([?starts_with(name, 'ycsbbenchmarking-')], &properties.lastModified)[-1].name" \
           --output tsv \
   )
   

6. Use [az storage blob query]/cli/azure/storage/blob#az-storage-blob-query) para consultar os resultados do trabalho num blob de armazenamento armazenado no contentor previamente localizado.

   az storage blob query \
       --account-name $storageAccountName \
       --connection-string $storageConnectionString \
       --container-name $storageContainerName \
       --name aggregation.csv \
       --query-expression "SELECT * FROM BlobStorage"
   

7. Observe os resultados desta consulta. Agora deves ter um conjunto de dados CSV com resultados agregados de todos os clientes de benchmark.

   Operation,Count,Throughput,Min(microsecond),Max(microsecond),Avg(microsecond),P9S(microsecond),P99(microsecond)
   READ,180000,299,706,448255,1079,1159,2867
   

Receitas

A estrutura de benchmarking para Azure Databases inclui receitas para encapsular as definições da carga de trabalho que são passadas para a ferramenta de benchmarking subjacente para uma experiência "1-Clique". As definições da carga de trabalho foram desenhadas com base nas melhores práticas publicadas pela equipa Azure Cosmos DB e pela equipa da ferramenta de benchmarking. As receitas foram testadas e validadas para resultados consistentes.

Pode esperar ver as seguintes latências para todos os processos de leitura e escrita no repositório do GitHub.

• Latência de leitura

  

• Latência de escrita

  

Problemas comuns

Esta secção inclui os erros comuns que podem ocorrer ao executar a ferramenta de benchmarking. Os registos de erro da ferramenta estão normalmente disponíveis num contentor dentro da conta Azure Storage.

• Se os registos não estiverem disponíveis na conta de armazenamento, este problema é normalmente causado por uma cadeia de ligação de armazenamento incorreta ou em falta. Neste caso, este erro está listado no ficheiro agent.out dentro da pasta /home/benchmarking da máquina virtual do cliente.

  Error while accessing storage account, exiting from this machine in agent.out on the VM
  

• Este erro está listado no ficheiro agent.out tanto na VM cliente como na conta de armazenamento se o URI do endpoint do Azure Cosmos DB estiver incorreto ou inacessível.

  Caused by: java.net.UnknownHostException: rtcosmosdbsss.documents.azure.com: Name or service not known 
  

• Este erro está listado no ficheiro agent.out tanto na VM cliente como na conta de armazenamento se a chave da base de dados Azure Cosmos estiver incorreta.

  The input authorization token can't serve the request. The wrong key is being used….
  

Próximos passos

• Saiba mais sobre a ferramenta de benchmarking com o guia Getting Started.