Como realizar operações de mapa e redução em paralelo

Artigo
10/12/2023

Este exemplo mostra como usar os algoritmos concurrency::parallel_transform e concurrency::parallel_reduce e a classe concurrency::concurrent_unordered_map para contar as ocorrências de palavras em arquivos.

Uma operação de mapa aplica uma função a cada valor em uma sequência. Uma operação de redução combina os elementos de uma sequência em um valor. Você pode usar as funções std::transform e std::accumulate da Biblioteca Padrão do C++ para executar operações de mapa e redução. No entanto, para melhorar o desempenho em relação a vários problemas, você pode usar o algoritmo parallel_transform para executar a operação de mapa em paralelo e o algoritmo parallel_reduce para executar a operação de redução em paralelo. Em alguns casos, você pode usar concurrent_unordered_map para executar o mapa e a redução em uma operação.

Exemplo

O exemplo a seguir conta as ocorrências de palavras em arquivos. Ele usa std::vector para representar o conteúdo de dois arquivos. A operação de mapa calcula as ocorrências de cada palavra em cada vetor. A operação de redução acumula as contagens de palavras em ambos os vetores.

// parallel-map-reduce.cpp
// compile with: /EHsc
#include <ppl.h>
#include <algorithm>
#include <iostream>
#include <string>
#include <vector>
#include <numeric>
#include <unordered_map>
#include <windows.h>

using namespace concurrency;
using namespace std;

class MapFunc 
{ 
public:
    unordered_map<wstring, size_t> operator()(vector<wstring>& elements) const 
    { 
        unordered_map<wstring, size_t> m;
        for_each(begin(elements), end(elements), [&m](const wstring& elem)
        { 
            m[elem]++;
        });
        return m; 
    }
}; 

struct ReduceFunc : binary_function<unordered_map<wstring, size_t>, 
                    unordered_map<wstring, size_t>, unordered_map<wstring, size_t>>
{
    unordered_map<wstring, size_t> operator() (
        const unordered_map<wstring, size_t>& x, 
        const unordered_map<wstring, size_t>& y) const
    {
        unordered_map<wstring, size_t> ret(x);
        for_each(begin(y), end(y), [&ret](const pair<wstring, size_t>& pr) {
            auto key = pr.first;
            auto val = pr.second;
            ret[key] += val;
        });
        return ret; 
    }
}; 

int wmain()
{ 
    // File 1 
    vector<wstring> v1 {
      L"word1", // 1
      L"word1", // 1
      L"word2",
      L"word3",
      L"word4"
    };

    // File 2 
    vector<wstring> v2 {
      L"word5",
      L"word6",
      L"word7",
      L"word8",
      L"word1" // 3
    };

    vector<vector<wstring>> v { v1, v2 };

    vector<unordered_map<wstring, size_t>> map(v.size()); 

    // The Map operation
    parallel_transform(begin(v), end(v), begin(map), MapFunc()); 

    // The Reduce operation 
    unordered_map<wstring, size_t> result = parallel_reduce(
        begin(map), end(map), unordered_map<wstring, size_t>(), ReduceFunc());

    wcout << L"\"word1\" occurs " << result.at(L"word1") << L" times. " << endl;
} 
/* Output:
   "word1" occurs 3 times.
*/

Compilando o código

Para compilar o código, copie-o e cole-o em um projeto do Visual Studio, ou cole-o em um arquivo chamado parallel-map-reduce.cpp e execute o seguinte comando em uma janela do Prompt de comando do Visual Studio.

cl.exe /EHsc parallel-map-reduce.cpp

Programação robusta

Neste exemplo, você pode usar a classe concurrent_unordered_map, que é definida em concurrent_unordered_map.h, para executar o mapa e reduzir em uma operação.

// File 1 
vector<wstring> v1 {
  L"word1", // 1
  L"word1", // 2
  L"word2",
  L"word3",
  L"word4",
};

// File 2 
vector<wstring> v2 {
  L"word5",
  L"word6",
  L"word7",
  L"word8",
  L"word1", // 3
}; 

vector<vector<wstring>> v { v1, v2 };

concurrent_unordered_map<wstring, size_t> result;
for_each(begin(v), end(v), [&result](const vector<wstring>& words) {
    parallel_for_each(begin(words), end(words), [&result](const wstring& word) {
        InterlockedIncrement(&result[word]);
    });
});
            
wcout << L"\"word1\" occurs " << result.at(L"word1") << L" times. " << endl;

/* Output:
   "word1" occurs 3 times.
*/

Normalmente, você paraleliza apenas o loop externo ou interno. Paralelize o loop interno se você tiver relativamente poucos arquivos e cada arquivo contiver muitas palavras. Paralelize o loop interno se você tiver muitos arquivos e cada arquivo contiver poucas palavras.

Confira também

Algoritmos paralelos
Função parallel_transform
Função parallel_reduce
Classe concurrent_unordered_map

Compartilhar via