使用 OpenMP 的扩展错误(缓存争用?

Question

我正在尝试了解有关OpenMP和缓存争用的更多信息，因此我编写了一个简单的程序来更好地了解它的工作原理。对于简单的矢量添加，我的线程缩放很差，但我不明白为什么。这是我的程序：

#include <iostream>
#include <omp.h>
#include <vector>
using namespace std;
int main(){
    // Initialize stuff
    int nuElements=20000000; // Number of elements
    int i;
    vector<int> x, y, z;
    x.assign(nuElements,0);
    y.assign(nuElements,0);
    z.assign(nuElements,0);
    double start; // Timer
    for (i=0;i<nuElements;++i){
       x[i]=i;
       y[i]=i;
    }    
    // Increase the threads by 1 every time, and add the two vectors  
    for (int t=1;t<5;++t){
        // Re-set z vector values
        z.clear();
        // Set number of threads for this iteration
        omp_set_num_threads(t);
        // Start timer
        start=omp_get_wtime();
        // Parallel for
#pragma omp parallel for
        for (i=0;i<nuElements;++i)
        {
            z[i]=x[i]+y[i];
        }
        // Print wall time
        cout<<"Time for "<<omp_get_max_threads()<<" thread(s) : "<<omp_get_wtime()-start<<endl;
    }
    return 0;
}

运行此操作将生成以下输出：

Time for 1 thread(s) : 0.020606
Time for 2 thread(s) : 0.022671
Time for 3 thread(s) : 0.026737
Time for 4 thread(s) : 0.02825

我用这个命令编译：clang++ -O3 -std=c++11 -fopenmp=libiomp5 test_omp.cpp

如您所见，随着线程数量的增加，扩展只会变得更糟。我在 4 核 Intel-i7 处理器上运行它。有谁知道发生了什么？

Answer 1

您受内存带宽的限制，而不是 CPU 速度。 如果您所做的只是添加和复制，则只需要一个 CPU 即可保持内存繁忙，因此添加更多内核无济于事。

如果您想看到添加更多线程的好处，请尝试在足够小的内存上执行更复杂的操作，以适合 L1 或 L2 缓存。