为啥我的 Eigen 代码不能随更多线程扩展

Posted 2023-02-22

【中文标题】为啥我的 Eigen 代码不能随更多线程扩展

【英文标题】：Why is my Eigen code not scaling with more threads为什么我的 Eigen 代码不能随更多线程扩展

【发布时间】：2018-04-24 23:43:08

【问题描述】：

我有一个 Eigen/C++ 代码，其目的是执行行主要稀疏密集和密集列主要稀疏矩阵乘法，both of which are multithreaded in Eigen。

但是，我发现只有 row major sparse-dense multiplication 可以缩放，而dense-col major sparse multiplication 没有。为什么是这样？下面是代码和时间。

/*timer function*/
double getHighResolutionTime(void) 
struct timeval tod;
gettimeofday(&tod, NULL);
double time_seconds = (double) tod.tv_sec + ((double) tod.tv_usec / 1000000.0);
return time_seconds;

...

//define Col Major Sparse
Map<SparseMatrix<double,ColMajor> > gcol (m, n, nz, jc_int, ir_int, pr);

//define the same matrix but Row Major
Map<SparseMatrix<double,RowMajor> > grow (m, n, nz, jc_int, ir_int, pr);

//define dense matrix
Map<MatrixXd> G (PR1, M, N );

//define result
Map<MatrixXd> result (PR2, M, N);

//row major sparse - dense product
double tic=getHighResolutionTime();
result=grow*G;
double toc=getHighResolutionTime();
printf("\nsparse-dense time: %f seconds", (toc - tic));

//dense - col major sparse product
tic=getHighResolutionTime();
result=G*gcol;
toc=getHighResolutionTime();
printf("\ndense-sparse time: %f seconds\n", (toc - tic));

使用 1、2、4、8 和 16 线程（在 16 核机器上）的输出和计时。只有稀疏-密集的尺度，而不是密集-稀疏的。

Using 1 threads...
sparse-dense time: 5.184886 seconds
dense-sparse time: 3.278560 seconds

Using 2 threads...
sparse-dense time: 2.808550 seconds
dense-sparse time: 3.275191 seconds

Using 4 threads...
sparse-dense time: 1.589596 seconds
dense-sparse time: 3.278983 seconds

Using 8 threads...
sparse-dense time: 1.005600 seconds
dense-sparse time: 3.279466 seconds

Using 16 threads...
sparse-dense time: 0.736803 seconds
dense-sparse time: 3.278893 seconds

附加信息：矩阵是 7000x7000 随机、实数和双精度。稀疏矩阵是随机的，密度为 1%。两次乘法的数值结果都是正确的。我正在使用以下标志进行编译：

-fomit-frame-pointer -O3 -DNDEBUG -fopenmp -march=native -fPIC

编辑：

ggael 的回答效果很好。以下是新的缩放比例：

Using 1 threads...
sparse-dense time: 5.070809 seconds
dense-sparse time: 3.270347 seconds

Using 2 threads...
sparse-dense time: 2.786790 seconds
dense-sparse time: 2.070378 seconds

Using 4 threads...
sparse-dense time: 1.580925 seconds
dense-sparse time: 1.243466 seconds

Using 8 threads...
sparse-dense time: 1.000152 seconds
dense-sparse time: 0.887953 seconds

Using 16 threads...
sparse-dense time: 0.898228 seconds
dense-sparse time: 0.909603 seconds

【参考方案1】：

您需要 Eigen 的负责人（请参阅各自的 commit）。