矩阵乘法优化之分块矩阵

Posted ZYVV

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了矩阵乘法优化之分块矩阵相关的知识,希望对你有一定的参考价值。

当矩阵尺寸过大时,数据的大小将超过缓存的大小,这是容易出现满不命中现象。

将矩阵进行分块可以解决这个问题,以下是完整的矩阵乘法代码:

vord brck(array A, array B, array C, int n, int bsize) 
{
    int r, c, k, kk, cc;
    double sum;
    int en = bsize * (n/bsize); /* Amount that frts evenly into blocks */
  
    for (r = 0; r < n; r++)
        for (c = 0; c < n; c++)
            C[r][c] = 0.0;

    for (kk = 0; kk < en; kk += bsize) { 
        for (cc = 0; cc < en; cc += bsize) {
            for (r = 0; r < n; r++) {
                for (c = cc; c < cc + bsize; c++) {
                    sum = C[r][c];
                    for (k = kk; k < kk + bsize; k++) {
                         sum += A[r][k]*B[k][c];
                    }
                    C[r][c] = sum;
                }
            }
        }

  分析思路:

  1. 矩阵分块前后的乘法计算总数恒定不变,分块前是n^3 。

  2. 现将矩阵按mxm进行分块,整个矩阵被分成n^2/m^2 个子矩阵,乘法计算总是 (n^2/m^2) x n x m^2  。

  3. 由2可知,分块后,矩阵以mxm为单位进行乘法运算,它被嵌套在三层循环内。

  ps: 本算法分块后的并不是正方形矩阵,而是在n行或者n列上的矩阵乘积和。优点: 每次都在相邻位置上进行读写,提高了访问性能。

 

以上是关于矩阵乘法优化之分块矩阵的主要内容,如果未能解决你的问题,请参考以下文章

如何进一步优化矩阵乘法的性能?

如何计算矩阵的乘法?

缓存友好的优化:面向对象的矩阵乘法和函数内平铺矩阵乘法

CUDA 矩阵乘法优化

矩阵乘法优化dp

cpumemory.pdf - 缓存优化矩阵乘法