c++的矩阵乘法加速trick

最近读RNNLM的源代码，发现其实现矩阵乘法时使用了一个trick，这里描述一下这个trick。

首先是正常版的矩阵乘法（其实是矩阵乘向量）

void matrixXvector(float* destvect, float* srcmatrix, int srcmatrix_rownum, int srcmatrix_colnum, float* srcvect, int srcvect_size){for(int row=0;row<srcmatrix_rownum;++row){destvect[row]=0;for(int col=0;col<srcmatrix_colnum;++col){destvect[row]+=srcmatrix[row*srcmatrix_colnum+col]*srcvect[col];}}
}

就是最简单的for循环，逐行逐列遍历。

接下来是RNNLM中实现的trick版本

void matrixXvector2(float* destvect, float* srcmatrix, int srcmatrix_rownum, int srcmatrix_colnum, float* srcvect, int srcvect_size){int row, col;float val1, val2, val3, val4;float val5, val6, val7, val8;for(row=0;row<srcmatrix_rownum/8;++row){val1 = 0;val2 = 0;val3 = 0;val4 = 0;val5 = 0;val6 = 0;val7 = 0;val8 = 0;for(col=0;col<srcmatrix_colnum;++col){val1+=srcmatrix[(row*8+0)*srcmatrix_colnum+col]*srcvect[col];val2+=srcmatrix[(row*8+1)*srcmatrix_colnum+col]*srcvect[col];val3+=srcmatrix[(row*8+2)*srcmatrix_colnum+col]*srcvect[col];val4+=srcmatrix[(row*8+3)*srcmatrix_colnum+col]*srcvect[col];val5+=srcmatrix[(row*8+4)*srcmatrix_colnum+col]*srcvect[col];val6+=srcmatrix[(row*8+5)*srcmatrix_colnum+col]*srcvect[col];val7+=srcmatrix[(row*8+6)*srcmatrix_colnum+col]*srcvect[col];val8+=srcmatrix[(row*8+7)*srcmatrix_colnum+col]*srcvect[col];}destvect[row*8+0]+=val1;destvect[row*8+1]+=val2;destvect[row*8+2]+=val3;destvect[row*8+3]+=val4;destvect[row*8+4]+=val5;destvect[row*8+5]+=val6;destvect[row*8+6]+=val7;destvect[row*8+7]+=val8;}for(row=row*8;row<srcmatrix_rownum;++row){for(col=0;col<srcmatrix_colnum;++col){destvect[row]+=srcmatrix[row*srcmatrix_colnum+col]*srcvect[col];    }}
}

对比普通版，trick版把遍历行的for循环分成了8份，同时进行列遍历。

实际测试中，这个trick版比普通版快了接近2倍~这是编译器优化造成的么……？

参考：http://www.cnblogs.com/plwang1990/p/4139357.html

c++的矩阵乘法加速trick相关推荐

基于PYNQ-Z2开发板实现矩阵乘法加速详细流程
基于PYNQ-Z2开发板实现矩阵乘法加速主要内容 1.在Vivado HLS中生成矩阵乘法加速的IP核. 2.在Vivado中完成Block Design. 3.在Jupyter Notebook上 ...
BZOJ 1009 GT考试 (AC自动机 + 矩阵乘法加速dp)
题目链接: https://www.lydsy.com/JudgeOnline/problem.php?id=1009 题意: 准考证号为\(n\)位数\(X_1X_2....X_n(0<=X_ ...
利用硬件实现矩阵乘法加速
对于绝大多数程序员来说,优化程序往往是在算法方面.但了解一定的计算机硬件知识后,可以隐式地优化程序.下面以矩阵乘法为例,探讨计算机硬件在程序优化中的作用. 原理学过计算机组成原理的都知道,CPU访问 ...
P1306-斐波那契公约数【矩阵乘法,数论】
正题题目链接: https://www.luogu.org/problemnew/show/P1306 题目大意求出第x项和第y项斐波那契额数的最大公约数. 解题思路首先第x项和第y项斐波那契额 ...
SPOJ 1676 矩阵乘法+DP
题意: 给定N (1 ≤ N ≤ 10)个长度不超过6的单词,求由大写字母组成长度为L的包含至少一个给定单词的字符串有多少种,答案 mod 10007,(1 ≤ L ≤ 10^6). 题解: 这个题最 ...
【矩阵乘法】JZOJ_4787 数格子
题意求出用 2 × 1 2\times 1 2×1的牌填满 4 × N 4\times N 4×N的矩形方案数% M M M. 思路可以打表,得出 1 , 5 , 11 , 36 , 95 1,5 ...
jzoj4787-[NOIP2016提高A组模拟9.17]数格子【矩阵乘法】
正题题目大意求 1 × 2 1\times 2 1×2的方块铺满 4 × n 4\times n 4×n的方格方案总数. 解题思路首先当计算 f n f_n fn时, 显然最后一排可以 ( ...
bzoj2126 排斥反应矩阵乘法
发现p很小而q很大..矩阵乘法这么明显的提示. 不过转化还是很巧妙的.将所有的数变成p行q列的矩阵,然后就变成求从中取出一些点使得没有点相邻(包括同一行的最前面和最后面也算相邻). 首先可以得到某一列 ...
矩阵乘法（超详细！！！）
矩阵是什么? 是一个数字阵列,一个二维数组,n行r列的阵列称为n*r矩阵.如果n==r则称为方阵. 2×3矩阵 5×5方阵特殊的单位矩阵,除了对角线为1,其他位置为0的矩阵.类似乘法中的1. 3×3 ...

c++的矩阵乘法加速trick

c++的矩阵乘法加速trick

c++的矩阵乘法加速trick相关推荐

最新文章

热门文章