AVX2指令集浮点乘法性能分析
AVX2指令集浮点乘法性能分析
- 一、AVX2指令集介绍
- 二、代码实现
- 0. 数据生成
- 1. 普通连乘
- 2. AVX2指令集乘法:单精度浮点(float)
- 3. AVX2指令集乘法:双精度浮点(double)
- 三、性能测试
- 测试环境
- 计时方式
- 测试内容
- 进行性能测试
- 第一次测试
- 第二次测试
- 四、总结
- 个人猜测原因:
一、AVX2指令集介绍
AVX2是SIMD(单指令多数据流)指令集,支持在一个指令周期内同时对256位内存进行操作。包含乘法,加法,位运算等功能。下附Intel官网使用文档。
Intel® Intrinsics Guide
我们本次要用到的指令有 **__m256 _mm256_mul_ps(__m256 a, __m256 b), __m256d_mm256_mul_pd(__m256d a, __m256d b)**等,(p代表精度precision,s代表single,d代表double)
它们可以一次取256位的内存,并按32/64位一个浮点进行乘法运算。下附官网描述。
Synopsis
__m256d _mm256_mul_pd (__m256d a, __m256d b)
#include <immintrin.h>
Instruction: vmulpd ymm, ymm, ymm
CPUID Flags: AVX
Description
Multiply packed double-precision (64-bit) floating-point elements in a and b, and store the results in dst.
Operation
FOR j := 0 to 3i := j*64dst[i+63:i] := a[i+63:i] * b[i+63:i]
ENDFOR
dst[MAX:256] := 0
Performance
Architecture | Latency | Throughput (CPI) |
---|---|---|
Icelake | 4 | 0.5 |
Skylake | 4 | 0.5 |
Broadwell | 3 | 0.5 |
Haswell | 5 | 0.5 |
Ivy Bridge | 5 | 1 |
二、代码实现
0. 数据生成
为了比较结果,我们用1+1e-8
填充。这里利用模版兼容不同数据类型。由于AVX2指令集一次要操作多个数据,为了防止访存越界,我们将大小扩展到256的整数倍位比特,也就是32字节的整数倍。
uint64_t lowbit(uint64_t x)
{return x & (-x);
}uint64_t extTo2Power(uint64_t n, int i)//arraysize datasize
{while(lowbit(n) < i)n += lowbit(n);return n;
}
template <typename T>
T* getArray(uint64_t size)
{uint64_t ExSize = extTo2Power(size, 32/sizeof(T));T* arr = new T[ExSize];for (uint64_t i = 0; i < size; i++)arr[i] = 1.0+1e-8;for (uint64_t i = size; i < ExSize; i++)arr[i] = 1.0;return arr;
}
}
1. 普通连乘
为了比较性能差异,我们先实现一份普通连乘。这里也使用模版。
template <typename T>
T simpleProduct(T* arr, uint64_t size)
{T product = 1;for (uint64_t i = 0; i < size; i++)product *= arr[i];return product;
}
2. AVX2指令集乘法:单精度浮点(float)
这里我们预开一个avx2的整形变量,每次从数组中取8个32位浮点,乘到这个变量上,最后在对这8个32位浮点进行连乘。
float avx2Product(float* arr, uint64_t size)
{float product[8] = {1};__m256 product256 = _mm256_setr_ps(1, 1, 1, 1, 1, 1, 1, 1);__m256 load256 = _mm256_setzero_ps();for (uint64_t i = 0; i < size; i += 8){load256 = _mm256_loadu_ps(&arr[i]);product256 = _mm256_mul_ps(product256, load256);}_mm256_storeu_ps(product, product256);product[0] *= product[1] * product[2] * product[3] * product[4] * product[5] * product[6] * product[7];return product[0];
}
3. AVX2指令集乘法:双精度浮点(double)
double avx2Product(double* arr, uint64_t size)
{double product[4] = {1};__m256d product256 = _mm256_setr_pd(1, 1, 1, 1);__m256d load256 = _mm256_setzero_pd();for (uint64_t i = 0; i < size; i += 4){load256 = _mm256_loadu_pd(&arr[i]);product256 = _mm256_mul_pd(product256, load256);}_mm256_storeu_pd(product, product256);product[0] *= product[1] * product[2] * product[3];return product[0];
}
三、性能测试
测试环境
Device | Description |
---|---|
CPU | Intel Core i9-9880H 8-core 2.3GHz |
Memory | DDR4-2400MHz Dual-Channel 32GB |
complier | Apple Clang-1300.0.29.30 |
计时方式
利用chrono库获取系统时钟计算运行时间,精确到毫秒级
uint64_t getTime()
{uint64_t timems = std::chrono::duration_cast<std::chrono::milliseconds>(std::chrono::system_clock::now().time_since_epoch()).count();return timems;
}
测试内容
连乘1e8遍,答案是(1+1108)108{(1+\frac{1}{10^8})}^{10^8}(1+1081)108,理论上应该是一个比较接近eee的值, 分别测试float和double。
uint64_t N = 1e8;// compare the performance of simpleProduct and avx2Productuint64_t start, end;//compare floatcout << "compare float product" << endl;float* arr = getArray<float>(N);start = getTime();float simpleProductResult = simpleProduct(arr, N);end = getTime();cout << "Simple product: " << simpleProductResult << endl;cout << "Time: " << end - start << " ms" << endl;cout << endl;start = getTime();float avx2ProductResult = avx2Product(arr, N);end = getTime();cout << "AVX2 product: " << avx2ProductResult << endl;cout << "Time: " << end - start << " ms" << endl;cout << endl;delete[] arr;//compare doublecout << "compare double product" << endl;double* arr2 = getArray<double>(N);start = getTime();double simpleProductResult2 = simpleProduct(arr2, N);end = getTime();cout << "Simple product: " << simpleProductResult2 << endl;cout << "Time: " << end - start << " ms" << endl;cout << endl;start = getTime();double avx2ProductResult2 = avx2Product(arr2, N);end = getTime();cout << "AVX2 product: " << avx2ProductResult2 << endl;cout << "Time: " << end - start << " ms" << endl;cout << endl;delete[] arr2;
进行性能测试
第一次测试
- 测试命令
g++ -mavx2 avx_product.cpp
./a.out
- 测试结果
方法 | 耗时(ms) |
---|---|
AVX2乘法 单精度 | 57 |
普通乘法 单精度 | 232 |
AVX2乘法 双精度 | 121 |
普通乘法 双精度 | 243 |
这里能看到单精度下已经出现了比较明显的误差,同时由于CPU内部没有普通的单精度浮点运算器,所以单精度运算和双精度耗时所差无几。
第二次测试
- 测试命令
现在我们再开启O2编译优化试一试:
g++ -O2 -mavx2 avx_product.cpp
./a.out
- 测试结果
方法 | 耗时(ms) |
---|---|
AVX2乘法 单精度 | 19 |
普通乘法 单精度 | 102 |
AVX2乘法 双精度 | 44 |
普通乘法 双精度 | 129 |
四、总结
经过几次测试,我们可以大概得出,AVX指令集在浮点的运算上有比较高的性能,而整形运算的提升则没那么明显,同时AVX2执行一次运算大致会消耗双精度运算2倍的时间,所以如果需要运算的数据小于2个,则用AVX2得不到提升。
个人猜测原因:
- CPU内部整形运算器多于浮点运算器,所以启用优化时整形普通运算能得到更多提升。
- AVX2指令集专门针对浮点型进行过优化。使得运算逻辑门的关键路径长度小于普通浮点运算。
AVX2指令集浮点乘法性能分析相关推荐
- C++、python、CUDA性能分析--矩阵乘法
网上看到一个分析python.Numpy.C++.cuda.cuBLAS做矩阵运算性能的帖子,我觉得非常好.所以,就自己动手实测了一下.这才有了这篇文章.就算是给需要的朋友做个参考吧. ******* ...
- Intel的AVX2指令集解读
原文链接:http://blog.csdn.net/vbskj/article/details/38408213 在Intel Sandy Bridge微架构中,Intel引入了256位SIMD扩展A ...
- Intel 的AVX2指令集解读
在Intel Sandy Bridge微架构中,Intel引入了256位SIMD扩展AVX,这套指令集在兼容原MMX.SSE.SSE2对128位整点SIMD支持的基础上,把支持的总向量数据宽度扩展成了 ...
- Yolov4性能分析(上)
Yolov4性能分析(上) 一.目录 实验测试 1) 测试介绍 2) Test 3) Train 二.分析 1.实验测试 1 实验测试方法 Yolov4训练train实验方法(Darknet shou ...
- python后台开发性能问题_《Python高性能编程》——2.14 确保性能分析成功的策略-阿里云开发者社区...
本节书摘来自异步社区<Python高性能编程>一书中的第2章,第2.14节,作者[美] 戈雷利克 (Micha Gorelick),胡世杰,徐旭彬 译,更多章节内容可以访问云栖社区&quo ...
- 鲲鹏devkit(迁移 测试 性能分析) boostkit
一 devkit 1 业务:不同环境下的开始.测试.部署.迁移.监控项目 2 需求:x86服务器.x86处理器.复杂指令集迁移到鲲鹏服务器.鲲鹏处理器.简洁指令集.调试调优. 3 解决方案: (1)功 ...
- python性能分析与优化
性能分析: 1.种类: 基于事件的性能分析通过收集程序执行过程中的具体事件进行工作,每个调用都会触发,输出数据量大,精度高def profiler(frame, event, arg):print ' ...
- 算法的时间复杂度和性能分析
算法的引入 我们举一个可能不太恰当的例子: 如果将最终写好运行的程序比作战场,我们码农便是指挥作战的将军,而我们所写的代码便是士兵和武器. 那么数据结构和算法是什么?答曰:兵法! 我们可以不看兵法在战 ...
- 和x86同时代的计算机语言指令集,x86指令集同频性能提升
x86近5000条指令,迄今为止最复杂的指令集.这里不研究CISC & RISC,也不考虑process制程变化,主要是看最近几代IA架构对于同频率下性能的提升. x86指令集nasm文档 h ...
- 性能工具之调试工具 GDB(你以为性能分析中用不到吗?)
文章目录 一.前言 二.环境依赖 三.Helloword 示例 四.调试 Redis 示例 1.下载 Redis 源码并解压 2.确认编译选项 3.检查编译 4.GDB 调用 redis-server ...
最新文章
- .NET读写Excel工具Spire.Xls使用(1)入门介绍
- 计算机在生物科学领域的应用论文,大学生物科学教学中计算机的应用
- Java那些事之Berkeley DB
- css transition兼容性,CSS3 Transition详解和使用
- 《教你10分钟制作3D网游》视频吐槽
- leetcode 107. 二叉树的层次遍历 II(维护两个队列,通过异或运算切换)
- Codeforces Round #441 D. Sorting the Coins(模拟)
- tensorflow 小于_坐姿不对,屏幕就变模糊!教你用TensorFlow做一款“隐形背背佳”...
- TCP、UDP套接字的数据传输
- 机器学习算法-Adaboost
- MAC安装ant的办法
- 一些常见的js问题总结
- win11快捷键常用表 最全面的win11快捷键使用指南
- CDA level 1 业务分析师 推荐学习书目
- 【收藏】40 个学术网站,满足科研文献需求!
- MWC - 飞控套件CRIUS MWC MultiWii SE v2.6组装
- Github如何快速找到优秀开源项目
- java 打印 string_java 控制打印机实现打印 String【】aa 字符串的数据
- Linux桌面i3与i7,IT小干货 | i3.i5.i7.i9有什么区别?桌面篇
- AI为职业病做了啥贡献,了解一下