简单介绍CUDA中loop unrolling(循环展开)技术

参考：http://blog.csdn.net/canhui_wang/article/details/52919318

loop unrolling 不同于内存优化(hardware accessing)，这是一种指令级优化（software programming）。如果说编程上For循环是一种以计算性能的打折作为代价来实现编程的简单化的编程思路，那么Loop unrolling将是一种以编程复杂为代价来提升并行代码性能的高级的编程方式；更进一步地，For循环可以看成是loop unrolling零优化的状态；所以，计算性能loop unrolling严格优于或至少等于For语句——这是CPU，GPU的硬件的系统结构所致。

举例分析如下：

loop_unrolling.cpp

#include <iostream>
#include <windows.h>
#pragma comment(lib, "Winmm.lib")   //timeGetTime() using namespace std;int main()
{int N = 10000000;DWORD start, end1,end2;start = timeGetTime();int *a = (int*)malloc(sizeof(int) * N);//传统实现for (int i = 0; i < N; i++) {a[i] = i*2;}end1 = timeGetTime();cout <<"传统实现时间："<< (end1 - start) << " ms" << endl;//指令并行化for (int i = 0; i < N; i = i + 2) {a[i] = i * 2;a[i + 1] = (i + 1) * 2;}end2 = timeGetTime();cout << "指令并行化实现时间："<< (end2 - end1) << " ms" << endl;return 0;
}

运行结果：

Unrolling Loop可以进一步抽象出“并行粒度”的概念，比如，例子一中一个线程处理一个指令（任务轻），例子二中一个线程处理两个指令（任务重）；另一方面，就CUDA而言，例子一需要的blocks数目少，例子二需要的blocks数目多。因为总体的性能是由线程执行时间与blocks数目决定的（线程计算能力范围内任务轻重耗时相近，计算能力外任务重耗时大；并行blocks能力范围内（比如NVIDIA GTX780Ti一次可并行192blcoks）blcoks的数目多数目少二者耗时相近），能力范围外，blocks数多点调度数目多点，耗时长点————总而言之，这是一个tradeoff问题，我们做的就是寻找一种策略在blocks块数目与线程处理时间之间的处理平衡，达到性能最大优化。

简单介绍CUDA中loop unrolling(循环展开)技术相关推荐

简单介绍Java中Comparable和Comparator
转载自简单介绍Java中Comparable和Comparator Comparable 和 Comparator是Java核心API提供的两个接口,从它们的名字中,我们大致可以猜到它们用来做对象之 ...
python中len用法_简单介绍Python中的len()函数的使用
简单介绍Python中的len()函数的使用函数:len() 1:作用:返回字符串.列表.字典.元组等长度 2:语法:len(str) 3:参数:str:要计算的字符串.列表.字典.元组等 4:返回 ...
简述python中的几种数据类型,简单介绍Python中的几种数据类型
简单介绍Python中的几种数据类型 python 里面分为基本数据类型和复合数据类型基本数据类型包括:数值字符串布尔和 none 复合数据类型包括:列表元组字典和集合怎么算是深情 ...
简单介绍Python中的几种数据类型
大体上把Python中的数据类型分为如下几类: Number(数字) 包括int,long,float,complex String(字符串) 例如:hello,"hello",h ...
len函数python返回值类型_简单介绍Python中的len()函数的使用
01状态机介绍游戏中的状态机一般都是有限状态机,简写为FSM(有限状态机),简称状态机,是表示有限个状态以及在这些状态之间的转移和动作等行为的数学模型. 状态机的每一个状态至少需要有以下三个操作: ...
简单介绍ASP中Cache技术的应用
ASP从发布至今已经7年了,使用ASP技术已经相当成熟,自从微软推出了ASP.NET之后就逐渐停止了对ASP版本的更新.但是由于有很多人仍然习惯使用ASP来开发网站,所以,再次我将以一个简单的例子来说 ...
简单介绍pytorch中分布式训练DDP使用 (结合实例，快速入门)
文章目录 DDP原理 pytorch中DDP使用相关的概念使用流程如何启动 torch.distributed.launch spawn调用方式针对实例voxceleb_trainer多卡介绍 ...
简单介绍Tomcat中catalina.out 和 catalina.log的区别和用途
本文主要介绍了Tomcat中catalina.out 和 catalina.log的区别和用途详解,文中通过示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下 catalina. ...
简单介绍SQLserver中的declare变量用法
这篇文章主要介绍了SQLserver中的declare变量用法,sql中declare是声明的意思,就是声明变量的,这个一般是用在函数和存储过程中的.感兴趣的可以来了解一下平时写SQL查询.存储过程 ...

简单介绍CUDA中loop unrolling(循环展开)技术

简单介绍CUDA中loop unrolling(循环展开)技术相关推荐

最新文章

热门文章