最优的cuda线程配置

1 每个SM上面失少要有192个激活线程，寄存器写后读的数据依赖才能被掩盖

2 将寄存器的bank冲突降到最低，应尽量使每个block含有的线程数是64的倍数

3 block的数量应设置得令可用的计算资源被充分的利用。由于每个block映射到一个sm上面，所以至少应该让block的数目跟sm的数目一样多。

4 当Block中的线程被同步时或者等待读取设备存储器时，相应的SM会闲置。通常让block的数目是sm的2倍以上，使其在时间轴上重叠

5 如果block的数目足够多，则每个Block里的线程数应设置成warp尺寸的整数倍，以免过小的warp浪费计算资源。

6 给每个block分配越多的线程，能更高效的让他们在时间片上工作。但是相应的每个线程的寄存器也就越少。当寄存器过少，有可能因为访问溢出的寄存器，而导致数据的存储变慢。

7 当每个线程占用的寄存器较多时，不宜在Block内分配过多的线程，否则也会减少block的数目。从而使SM的工作效率降低

8 每个block内的线程数应遵循相应的计算能力等级中的规定数目。

原文来自《GPGPU编程技术--从GLSL、CUDA到OPENCL》

最优的cuda线程配置相关推荐

CUDA——线程配置
前言线程的组织形式对程序的性能影响是至关重要的,本篇博文主要以下面一种情况来介绍线程组织形式: 2D grid 2D block 线程索引矩阵在memory中是row-major线性存储的: 在k ...
CUDA性能优化----线程配置
CUDA性能优化----线程配置 2017-01-12 14:19:29| 分类: HPC&CUDA优化 | 标签:cuda gpu hpc |举报 |字号订阅下载LOFTER ...
c语言 cuda核函数,CUDA核函数与线程配置
CUDA核函数在GPU上调用的函数成为CUDA核函数(Kernel function),核函数会被GPU上的多个线程执行.每个线程都会执行核函数里的代码,当然由于线程编号的不同,执行的代码路径可能会 ...
CUDA学习：Windows下的CUDA环境配置
Windows下的CUDA环境配置一.查看自己电脑的显卡信息使用win+R打开运行窗口,在运行窗口中输入cmd打开命令行在命令行中键入nvidia-smi查看显卡支持信息从下图中可以看到,本机 ...
GPU编程自学2 —— CUDA环境配置
深度学习的兴起,使得多线程以及GPU编程逐渐成为算法工程师无法规避的问题.这里主要记录自己的GPU自学历程. 目录 <GPU编程自学1 -- 引言> <GPU编程自学2 -- CUD ...
深入理解CUDA线程层次以及关于设置线程数的思考
深入理解CUDA线程层次以及关于设置线程数的思考 2015-09-16 08:45 215人阅读评论(0) 收藏举报分类: cuda(24) GPU线程以网格(grid)的方式组织,而每个网格中 ...
GPU（CUDA）学习日记（十一）------ 深入理解CUDA线程层次以及关于设置线程数的思考
GPU(CUDA)学习日记(十一)------ 深入理解CUDA线程层次以及关于设置线程数的思考标签: cuda存储线程结构网格 2012-12-07 16:30 6298人阅读评论(4)收藏举 ...
minio 并发数_c#(asp.net)线程配置总结
本文为大家介绍有关c#(asp.net)线程配置的相关知识,有需要的朋友可以参考下. 同一时刻只能发起的工作线程数量. 1.(maxWorkerThreads * CPU逻辑数量)-minFreeTh ...
（教程）2020最新windows10/anaconda/pytorch-gpu环境配置（附CUDA/cuDNN配置）
(教程)2020最新windows10/anaconda/pytorch-gpu环境配置(附CUDA/cuDNN配置) 环境: windows10 nvidia 165ti 1. 安装anaconda ...

最优的cuda线程配置

最优的cuda线程配置

最优的cuda线程配置相关推荐

最新文章

热门文章