cuda编程与gpu并行计算（三）：一个小demo了解cuda基本语法

gpu程序的一般步骤

CPU分配空间给GPU（cudaMalloc）
CPU复制数据给GPU（cudaMemcpy）
CPU加载kernels给GPU做计算（Kernel核: 可以理解为C/C++中的一个函数function）
CPU把GPU计算结果复制回来

过程中，一般要尽量降低数据通讯的消耗，所以如果程序需要复制大量的数据到GPU，显然不是很合适使用GPU运算，最理想的情况是，每次复制的数据很小，然后运算量很大，输出的结果还是很小，复制回CPU。

先做一个小demo，对一个8位数组求平方，很简单
global 关键字那个函数就是在GPU上运行，我们先写完kernel，那还需要从cpu拿数据过去也就是上面的1和2 这里我们为了区分cpu和gpu变量，用h_表示cpu变量（host），用d_表示gpu变量（device），host和device我们在之前的概论提了这里就不解释了。

#include <stdio.h>//这个就是kernel
__global__ void square(float* d_out,float* d_in){int idx = threadIdx.x;float f = d_in[idx];d_out[idx] = f * f;
}int main(int argc,char** argv){const int ARRAY_SIZE = 8;const int ARRAY_BYTES = ARRAY_SIZE * sizeof(float);// 在cpu中定义要输入的数组float h_in[ARRAY_SIZE];for(int i=0;i<ARRAY_SIZE;i++){h_in[i] = float(i);}float h_out[ARRAY_SIZE];// 声明gpu指针float* d_in;float* d_out;// 对应1步骤，给gpu指针分配内存空间，和cpu上的数据空间一样大cudaMalloc((void**) &d_in,ARRAY_BYTES);cudaMalloc((void**) &d_out,ARRAY_BYTES);// 对应步骤2，把cpu数据复制给gpucudaMemcpy(d_in,h_in,ARRAY_BYTES,cudaMemcpyHostToDevice);// 对应步骤3，把kernel也就是square，加载到gpu上运行，1是一个线程块，其中有64个线程，1个时钟周期就可以结束运算square<<<1,ARRAY_SIZE>>>(d_out,d_in);// 对应步骤4，把gpu数据复制给cpucudaMemcpy(h_out,d_out,ARRAY_BYTES,cudaMemcpyDeviceToHost);// 输入结果for(int i=0;i<ARRAY_SIZE;i++){printf("%f",h_out[i]);printf(((i%4) != 3) ? "\t" : "\n");}// 释放内存cudaFree(d_in);cudaFree(d_out);return 0;}

那我们运行一下看看，先编译，cuda 程序后缀是.cu

nvcc -o square square.cu

square就是我们刚编译出来的程序

运行一下看看
结果就是0-7的平方，正确

cuda编程与gpu并行计算（三）：一个小demo了解cuda基本语法相关推荐

cuda编程与gpu并行计算（六）：图稀疏矩阵转为CSR结构并传入gpu
虽然sepgraph有这部分代码,还是自己先试着实现一下,这样读起来也方便行压缩格式Compressed Sparse Row (CSR) CSR需要三种数据来表达:数值.列号.行转移.CSR不是三 ...
CUDA编程学习3——并行计算初窥CUDA的软硬件架构
目录并行计算概述查看GPU相关信息软硬件架构基础物理层(物理结构) 逻辑层(kernel组织) 物理层和逻辑层的总结参考并行计算概述所谓并行计算的概念定义同时多个计算资源一起工作(逻辑 ...
CUDA编程： GPU与CPU之间使用全局统一内存的完整代码及编译
CUDA编程: GPU与CPU之间使用全局统一内存的完整代码及编译最近碰到一个应用场景,需要从GPU访问host上创建的,一个很大的布隆过滤器(准确说是改进后的布谷鸟过滤器).由于GPU卡上的显存有 ...
java线程间通信：一个小Demo完全搞懂
版权声明:本文出自汪磊的博客,转载请务必注明出处. Java线程系列文章只是自己知识的总结梳理,都是最基础的玩意,已经掌握熟练的可以绕过. 一.从一个小Demo说起上篇我们聊到了Java多线程的同步 ...
springboot mybatis easyui 整合的一个小demo
springboot mybatis easyui 整合的一个小demo 这是最终完成界面话不多说开整! 这是项目结构数据库表结构和数据库 (有点乱之前本来是个正经图书表的 = =.) /* ...
java线程间通信_java线程间通信：一个小Demo完全搞懂
版权声明:本文出自汪磊的博客,转载请务必注明出处. Java线程系列文章只是自己知识的总结梳理,都是最基础的玩意,已经掌握熟练的可以绕过. 一.从一个小Demo说起上篇我们聊到了Java多线程的同步 ...
windows环境下使用clion引入eigen库并实现一个小demo
本文仅作个人记录用,之前未接触过C++,也没有使用过clion和cmake,不喜勿喷. 首先下载clion,mingw并配置相关环境,安装cmake,这部分比较简单,没有遇到什么问题. 接下来新建一个 ...
cuda编程以及GPU基本知识
目录 CPU与GPU的基本知识 CPU特点 GPU特点 GPU vs. CPU 什么样的问题适合GPU? GPU编程 CUDA编程并行计算的整体流程 CUDA编程术语:硬件 CUDA编程术语:内存模型 ...
cuda编程python接口_CUDA共享内存问题(以及将CUDA与python / ctypes一...
(请注意,此答案中的代码还提供了有关如何在与使用python ctypes的python应用程序共享的库中使用CUDA代码(例如CUDA设备内核)的完整秘诀/示例.如果您希望使用CUDA库功能,答案h ...

cuda编程与gpu并行计算（三）：一个小demo了解cuda基本语法

cuda编程与gpu并行计算（三）：一个小demo了解cuda基本语法相关推荐

最新文章

热门文章