CUDA ---- Hello World From GPU

本篇博文仅实现hello world，先看到效果，具体细节将在后续博文解释。

准备

如果你是第一次使用CUDA，在Linux下可以使用下面的命令来检查CUDA编译器是否安装正确：

$ which nvcc

一般，该指令输出为：

/usr/local/cuda/bin/nvcc

另外，你可能还需要检查下你机器上的GPU型号，可以使用给下面的命令查询：

$ ls  -l /dev/nv*

可能的输出为：

crw-rw-rw- 1 root root 195, 0 Jul 3 13:44 /dev/nvidia0

crw-rw-rw- 1 root root 195, 1 Jul 3 13:44 /dev/nvidia1

crw-rw-rw- 1 root root 195, 255 Jul 3 13:44 /dev/nvidiactl

crw-rw---- 1 root root 10, 144 Jul 3 13:39 /dev/nvram

以上输出显示这里有两个GPU显卡安装在机器上。

写一段CUDA程序的基本过程为：

创建源文件，以”.cu”为后缀。
用nvcc编译程序。
命令行运行。

代码

首先，为了对比，先写一段简单的C程序输出hello world：

#include <stdio.h>iint main(void){printf(“helllo world!\n”);}

然后是我们所谓的kernel function（即CUDA代码）：

__global__ void helloFromGpu(void){printf(“hello world form GPU!\\n”);}

限定符__global__告诉编译器这个function将由CPU调用在GPU上执行，其调用形式为：

helloFromGPU<<<1,10>>>();

一个kernel是由一组线程执行，所有线程执行相同的代码。上面一行三对尖括号中的1和10 表明了该function将有10个线程，具体含义之后博文中会详述。下面是完整代码：

#include <stdio.h>__global__ void helloFromGPU (void)
{printf(“Hello World from GPU!\n”);
}int main(void)
{
// hello from cpu
printf(“Hello World from CPU!\n”);helloFromGPU <<<1, 10>>>();cudaDeviceReset();return 0;
}

这里顺便提及下，我们将CPU端称为host，GPU端称为device。

cudaDeviceReset()用来显式的摧毁清理CUDA程序占用的资源。现在用下面的命令编译：

$nvcc –arch sm_20 hello.cu –o hello

-arch sm_20是用来指定编译器使用Fermi架构产生device代码。编译成功后执行$ ./hello:

Hello World from CPU!

Hello World from GPU!

一个典型的CUDA程序结构包含五个主要步骤：

分配GPU空间。
将数据从CPU端复制到GPU端。
调用CUDA kernel来执行计算。
计算完成后将数据从GPU拷贝回CPU。
清理GPU内存空间。

参考书：《professional cuda c programming》

NVIDIA CUDA板块：https://developer.nvidia.com/cuda-zone

CUDA在线文档：http://docs.nvidia.com/cuda/index.html#

CUDA ---- Hello World From GPU相关推荐

CUDA和cuDNN到底是啥关系？（cuDNN是基于CUDA的深度学习GPU加速库）
1.什么是CUDA CUDA(ComputeUnified Device Architecture),是显卡厂商NVIDIA推出的运算平台. CUDA是一种由NVIDIA推出的通用并行计算架构,该架构 ...
Nvidia CUDA初级教程4 GPU体系架构概述
Nvidia CUDA初级教程4 GPU体系架构概述视频:https://www.bilibili.com/video/BV1kx411m7Fk?p=5 讲师:周斌本节内容: 为什么需要GPU 三 ...
什么是CUDA、什么是GPU?
为什么要了解:深度学习需要用到GPU,有cuda就能安装GPU CUDA(Compute Unified Device Architecture),是显卡厂商NVIDIA推出的运算平台. CUDA™是 ...
教你从头到尾利用DL学梵高作画：GTX 1070 cuda 8.0 tensorflow gpu版
教你从头到尾利用DL学梵高作画作者:七月在线开发/市场团队中的三人,骁哲.李伟.July.本教程主要由骁哲撰写,李伟负责Linux命令部分. 时间:二零一六年九月二十五日配置:GTX 1070 c ...
教你从头到尾利用DL学梵高作画 GTX 1070 cuda 8 0 tensorflow gpu版
分享一下我老师大神的人工智能教程!零基础,通俗易懂!http://blog.csdn.net/jiangjunshow 也欢迎大家转载本篇文章.分享知识,造福人民,实现我们中华民族伟大复兴! 教你从头 ...
【GPU结构与CUDA系列4】GPU存储资源：寄存器，本地内存，共享内存，缓存，显存等存储器细节
0 软件抽象和硬件结构对应关系的例子把GPU跟一个学校对应起来,学校里有教学楼.操场.食堂,还有老师和学生们:很快有领导(CPU)来检查卫生(需要执行的任务Host程序),因此这个学校的学生们要完成 ...
DL之IDE：深度学习环境安装之CUDA的简介(显卡GPU/驱动/CUDA间的关系)、安装(根据本地电脑的NVIDIA显卡驱动版本去正确匹配CUDA版本)之详细攻略
DL之IDE:深度学习环境安装之CUDA的简介(显卡GPU/驱动/CUDA间的关系).安装(根据本地电脑的NVIDIA显卡驱动版本去正确匹配CUDA版本)之详细攻略目录 CUDA的简介 1.显卡GP ...
CUDA 编程上手指南：CUDA C 编程及 GPU 基本知识
作者丨科技猛兽编辑丨极市平台本文原创首发于极市平台,转载请获得授权并标明出处. 推荐大家关注极市平台公众号,每天都会更新最新的计算机视觉论文解读.综述盘点.调参攻略.面试经验等干货~ 目录 1 C ...
查看torch依赖的cuda版本_torch多GPU情况下模型建立遇到的问题
问题:最近在实现bert pytorch版本的过程中遇到一个不能使用多GPU的问题,然而github原始版本是可以使用的,修改过程中的一些改动导致使用多GPU时会报如下的错误: arguments a ...

CUDA ---- Hello World From GPU

准备

代码

CUDA ---- Hello World From GPU相关推荐

最新文章

热门文章