环境配置

软件安装

1.支持最高的cuda版本查询，下载cuda开发软件；

3.配置环境（~/.bashrc添加环境变量）

4.后续维护查询

补：关于windows下的cuda环境配置

一、Visual Studio 2022 + CUDA 11.6 (Windows10)

二、Visual Studio Code + CUDA 11.6 (远程连接Ubuntu)

摘要：由于课题要对图像处理程序进行加速，于是我想着将CPU处理程序改用GPU来进行实现；也是初入门路，这里记录下学习的过程；

环境配置

系统：Centos7，

驱动&显卡：CUDA10.0（不是命令中显示的最高支持型号），显卡Tesla，（查看显卡和最高驱动支持版本“nvidia-smi”）

编译器版本：gcc版本是5.1.0

软件安装

1.支持最高的cuda版本查询，下载cuda开发软件；

如上图所示，我们支持的最大的cuda版本是10.1，则我去英伟达cuda官网去找的驱动安装包要小于等于这个；

下载对应的版本，不是最新的版本；

根据硬件配置选择合适的版本；（其中runfile执行较为简单，我这里选择它）2.下载好了之后，直接执行“sh XXXXX.run"，则开始自动安装，基本是傻瓜式安装；

Linux系统CUDA安装及踩坑记录 - 知乎 (zhihu.com)

3.配置环境（~/.bashrc添加环境变量）

检查cuda是否安装成功：nvcc -V

如果没有这个命令的话，需要配置。（同时也要去看安装的路径下是否有nvcc）

vim /.bashrc

在文件末尾添加（这里的/usr/local/cuda-11.3替换成你的cuda安装路径，一般都在/usr/local路径下）
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-11.3/lib64
export PATH=$PATH:/usr/local/cuda-11.3/bin
# export CUDA_HOME=$CUDA_HOME:/usr/local/cuda-11.3
export CUDA_HOME=/usr/local/cuda-11.3
然后source ~/.bashrc（source命令是使该配置文件立刻生效，而无需重启系统）

上述环境变量中，我看很多教程都是按照第三行配置的CUDA_HOME，但是后续我在使用deepspeed的时候会报错找不到/usr/local/cuda-11.3:/usr/local/cuda-11.3/bin/nvcc，按照第四行配置CUDA_HOME就不会有这个问题。

再执行nvcc -V就会显示出你刚刚安装的CUDA版本

4.后续维护查询

查看当前安装的cuda版本：Linux上查看已安装的CUDA和cuDNN版本号-云社区-华为云 (huaweicloud.com)

Linux上查询cuda、cudnn等相关的系列东西

1. 查看CUDA版本

cuda默认安装在/usr/local目录，可以使用ls -l /usr/local | grep cuda查看该目录下有哪些cuda版本

假设有如下输出：
lrwxrwxrwx  1 root root    8 Apr 26  2019 cuda -> cuda-9.0
drwxr-xr-x 11 root root 4096 Apr 26  2019 cuda-10.0
drwxr-xr-x 11 root root 4096 Apr 26  2019 cuda-8.0
drwxr-xr-x 11 root root 4096 Apr 26  2019 cuda-9.0
则表示当前机器上安装了8.0、9.0、10.0三个cuda版本，/usr/local/cuda是一个软链接，链接到了/usr/local/cuda-9.0目录，表示当前使用的是cuda-9.0版本。

如果要查看详细的cuda版本号，可以用如下两种方法：

nvcc --version，如果提示找不到该命令，则执行/usr/local/cuda/bin/nvcc --version，如果报找不到该路径或文件，则表示nvcc没有安装，可以sudo apt install nvidia-cuda-toolkit安装

cat /usr/local/cuda/version.txt

如果当前机器上安装了多个cuda版本，可以使用修改软链接的方式来修改系统使用的cuda版本，命令如下：
sudo ln -snf /usr/local/cuda-8.0 /usr/local/cuda
2. 查看cuDNN版本号
cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2
3. CUDA是否可用于当前AI开发框架？

确定了CUDA版本号，那么该版本是否可以用于当前安装的AI开发框架呢？如pytorch、tf？

如果使用pytorch，可以使用如下语句查询是否可用：（可直接linux命令行输入执行）
import torch
print(torch.__version__)  # 查看torch当前版本号
print(torch.version.cuda)  # 编译当前版本的torch使用的cuda版本号
print(torch.cuda.is_available())  # 查看当前cuda是否可用于当前版本的Torch，如果输出True，则表示可用
如果尚未安装torch，可以查看pytorch各版本与CUDA各版本的对应关系： https://pytorch.org/get-started/previous-versions/ 
如果使用tf，则没有pytorch这么方便的方式来查看CUDA是否可用（实际操作和torch是一样的应该也可以，该文的时效性代待考证）
只能在 import tensorflow as tf 的时候才能发现CUDA是否可用，如果不可用，会有如下类似的报错：
ImportError: libcublas.so.9.0: cannot open shared object file: No such file or directory
这就表示当前tf需要CUDA 9.0，但是没有找到，决定tf应该使用哪个版本的CUDA，是tf安装目录下的一个_pywrap_tensorflow_internal.lib库文件定义的，里面是如何实现的，就得去看源码了。但是我们可以用更简单的方法来查看tf与CUDA的对应关系，可用过官网查询：
https://tensorflow.google.cn/install/source#tested_build_configurations
https://tensorflow.google.cn/install/source_windows#tested_build_configurations 
查看cuda和cudnn版本对应关系，则可以访问：https://developer.nvidia.com/rdp/cudnn-archive#a-collapse742-10

4. 其他疑问

我们还经常用到nvidia-smi命令，使用该命令会有如下输出：（nvidia-smi命令可以查看GPU的具体使用情况，同时也会列出 CUDA Version。）

如果nvidia-smi命令列出的CUDA版本与nvcc -V列出的版本号不一致，可能是由以下原因之一引起的：

安装多版本cuda后，还没有刷新环境变量，刷新即可；

CUDA有两种API，分别是运行时API和驱动API，即所谓的Runtime API与Driver API，nvidia-smi的结果除了有GPU驱动版本型号，还有CUDA Driver API的版本号，这里是10.0，而nvcc的结果是对应CUDA Runtime API

补充说明：

在安装CUDA 时候会安装3大组件，分别是 NVIDIA 驱动（driver）、toolkit和samples。

NVIDIA驱动是用来控制GPU硬件，CUDADriver API是依赖于NVIDIA驱动安装的。

toolkit里面包括nvcc编译器等，CUDA Runtime API 是通过CUDA toolkit安装的。

samples或者说SDK 里面包括很多样例程序包括查询设备、带宽测试等等。

注：查看nvidia驱动版本和toolkit对应的版本的要求：

官网地址：Release Notes :: CUDA Toolkit Documentation

参考链接：

nvidia-smi 和 nvcc 结果的版本为何不一致_JasonLiu1919的博客-CSDN博客

https://www.cnblogs.com/yhjoker/p/10972795.html

5. NVIDIA驱动版本与CUDA版本对应关系_lengmo1996的博客-CSDN博客_cuda和nvidia驱动的版本关系

#############################################################################

补：关于windows下的cuda环境配置

虽未实现，但是收集了些资料

(40条消息) windows 下 CUDA 并行编程环境搭建_吃跳跳糖没的博客-CSDN博客_cuda编程 windows

下面介绍一种，参考：https://zhuanlan.zhihu.com/p/488518526

记录两种CUDA开发环境的配置过程。

一、Visual Studio 2022 + CUDA 11.6 (Windows10)

（参考：win10+cuda11.0+vs2019安装教程）

1、Visual Studio community 2022的安装

1). 下载Visual Studio community 2022 版本。下载连接

2). 安装”使用c++的桌面开发“,安装的路径可以自定义

2、NVIDIA驱动的安装

1）检查驱动是否安装：在cmd命令窗口中输入nvidia-smi：

同时可以查看驱动的版本号

2）如果没有安装，则可以进入NVIDIA官网选择相应的显卡进行下载，并安装驱动。如能显示上图信息，则驱动安装成功。NVIDIA驱动下载地址

3、CUDA 11.6的安装

1). 进入CUDA Toolkit官网进行下载。下载后直接运行exe文件，默认安装即可。CUDA 11.6下载地址

2). 安装结束后，查看系统变量中已经加入了cuda的两个路径：

3). 继续添加其它的环境变量：

在系统变量中加入下面的路径，点击确定：

CUDA_BIN_PATH: %CUDA_PATH%\bin
CUDA_LIB_PATH: %CUDA_PATH%\lib\x64
CUDA_SDK_PATH: C:\ProgramData\NVIDIA Corporation\CUDA Samples\v11.6
CUDA_SDK_BIN_PATH: %CUDA_SDK_PATH%\bin\win64
CUDA_SDK_LIB_PATH: %CUDA_SDK_PATH%\common\lib\x64

在系统变量path中加入下面的的变量：

%CUDA_BIN_PATH%
%CUDA_LIB_PATH%
%CUDA_SDK_BIN_PATH%
%CUDA_SDK_LIB_PATH%

4). 检查是否安装成功：

打开cmd，定位到图示位置。分别运行这两个程序deviceQuery.exe、bandwidthTest.exe ，result=pass则安装成功，否则就重新安装：

4、Visual Studio 配置与测试

1). 启动VS2022，新建一个工程，点击CUDA11.6 runtime。

2). 新建工程。

3). 新建完成后，会出现一个示例，具体内容为kernel.cu (程序分析)

4). 添加.cu 到编辑器和扩展名：

（工具–>选项–>文本编辑器–>文件拓展名, 新增扩展名 .cu 并将编辑器设置为：Microsoft Visual C++。）

（工具–>选项–>项目和解决方案–>VC++项目设置，添加要包括的扩展名".cu"）

（右键打开的项目–>生成依赖项–>生成自定义–>勾选CUDA v11.6）

（右键.cu文件–>文件属性设置为 CUDA c/c++）

5). 测试。点击运行，得到下面结果。

5、debug

1). Visual Studio中默认是CPU代码的调试，如果需要调试GPU上的代码，需要使用extension中的Nsight (strat CUDA debugging).

(工具栏->插件->Nsight->start CUDA debugging)。同时勾选break on luanch。

进入GPU调试

二、Visual Studio Code + CUDA 11.6 (远程连接Ubuntu)

目前VS code中支持linux的CUDA-debug，暂不支持windows。

1、VS code 的安装。（省略）

2、VS code ssh远程连接（可参考其他详细教程，这里只记录主要步骤）

安装Renote-SSH插件：

点击 ”＋“，并在输入ssh登录命令：ssh root@ip -p xxxx

选择.ssh/config。

config文件记录了服务器的IP和端口号。

这里有两种登录方式，一种每次登录都需要输入密码，另一种是使用密钥登录。

1）输入密码登录：

点击在新窗口中连接主机

在新的窗口中，选择需要打开的文件路径，并输入密码

2）免密登录：

在本地打开cmd，输入ssh-keygen，

接着在C:\Users\(username)\.ssh中生成了两个文件：

在本地的.ssh/config文件中，加入密钥id_rsa路径。

加入密钥地址

然后将公钥id_rsa.pub拷贝到服务器.ssh路径中，并在终端输入：

mkdir .ssh
mv id_rsa.pub .ssh
cd .ssh
cat id_rsa.pub >> authorized_keys
sudo chmod 600 authorized_keys
service sshd restart

重启即可免密连接。

3、安装相关插件

1). 在本地端和远程端安装C++和Nsight插件：

4). 安装CUDA 11.6

安装和更新相关依赖库，在终端中输入：

sudo apt update # 更新 apt
sudo apt install gcc g++ make # 安装 gcc g++ make
sudo apt install libglu1-mesa libxi-dev libxmu-dev libglu1-mesa-dev freeglut3-dev # 安装依赖库

选择合适CUDA版本，并获取下载命令，官网地址。在终端输入获取的命令，自动下载和安装。

# 这里是安装CUDA11.6
wget https://developer.download.nvidia.com/compute/cuda/11.6.2/local_installers/cuda_11.6.2_510.47.03_linux.run
sudo sh cuda_11.6.2_510.47.03_linux.run

验证是否安装成功：输入nvcc-V，得到下面的信息。

4、编译和调试（以matrixMul为例）

1). 打开例程matrixMul：

（cuda11.6中的例程在github中，需要手动git clone 下载。这里将Samples下载到/usr/local/cuda-11.6/samples/cuda_samples/Samples路径中）

2).编写 c_cpp_properties.json

{"configurations": [{"name": "Linux","includePath": [                              # 头文件路径"${workspaceFolder}/**","${workspaceFolder}/../../../Common"],"defines": [],"compilerPath": "/usr/local/cuda/bin/nvcc",   # 编译器路径"cStandard": "gnu17", "cppStandard": "gnu++14","intelliSenseMode": "linux-gcc-x64","configurationProvider": "ms-vscode.makefile-tools"}],"version": 4
}

3). 编写launch.json （用于debug）

# 点击run and debug --> create a luanch.json -->选择CUDA C++(CUDA-GDB)
# 将luanch.json 修改如下：
{"version": "0.2.0","configurations": [{"name": "CUDA C++: Launch","type": "cuda-gdb","request": "launch","program": "${workspaceFolder}/matrixMul",           # 程序所在路径"debuggerPath":"/usr/local/cuda-11.6/bin/cuda-gdb",  # 调试器所在的路径"preLaunchTask": "ReBuild"                           # 程序所在路径}]
}

4). 编写 tasks.json（用于build）

# 共编写了两个task，分别是build 和 rebuild
{"version": "2.0.0","tasks": [{"label": "Build","type": "shell","command": "make dbg=1","problemMatcher": ["$nvcc"],"group": {"kind": "build"}},  {"label": "ReBuild","type": "shell","command": "make clean; make dbg=1; make run","problemMatcher": ["$nvcc"],"group": {"kind": "build","isDefault": true}}]
}

5). 编译和调试：按F5。

CUDA编程学习0——环境搭建环境详解相关推荐

php强类型 vscode,VSCode + WSL 2 + Ruby环境搭建图文详解
vscode配置ruby开发环境 vscode近年来发展迅速,几乎在3年之间就抢占了原来vim.sublime text的很多份额,犹记得在2015-2016年的时候,ruby推荐的开发环境基本上都是 ...
深度学习环境搭建超级详解（Miniconda、pytorch安装）
小白刚开始学习<动手学深度学习>,第一次发文,本文主要是为了记录在环境搭建过程中遇到的问题和疑惑,以及解决方法,同时希望能帮到遇到相同问题的小伙伴. 在学习中遇到的疑惑和最后搜索得到的解答 ...
Visual Studio集成Qt环境搭建_详解与测试
1.利器≠戾气接了两个项目,而这两个项目说起来也很有意思. 一个是监护仪软件开发,要求利用MFC进行开发,因为在此之前接近两年时间一直进行MFC开发:来到清华后,碰到了好多的计算机编程大牛,就GUI ...
手动angular2环境搭建_详解.Net Core + Angular2 环境搭建
本文介绍了.Net Core + Angular2 环境搭建,具体如下: 环境搭建: 1)node.js版本>5.0,NPM版本>3.0,TypeScript版本>2.0(全装最新版 ...
Linux下服务器基本环境搭建步骤详解(三种软件安装方式)
Linux下服务器基本环境搭建小伙伴们注意看:下面使用三种方式分别安装JDK.Tomcat.Docker进行演示操作系统基于CentOs7. 文章目录 Linux下服务器基本环境搭建前言一.L ...
服务器php环境搭建教程,PHP服务端环境搭建图文详解
PHP环境搭建也是一门技术,本文主要为大家分享一篇PHP服务端环境搭建的图文教程,具有很好的参考价值,希望对大家有所帮助. 一.PHP服务端环境搭建 1.php 服务端环境安装套件 xampp(ap ...
hadoop环境搭建（详解）
hadoop 环境搭建引言: 随着人工智能和大数据的热潮的到来,大数据变得越来越火了,坏蛋哥的信念就是致力于大数据的发展和进步,希望能为大数据的发展和推广尽一份绵薄之力.如果要做大数据,那么大数据相 ...
react结合ts与mobx环境搭建步骤详解
由于react ts mobx 版本上的更新,一些配置信息也在随时更新,使得有时候,在更新版本时,一些配置文件出错,让我们措手不及,现将三者环境搭建配上,废话不多说思路:新建react 应用,利用弹 ...
亚马逊、Lazada、Shopee、速卖通、eBay、Wish测评自养号运营知识——环境搭建技术详解
跨境领域竞争日趋白热化的当下,卖家朋友们都知道产品为王,但是当你拥有了一款不错的产品,要如何让消费者全方位地了解一款产品十分重要.今天我们来和大家探讨一下跨境平台上listing要素有哪些?优化目标是 ...

CUDA编程学习0——环境搭建环境详解

环境配置

软件安装

1.支持最高的cuda版本查询，下载cuda开发软件；

3.配置环境（~/.bashrc添加环境变量）

4.后续维护查询

补：关于windows下的cuda环境配置

一、Visual Studio 2022 + CUDA 11.6 (Windows10)

二、Visual Studio Code + CUDA 11.6 (远程连接Ubuntu)

CUDA编程学习0——环境搭建环境详解相关推荐

最新文章

热门文章