【centos】安装nvida CUDA平台附带安装cudnn库及TensorRT8
目录
- 1.安装 CUDAToolKit
- 2.安装cudnn库
- 3.附录:关于CUDA
- 4.英伟达GPU相关术语
1.安装 CUDAToolKit
使用
lspci | grep -i nvidia
列出所有支持的GPU
安装内核开发依赖包:
yum install kernel-devel
查看内核版本号,用来看与开发包版本号是否一致:
uname -r
查看nvida显卡驱动:
cat /proc/driver/nvidia/version
得出:
NVRM version: NVIDIA UNIX x86_64 Kernel Module 510.68.02 Wed Apr 20 21:10:34 UTC 2022
GCC version: gcc version 9.3.1 20200408 (Red Hat 9.3.1-2) (GCC)
但是NVIDIA驱动与CUDA存在区别:
CUDA是NVIDIA推出的用于自家GPU的并行计算框架,也就是说CUDA只能在NVIDIA的GPU上运行,而且只有当要解决的计算问题是可以大量并行计算的时候才能发挥CUDA的作用。CUDA的本质是一个工具包(ToolKit)。
CUDA ToolKit的安装:
查看系统属性
uname -m && cat /etc/*release
查看nouveau是否启用,如果启用也应关闭
lsmod | grep nouveau
禁用方法:
touch /etc/modprobe.d/blacklist-nouveau.conf
在blacklist-nouveau.conf中写入:
blacklist nouveau
options nouveau modeset=0
重新生成内核的启动镜像 initramfs 文件包:
sudo dracut --force
由于已安装nvida驱动,故使用如下命令:
find -name nvidia-smi
这里的11.6 指的是可驱动的最高版本。下载 CUDA 的版本应低于11.6
官网搜索,下载CUDA的11.6安装包
https://developer.nvidia.com/cuda-11-6-0-download-archive
得到下述在线安装命令:
wget https://developer.download.nvidia.com/compute/cuda/11.6.0/local_installers/cuda_11.6.0_510.39.01_linux.run
sudo sh cuda_11.6.0_510.39.01_linux.run
由于宿主机已有nvida驱动,故不再重复安装,选择install。
特别注意安装后的信息:
Driver: Not Selected
Toolkit: Installed in /usr/local/cuda-11.6/Please make sure that- PATH includes /usr/local/cuda-11.6/bin- LD_LIBRARY_PATH includes /usr/local/cuda-11.6/lib64, or, add /usr/local/cuda-11.6/lib64 to /etc/ld.so.conf and run ldconfig as rootTo uninstall the CUDA Toolkit, run cuda-uninstaller in /usr/local/cuda-11.6/bin
***WARNING: Incomplete installation! This installation did not install the CUDA Driver. A driver of version at least 510.00 is required for CUDA 11.6 functionality to work.
To install the driver using this installer, run the following command, replacing <CudaInstaller> with the name of this run file:sudo <CudaInstaller>.run --silent --driver
加入到:
export PATH=/usr/local/cuda-11.6/bin:$PATH
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-11.6/lib64
2.安装cudnn库
只要把cuDNN文件复制到CUDA的对应文件夹里就可以,即是所谓插入式设计,把cuDNN数据库添加CUDA里,cuDNN是CUDA的扩展计算库,不会对CUDA造成其他影响。(cuDNN的安装过程实际上是把cuDNN的头文件复制到CUDA的头文件目录里面去;把cuDNN的库复制到CUDA的库目录里面去。)
下载路径:
https://developer.nvidia.com/rdp/cudnn-archive#a-collapse811-111
根据系统,下载:
下载需注册一个账号。
解压
tar -xvf /root/cudaToolKit/cudnn-linux-x86_64-8.6.0.163_cuda11-archive.tar.xz
将安装目录复制过去:
# 复制cudnn头文件
sudo cp /root/cudaToolKit/cudnn-linux-x86_64-8.6.0.163_cuda11-archive/include/* /usr/local/cuda-11.6/include/
# 复制cudnn的库
sudo cp /root/cudaToolKit/cudnn-linux-x86_64-8.6.0.163_cuda11-archive/lib/* /usr/local/cuda-11.6/lib64/
# 添加可执行权限
sudo chmod +x /usr/local/cuda-11.6/include/cudnn.h
sudo chmod +x /usr/local/cuda-11.6/lib64/libcudnn*
输入此命令检查安装是否成功:
cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2
安装成功。
3.安装tensorRT8
下载地址:
https://developer.nvidia.com/nvidia-tensorrt-8x-download
使用wget的下载方式是:
右键复制下载链接,并在wget添加命令参数,表示接受协议,最终下载内容为:
wget --no-check-certificate --no-cookies --header "Cookie: oraclelicense=accept-securebackup-cookie" https://developer.download.nvidia.cn/compute/machine-learning/tensorrt/secure/8.5.1/tars/TensorRT-8.5.1.7.Linux.x86_64-gnu.cuda-11.8.cudnn8.6.tar.gz?_zCOrsELfKMlBKtgCVxzU4PbVXUOkaAE74UcV9Yzar-gQ0s8Tb4qAdKebPQSpE2xHxloxi4REGmH_0-s5kEsBF9DPzIl-a9BY0DhqxP2hMIiqonMLYN4oL0fR_EgomfznX8OvnNc5gV7YFgtvaA
Redirecting output to ‘wget-log.1’.
查看下载进度方式为
tail -f wget-log.1
下载完后解压:
tar -xvf TensorRT-8.5.1.7.Linux.x86_64-gnu.cuda-11.8.cudnn8.6.tar.gz?_zCOrsELfKMlBKtgCVxzU4PbVXUOkaAE74UcV9Yzar-gQ0s8Tb4qAdKebPQSpE2xHxloxi4REGmH_0-s5kEsBF9DPzIl-a9BY0DhqxP2hMIiqonMLYN4oL0fR_EgomfznX8OvnNc5gV7YFgtvaAQKRSiztO4cHyf57QaOdTSckrG6rgH
安装完成,其目录为:
/usr/local/tensorRt8Target/TensorRT-8.5.1.7
3.附录:关于CUDA
尽量将显卡驱动升级到新的,因为显卡驱动向下兼容cuda驱动
CUDA: 其中一种理解是它是一种编程语言(像c++,python等,只不过它是专门用来操控GPU的)
cudnn: 这个其实就是一个专门为深度学习计算设计的软件库,里面提供了很多专门的计算函数
CUDAToolkit:这是我们真正需要首先安装的工具包,所谓的装cuda首先指的是它
内含:
(1)nvidia-smi
nvidia-smi全程是NVIDIA System Management Interface ,它是一个基于前面介绍过的NVIDIA Management Library(NVML)构建的命令行实用工具,旨在帮助管理和监控NVIDIA GPU设备。
(2)nvcc其实就是CUDA的编译器,可以从CUDA Toolkit的/bin目录中获取,类似于gcc就是c语言的编译器。
CUDA有两个主要的API:runtime(运行时) API和driver API。这两个API都有对应的CUDA版本(如9.2和10.0等)。用于支持driver API的必要文件(如libcuda.so)是由GPU driver installer安装的。nvidia-smi就属于这一类API。cuda-drive随着驱动安装.so文件,而cuda.h来源自cudatoolkit。如果driver API和runtime API的CUDA版本不一致可能是因为你使用的是单独的GPU driver installer,而不是CUDA Toolkit installer里的GPU driver installer。
4.英伟达GPU相关术语
gpu架构:Tesla、Fermi、Kepler、Maxwell、Pascal
注:gpu架构指的是硬件的设计方式,例如流处理器簇中有多少个core、是否有L1 or L2缓存
芯片型号:GT200、GK210、GM104、GF104等
显卡系列:GeForce、Quadro、Tesla
注:而显卡系列在本质上并没有什么区别,只是NVIDIA希望区分成三种选择,GeFore用于家庭娱乐,Quadro用于工作站,而Tesla系列用于服务器。
GeForce显卡型号:G/GS、GT、GTS、GTX
越往后性能越好,时钟频率越高显存越大,即G/GS<GT<GTS<GTX。
【centos】安装nvida CUDA平台附带安装cudnn库及TensorRT8相关推荐
- 02_tensorflow2环境安装、CUDA 10.1 和CUDnn 7.6.5 版本安装、https://tensorflow.google.cn/overview中概述翻译
1.新手入门 1.1 安装tensorflow环境 1.安装了Anaconda,进入Anaconda Prompt: 关于安装Anaconda的博文参考:python安装.anaconda安装.pyc ...
- ubuntu20.04安装nvida、cuda10.2、cudnn、tensorrt
ubuntu20.04配置环境 "nvidia"安装的几种方法 安装cudn10.2和cudnn以及tensorrt 检验是否安装成功的方法 错误以及解决方案 "nvid ...
- 【Android 逆向】修改运行中的 Android 进程的内存数据 ( 运行环境搭建 Android 模拟器安装 | 拷贝 Android 平台可执行文件和动态库到 /data/system )
文章目录 一.运行环境搭建 Android 模拟器安装 二.拷贝 Android 平台可执行文件和动态库到 /data/system 目录下 一.运行环境搭建 Android 模拟器安装 使用低版本的 ...
- Vagrant的安装和使用(附带安装Centos 7教程)
1 Vagrant 概述 Vagrant 是⼀款⽀持⾃动化虚拟机安装.可配置流程的⽤于管理虚拟机的软件. 主要的优势在于可以提供⼀个可配置.可移植和复⽤的虚拟机环境 (通过定义 Vagrantfile ...
- cuda/cudnn/cuda 10.1安装教程
方法1:NVIDIA 显卡驱动安装示例(ubuntu系统刚装好-推荐) Ubuntu 18.04 安装 NVIDIA 显卡驱动 ps: 1.新系统的签名要重新注册 2.要禁用nouveau(新安装方法 ...
- CentOS7 从零安装NVIDA、CUDA、cuDNN
文章目录 准备工作 安装前部署 1. 关闭SELinux 检查状态 2. 添加rpm软件源 安装 3. 安装Nvida GPU驱动 安装CUDA 确认CUDA环境 1. 检查GPU 2. 检查GCC编 ...
- Ubuntu安装NVIDA、CUDA、cuDNN
1.先安装好gcc,g++,make sudo apt-get install gcc sudo apt-get install g++ sudo apt-get install make sudo ...
- NVIDA CUDA和cuDNN安装教程
文章目录 一. 查看自己的GPU版本是否支持cuda 二 .安装CUDA 三. 安装cuDNN 一. 查看自己的GPU版本是否支持cuda 打开显卡的控制面板,查看显卡是否支持cuda 二 .安装CU ...
- Windows下pytorch-gpu安装以及CUDA详细安装过程 附带各个版本安装包
最近学习到了超分辨率算法用到了 PyTorch 框架,有很多小bug,例如版本不一致,cuda+cudnn下载速度太慢等等问题.所以在这里写一篇博客详细记录安装的过程.附带 CUDA + cudnn各 ...
最新文章
- zipfile java 解压速率,使用java.util.ZipFile在同一层次中解压缩zipfile
- Qt for Android 调用android原生接口分享图片或文字
- python tkinter库函数详解_Python使用tkinter库进行GUI编程中常用事件处理方式汇总
- 制作Oracle dockerfile镜像
- android activity从新打开,【Android开发-8】生命周期,Activity中打开另一个Activity
- ML、DL、CNN学习记录3
- c定义一个整型数组_滨州学院C语言作业讲解有序数组插入
- 分页打印控制 摘自于网络:http://www.cnblogs.com/joinger/articles/1807517.html
- Javaweb面试题整理
- 北京年内首现二手房连续三日成交破450套
- 【Python】base64解码报错 Incorrect padding
- 宁录哨兵机器人_单纯靠速度快银就打得过哨兵机器人?想多了,怼上这一版就不行!...
- 毕业设计c语言课程设计,毕业设计—c语言—课程设计.doc
- 计算机一级演示文稿知识点,计算机一级考试ppt演示文稿及上网题考点
- Linux--进程与任务管理(查看和控制进程及计划任务管理)
- 微信在线EXCEL自动统计人数
- 手机端mp4文件头前置检测,检测mp4视频文件头(moov box)是否在前面
- 全球十大公司物联网战略,一个万物智能的世界即将到来
- echarts 地图行政区划压缩_echarts地图数据的压缩
- python数据结构: 有序表
热门文章
- C#winform 经典小游戏贪吃蛇V1.0(一)
- Linux 0.00简单多任务内核boot.s超详注释
- c语言 输出定向到文件 命令提示符窗口也能看见,关于cmd:显示Windows命令提示符输出并将其重定向到文件...
- 淘宝 聚划算 整点免费 支付宝延时时间1秒
- 安装命令:pip install xlrd ,pandas操作Excel学习笔记__7000
- 如何围绕某一轴(不是xyz)旋转——transform.RotateAround
- 支付业务名词及释义大全
- 2022-2023年度第四届全国大学生算法设计与编程挑战赛(秋季赛)【热身赛】h-4题 花灯
- excel中通过下拉菜单显示不同的报表内容,类似下拉选项中,一旦切换内容,后面的表格内容全都不同?
- 【UI设计No7】单页