Ubuntu16.04 下 tensorRT安装

环境准备

主要是根据工程环境需要，参考trt文档安装trt

1.查看trt适配情况：链接跳转，注意，不同版本的trt有不同版本的文档，请以最新文档为准。

2.根据自己系统情况下载相关包因为我自己拉的docker镜像是ubuntu16.04，CUDA10的驱动，所以我还需要下载cuDNN和TensorRT。

cuDNN安装

去官网下载合适版本的cuDNN ==> 解压 ==> 复制相关文件到系统的CUDA目录

下载完安装包后如下：

root@iZbp120zfnu5353tdx5hq7Z:/data/workspace/docker/trtfile/test# ls
cudnn-10.0-linux-x64-v7.6.3.30.tgz

解压后如下：

root@iZbp120zfnu5353tdx5hq7Z:/data/workspace/docker/trtfile/test# tar xvf cudnn-10.0-linux-x64-v7.6.3.30.tgz
cudnn-10.0-linux-x64-v7.6.3.30.tgz       cudnn

复制cudnn中相关文件到系统CUDA相关目录中

sudo cp cuda/include/* /usr/local/cuda/include/
sudo cp cuda/lib64/* /usr/local/cuda/lib64/

上面完成后可能需要添加权限：（可以不做，一般原来就是可执行的）

sudo chmod a+r /usr/local/cuda/include/cudnn.h /usr/local/cuda/lib64/libcudnn*

查看cudnn版本是否安装好(显示如下则成功）:

root@3792e2c3dbce:/dacker/data/workspace/docker/torch2trt# cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2
#define CUDNN_MAJOR 7
#define CUDNN_MINOR 6
#define CUDNN_PATCHLEVEL 3
--
#define CUDNN_VERSION (CUDNN_MAJOR * 1000 + CUDNN_MINOR * 100 + CUDNN_PATCHLEVEL)#include "driver_types.h"

tensorRT安装

去官网下载安装包 ==> 解压 ==> 进入到解压目录中的python目录，pip安装tensorrt ==> 配置环境变量（linux一般修改.bashrc文件即可）

下载完安装包并解压后如下：

root@iZbp120zfnu5353tdx5hq7Z:/data/workspace/docker/trtfile# ls
cuda  cudnn-10.0-linux-x64-v7.6.3.30.tgz  TensorRT-5.1.5.0  TensorRT-5.1.5.0.Ubuntu-16.04.5.x86_64-gnu.cuda-10.0.cudnn7.5.tar.gz

进入到解压目录中安装（根据你系统的版本安装相应的版本）

root@iZbp120zfnu5353tdx5hq7Z:/data/workspace/docker/trtfile/TensorRT-5.1.5.0/python# ls
tensorrt-5.1.5.0-cp27-none-linux_x86_64.whl  tensorrt-5.1.5.0-cp35-none-linux_x86_64.whl  tensorrt-5.1.5.0-cp37-none-linux_x86_64.whl
tensorrt-5.1.5.0-cp34-none-linux_x86_64.whl  tensorrt-5.1.5.0-cp36-none-linux_x86_64.whlroot@iZbp120zfnu5353tdx5hq7Z:/data/workspace/docker/trtfile/TensorRT-5.1.5.0/python# pip install tensorrt-5.1.5.0-cp36-none-linux_x86_64.whl

配置环境变量：

$ vim ~/.bashrc # 打开环境变量文件
# 将下面环境变量写入环境变量文件并保存
export LD_LIBRARY_PATH=TensorRT解压路径/lib:$LD_LIBRARY_PATH
# 使刚刚修改的环境变量文件生效
$ source ~/.bashrc

#当cuda环境没有指定时，也需要指定
export CUDA_INSTALL_DIR=/usr/local/cuda-9.0
export CUDNN_INSTALL_DIR=/usr/local/cuda-9.0

测试TensorRT 是否安装成功，进入python编辑器加载tensorrt:

>>>import tensorrt

可能会遇到的问题

Traceback (most recent call last):File "test.py", line 3, in <module>import torch2trtFile "/dacker/data/workspace/docker/torch2trt/torch2trt/__init__.py", line 1, in <module>from . import core, handlersFile "/dacker/data/workspace/docker/torch2trt/torch2trt/core.py", line 12, in <module>import tensorrt as trtFile "/dacker/data/workspace/docker/evenv_docker/lib/python3.6/site-packages/tensorrt/__init__.py", line 1, in <module>from .tensorrt import *
ImportError: libcudnn.so.7: cannot open shared object file: No such file or directory

这个问题根据报错情况和cudnn有关，首先排查cudnn是否安装正确（排查方法安装中有）如果有问题，重装一遍，如果没有问题，检查环境变量配置，将安装过程中的环境变量配置完整，即可。（以为cuda安装环境的问题，有时也会报此类错，如果以上两点没问题，需要添加库及打布丁）

#打开bashrc (打不开请用sudo,有些环境需要sudo才能打开）
vim ~/.bashrc#在里面添加路径(也可指定cuda版本）
export PATH="/usr/local/cuda/bin:$PATH"
export LD_LIBRARY_PATH="/usr/local/cuda/lib64:$LD_LIBRARY_PATH"#使改变生效
source .bashrc #此时终端在用户名目录下 ~#检查是否添加成功（下面两条语句会打印出刚才添加的内容）
echo $PATH
echo $LD_LIBRARY_PATH

补充

英伟达官网：https://developer.nvidia.com/跳转

Ubuntu16.04 下 tensorRT安装相关推荐

linux系统脚本安装失败,ubuntu16.04下vim安装失败的原因分析及解决方案
先给大家说下问题描述? 重装了ubuntu系统,安装vim出现了以下问题: sudo apt-get install vim 正在读取软件包列表... 完成正在分析软件包的依赖关系树正在读取状态信 ...
Ubuntu16.04下TensorFlow-GPU安装记录（GTX1060显卡）
Ubuntu16.04下TensorFlow-GPU安装记录 1 确定电脑型号(重要的是显卡型号) 2 确定CUDA版本.ubuntu版本 3 Win10系统下安装Ubuntu组成双系统(简述过程) ...
ubuntu linux kvm安装,ubuntu16.04 下kvm安装
1 检查CPU虚拟化支持 egrep 'svm|vmx' /proc/cpuinfo 有输出说明cpu支持虚拟化,在BIOS中打开inter-VT 2 宿主机网桥设置 bridge不支持Network ...
Plug And AI角蜂鸟AI开发板在Ubuntu16.04下的安装和使用
插播广告:我的个人博客:了起的博介绍一下环境 WIN10下安装的VMware的然后在其中运行Ubuntu16.04 一路过来有不少坑这里介绍一下帮助大家避免. 首先,我觉得触景无限既然要做生态,而且 ...
Ubuntu16.04 下 Anaconda3 安装 Tensorflow-GUP
写在前面,想在Ubuntu16.04安装TensorFlow-GPU,翻了很多前辈写的文章. 使用Anaconda来安装TensorFlow-GPU的话是不需要安装不需要单独安装cuda和cudnn. ...
Ubuntu16.04下qq安装历程
说起来对于一个安卓开发人员,长期在win上开发的人没有qq是很操蛋的,对于一个ubuntu的小白来说也很痛苦,前几天更新ubuntu到了16.10发现很多不爽的地方,然后我卸了重新安装了16.04 ...
gcc-linux6.3,[环境配置]Ubuntu16.04下编译安装gcc6.3.0
上一篇的SVS要用gcc6.3编译,否则结果不正确,本来以为gcc很好装,结果发现用apt-get安装gcc6只能安装6.5版本,代码作者奇特的要求只能用gcc6.3,没办法只能用源码装了,期间碰见了 ...
ubuntu16.04下编译安装OpenCV
一: 预先配置为使OpenCV的安装在编译时更完备,预先安装好所有的开发平台: 二:编译OpenCV 在OpenCV官网下载UNIX的源码包: 安装一下软件: sudo apt-get instal ...
Ubuntu16.04下　安装使用svn记录（注意不是搭建）
Ps:好久没更新了真的烦躁,各种改部署方案和代码,以及适应中间件和前端改变．加之希望优化项目(提升速度),还有用户需求的改变．还有看了两周的Ti9,上周末两天的Ti看的我太伤心了．cn dota 怎么 ...