编译onnx-tensorrt产生libnvonnxparser.so

TensorRT 4.0没有这个，只能自己产生。5.0就有了。

git clone --recursive https://github.com/onnx/onnx-tensorrt.gitrm -rf build
mkdir build
cd build
cmake .. -DTENSORRT_ROOT=/home/quantum6/TensorRT-4.0.1.6
make -j8
sudo make install

注意，TensorRT使用绝对路径。

如果遇到错误，参考：

《onnx-tensorrt:builtin_op_importers.cpp:628:5: error: ‘IIdentityLayer’ is not a member of ‘nvinfer1’》

https://blog.csdn.net/quantum7/article/details/88781720

编译onnx-tensorrt产生libnvonnxparser.so相关推荐

ONNX+TensorRT
使用ONNX+TensorRT部署人脸检测和关键点250fps This article was original written by Jin Tian, welcome re-post, firs ...
【mmdeploy】mmseg转ONNX/TensorRT，附推理代码
目录 1.关于mmdeploy 2.环境安装 2.1预编译安装(Linux-x86_64, CUDA 11.x, TensorRT 8.2.3.0): 2.2预编译安装(Linux-x86_64, C ...
使用Relay部署编译ONNX模型
使用Relay部署编译ONNX模型本文介绍如何使用Relay部署ONNX模型的入门. 首先,必须安装ONNX软件包. 一个快速的解决方案是安装protobuf编译器,然后 pip install o ...
编译ONNX模型Compile ONNX Models
编译ONNX模型Compile ONNX Models 本文是一篇介绍如何使用Relay部署ONNX模型的说明. 首先,必须安装ONNX包. 一个快速的解决方案是安装protobuf编译器,然后 pi ...
Pytorch → ONNX → TensorRT
Pytorch → ONNX → TensorRT 由于实验室与应急减灾中心关于道路检测的项目需加快推理速度,在尝试手动融合模型的Con层和bn层发现推理速度提升不明显之后,我的"mento ...
编译带 tensorrt 的 onnxruntime
在一个干净的docker环境(ubuntu16.04)中编译带 tensorrt 的 onnxruntime: 过程: # 先 build 出 wheel root@4ab06d738053:/too ...
pytorch C++部署模型 ONNX tensorRT
(1) C++部署pytorch模型(上) (2) TensorRT5介绍及Pytorch转TensorRT5代码示例 TensorRT的使用步骤:(假设以及有一个训练好的模型) (1) 根据模型创建 ...
部署教程 | ResNet原理+PyTorch复现+ONNX+TensorRT int8量化部署
点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达 1简介这是[集智书童]第一次录制视频的PPT课件,这里公开给大家 ...
用于ONNX的TensorRT后端
用于ONNX的TensorRT后端解析ONNX模型以使用TensorRT执行. 另请参阅TensorRT文档. 有关最近更改的列表,请参见changelog. 支持的TensorRT版本 Maste ...
onnx 测试_用于ONNX的TensorRT后端
用于ONNX的TensorRT后端解析ONNX模型以使用TensorRT执行. 另请参阅TensorRT文档. 有关最近更改的列表,请参见changelog. 支持的TensorRT版本 Maste ...

编译onnx-tensorrt产生libnvonnxparser.so

编译onnx-tensorrt产生libnvonnxparser.so相关推荐

最新文章

热门文章