抱歉，新電腦剛裝了一個googlepinyin，居然是繁體字，難得該了，大家湊合看吧

復現環境：

TensorRT-8.2.1.8

Driver Version: 470.141.03

cuda_11.4 cudnn8.2.4

ubuntu20.04

TensorRT Not Found

在復現過程中，這個問題折磨我好久，在github上的issue也有兩個這樣的問題，但是對我來說都不能work，而且在csdn，google中搜索時發現suma++相關介紹挺多的，但是復現或者出現問題想搜索來解決卻沒有什麼參考的，所以寫這篇文章提供一些信息，可能會節約困擾中的你許多時間。

1.剛開始，在師兄的幫助下，我們把cmakelist中的TensorRT Found改爲手動鏈接，也可以編譯通過rangenet_lib，但是現在復現成功後發現，不管是github issue 還是手動鏈接庫，都沒有找到本質問題，即tensorRT的版本不同，裏面的(頭)文件也不一樣，以TensorRT-8.2.1.8和作者使用的tensorRT5.1爲例，在include下，TensorRT-8.2.1.8中並沒有NvOnnxParserRuntime.h文件，而5.1有（不同版本，自行比較），這也是suma++ TensorRT Not Found的根本原因：因爲：

rangenet_lib/cmake/tensorrt-config.cmake中把這個文件作爲找到TensorRT的與條件，那必然是找不到的.( 如下if(..........AND NVONNXPARSERRUNTIME) )

# If it is ALL there, export libraries as a single package
if(CUDA_FOUND AND NVINFER AND NVINFERPLUGIN AND NVPARSERS AND NVONNXPARSER AND NVONNXPARSERRUNTIME)message("TensorRT available!")message("CUDA Libs: ${CUDA_LIBRARIES}")message("CUDA Headers: ${CUDA_INCLUDE_DIRS}")message("NVINFER: ${NVINFER}")message("NVINFERPLUGIN: ${NVINFERPLUGIN}")message("NVPARSERS: ${NVPARSERS}")message("NVONNXPARSER: ${NVONNXPARSER}")message("NVONNXPARSERRUNTIME: ${NVONNXPARSERRUNTIME}")list(APPEND TENSORRT_LIBRARIES ${CUDA_LIBRARIES} nvinfer nvinfer_plugin nvparsers nvonnxparser nvonnxparser_runtime)message("All togheter now (libs): ${TENSORRT_LIBRARIES}")list(APPEND TENSORRT_INCLUDE_DIRS ${CUDA_INCLUDE_DIRS})message("All togheter now (inc): ${TENSORRT_INCLUDE_DIRS}")set(TENSORRT_FOUND ON)
else()message("TensorRT NOT Available")set(TENSORRT_FOUND OFF)
endif()

對於我來說，正確的tensorrt-config.cmake,(應該是通用的，如果tensorRT版本變化，需要相應的變化)：

#####################################
## tensorrt specific configuration ##
#####################################
set(CMAKE_PREFIX_PATH "/opt/TensorRT-8.2.1.8/lib")
find_package(CUDA)
find_library(NVINFER  NAMES nvinfer)
find_library(NVINFERPLUGIN NAMES nvinfer_plugin)
find_library(NVPARSERS NAMES nvparsers)
find_library(NVONNXPARSER NAMES nvonnxparser)
# find_library(NVONNXPARSERRUNTIME NAMES nvonnxparser_runtime)# If it is ALL there, export libraries as a single package
if(CUDA_FOUND AND NVINFER AND NVINFERPLUGIN AND NVPARSERS AND NVONNXPARSER)message("TensorRT available!")message("CUDA Libs: ${CUDA_LIBRARIES}")message("CUDA Headers: ${CUDA_INCLUDE_DIRS}")message("NVINFER: ${NVINFER}")message("NVINFERPLUGIN: ${NVINFERPLUGIN}")message("NVPARSERS: ${NVPARSERS}")message("NVONNXPARSER: ${NVONNXPARSER}")# message("NVONNXPARSERRUNTIME: ${NVONNXPARSERRUNTIME}")list(APPEND TENSORRT_LIBRARIES ${CUDA_LIBRARIES} nvinfer nvinfer_plugin nvparsers nvonnxparser)message("All togheter now (libs): ${TENSORRT_LIBRARIES}")list(APPEND TENSORRT_INCLUDE_DIRS ${CUDA_INCLUDE_DIRS})message("All togheter now (inc): ${TENSORRT_INCLUDE_DIRS}")set(TENSORRT_FOUND ON)
else()message("TensorRT NOT Available")set(TENSORRT_FOUND OFF)
endif()

至此，解決了TensorRT Not Found問題

復現視頻

./visualizer 報錯：https://blog.csdn.net/weixin_58045467/article/details/126513326?spm=1001.2014.3001.5501

rangenet_lib && tensorRT8.** && ubuntu20.04 && suma++_缄默0603的博客-CSDN博客

suma++ TensorRT Not Found相关推荐

復現suma++:最後一步 ./visualizer 報錯
抱歉,新電腦剛裝了一個googlepinyin,居然是繁體字,難得該了,大家湊合看吧在復現 suma++時 ,遇到好多問題nvidia驅動,cuda,cudnn,tensorRT ...就當一切都編 ...
30系显卡怎么配置rangenet++和SuMa++
30系显卡怎么配置rangenet++和SuMa++ 说在前面 NVIDIA driver CUDA 11.1 cudnn TensorRT 7.2.3 rangenet++安装 && ...
rangenet_lib tensorRT8.** ubuntu20.04 suma++
在复现suma++时,由于是ubuntu20.04 ,所以安装tensorRT8.2.* .导致了编译不通过rangenet_lib网络库. 因为tensorRT版本更新了,现在修改了代码,可以编译通 ...
TensorRT简介
TensorRT 介绍引用:https://arleyzhang.github.io/articles/7f4b25ce/ 1 简介 TensorRT是一个高性能的深度学习推理(Inference) ...
TensorRT优化方案图例
TensorRT优化方案图例图 12. TensorRT 循环由循环边界层设置.数据流只能通过下方式离开循环环输出层. 唯一允许的后边缘是第二个输入递归层. 图 13. 一个 if 条件构造抽象模型 ...
Tensorrt一些优化技术介绍
Tensorrt一些优化技术介绍 Figure 1. A quantizable AveragePool layer (in blue) is fused with a DQ layer and a ...
英伟达TensorRT 8-bit Inference推理
英伟达TensorRT 8-bit Inference推理引论 ● 目标:将FP32 CNN转换为INT8,不会造成显著的精度损失. ● 原因:Int8 Math具有更高的吞吐量和更低的内存需求. ...
TensorRT深度学习训练和部署图示
TensorRT深度学习训练和部署 NVIDIA TensorRT是用于生产环境的高性能深度学习推理库.功率效率和响应速度是部署的深度学习应用程序的两个关键指标,因为它们直接影响用户体验和所提供服务的 ...
TensorRT 数据和表格示例
TensorRT 数据和表格示例 TensorRT 7.1在绑定索引方面比其前身更加严格.以前,允许错误配置文件的绑定索引.考虑一个网络,该网络具有四个输入,一个输出,以及在其中的三个优化配置文件 I ...

suma++ TensorRT Not Found

抱歉，新電腦剛裝了一個googlepinyin，居然是繁體字，難得該了，大家湊合看吧

復現環境：

TensorRT Not Found

./visualizer 報錯：https://blog.csdn.net/weixin_58045467/article/details/126513326?spm=1001.2014.3001.5501

suma++ TensorRT Not Found相关推荐

最新文章

热门文章