【tensorrt】——Network has dynamic or shape inputs, but no optimization profile has been defined.

tensorrt, batch

onnx2trt转多batch模型的时候，报错：

[2021-09-06 06:00:06   ERROR] Network has dynamic or shape inputs, but no optimization profile has been defined.
[2021-09-06 06:00:06   ERROR] Network validation failed.
terminate called after throwing an instance of 'std::runtime_error'what():  Failed to create object

解决
onnx2trt不支持动态batch的模型转换。需要使用trtexec来进行模型转换。

trtexec的使用和推理耗时的评测请看下一篇博客。

【tensorrt】——Network has dynamic or shape inputs, but no optimization profile has been defined.相关推荐

Internal Error (Network has dynamic or shape inputs, but no optimization profile has been defined.)
解决报错Internal Error (Network has dynamic or shape inputs, but no optimization profile has been define ...
【TensorRT】TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2
[TensorRT]TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2 1 电脑环境 2 问题描述 3 直接原因 4 解决办法 ...
【TensorRT】将 PyTorch 转化为可部署的 TensorRT
文章目录一.什么是 ONNX 二.PyTorch 转 ONNX 三.什么是 TensorRT 四.ONNX 转 TensorRT 在深度学习模型落地的过程中,会面临将模型部署到边端设备的问题,模型训 ...
【TensorRT】trtexec工具转engine
目前官方的转换工具 ONNX-TensorRT https://github.com/onnx/onnx-tensorrt trtexec的用法说明参考 https://blog.csdn.net/q ...
【控制】粒子群优化（PSO，Particle Swarm Optimization）算法及 Matlab 仿真实现
文章目录定义对比模拟捕食通俗解释粒子抽象关于速度和位置速度和位置的更新标准PSO算法流程标准PSO算法的流程 PSO流程图解学习因子 c1.c2c_1.c_2c1.c2 分析仿 ...
【Flutter】Dart 数据类型 ( dynamic 数据类型 )
文章目录一. dynamic 数据类型二. dynamic 变量无法进行语法检查三. dynamic 变量运行时类型修改四. 完整代码示例五. 相关资源 Dart 语言中有 dynamic ...
【Electron】Error: A dynamic link library (DLL) initialization routine failed.
electron是可以使用node原生模块的,但是需要重新编译一下方法在文档里面有写传送门: using-native-node-modules 这个不分你用什么模块,但是按照文档说的方法还是可能会 ...
【tensorrt】——插件写法及python plugin大体流程
tensorrt 1. python plugin 大体流程这是参考torch2trt写的一个python插件的大体流程,因为tensorrt是没有开源的,所以具有不确定性. 2. code 项目, ...
【TensorRT】PyTorch模型转换为ONNX及TensorRT模型
文章目录 1. PyTorch模型转TensorRT模型流程 2. PyTorch模型转ONNX模型 3. ONNX模型转TensorRT模型 3.1 TensorRT安装 3.2 将ONNX模型转换 ...

【tensorrt】——Network has dynamic or shape inputs, but no optimization profile has been defined.

【tensorrt】——Network has dynamic or shape inputs, but no optimization profile has been defined.相关推荐

最新文章

热门文章