测试pytorch cpu版,需要1.4s,300多ms还是有点优化的。

服务器上cpu2.07s

https://github.com/Rapternmn/PyTorch-Onnx-Tensorrt

版本需要按照作者的:

Onnx 1.4.1

有预测代码和下载方法:

https://github.com/Rapternmn/PyTorch-Onnx-Tensorrt/blob/master/detect.py

测试结果:300多ms,有cpu版好像差不多,无优化

有权重:

https://github.com/htshinichi/onnx-yolov3

https://github.com/jacke121/onnx-yolov3

这个加载权重失败,报错:

onnxruntime.capi.onnxruntime_pybind11_state.Fail: [ONNXRuntimeError] : 1 : FAIL : Node (layer1-conv) Op (Conv) [ShapeInferenceError] Attribute dilations has incorrect size

yolov3 onnx nms相关推荐

  1. Yolov3 CPU推理性能比较-Onnx、OpenCV、Darknet

    为实时目标检测应用程序选择正确的推理框架变得非常具有挑战性,尤其是当模型应该在低功耗设备上运行时.在本文中,你将了解如何根据你的需要选择最佳的推理检测器,并发现它可以给你带来巨大的性能提升. 通常,当 ...

  2. yolov3修改替换onnx模型节点(Resize-->DConv)

    1. 定位 找到将要替换的节点位置, model.graph.node中节点参数是受保护变量不能直接循环,需要通过索引访问, model.graph.node[i] model = onnx.load ...

  3. retinaface onnx

    tensorrt代码: https://github.com/azhe198827/retinaface_tensorRT https://github.com/lesurp/retinanet_cp ...

  4. yolov3在Linux主机端和jetson nano开发板上的部署,使用,以及tensorrt加速yolov3-tiny

    Linux 主机端上 darknet识别 图片识别:./darknet detect cfg/yolov3.cfg yolov3.weights data/dog.jpg 视频识别:./darknet ...

  5. yolov3_tiny.onnx转trt采用tensorrt加速模型推理

    既然上一篇博客都把yolov3-tiny.weights转onnx做了,推理也测了.那么呢,就再直接转个trt模型吧.这样感觉博客的内容就更加连贯了吧,实用性貌似会更加强吧. (如果没看过yolov3 ...

  6. TensorRT5 yoloV3加速

    TensorRT5中的yoloV3加速 原文:https://blog.csdn.net/qq_22764813/article/details/85626501 有项目地址:https://gith ...

  7. yolo模型转换:pytorch -> onnx -> caffe

    第一步:pytorch转onnx(pytorch版,yolov3-9.0开始提供脚本export.py) (1)设置onnx算子版本(按需) 修改代码: torch.onnx.export(model ...

  8. Jetson 学习笔记(五):pb转uff---pb转onnx转trt----pth转onnx转pb

    文章目录 pb转uff具体代码 运行结果 pb转onnx转trt具体代码 pb转onnx运行结果 onnx转化trt 方法1:trtexec 方法2:onnx-tensorrt工具 推理trt模型 p ...

  9. 目标检测的置信度和NMS

    置信度(confidence) 还存在一个很关键的问题:在训练中我们挑选哪个bounding box的准则是选择预测的box与ground truth box的IOU最大的bounding box做为 ...

最新文章

  1. 高密度(HD)电路的设计 (主指BGA封装的布线设计)
  2. 【存储知识学习】第三章磁盘原理与技术3.6磁盘控制器、驱动器控制电路和磁盘控制器驱动程序and3.7内部传输速率和外部传输速率--《大话存储》阅读笔记
  3. mysql 的自动启动 使用配置文件 /etc/my.cnf
  4. Java锁 (概览)
  5. 【转载】性能测试浅谈
  6. Qt 在designer 中给QToolBar 添加 action控件
  7. 前端学习(1321):node.js得异步api
  8. ehcache缓存的详细配置
  9. Bash命令的学习笔记(legacy)
  10. Cannot uninstall .. It is a distutils installed project and thus we cannot accurately determine 解决方案
  11. # 第一次面试问题详解
  12. 数字绿土参加2017美国地球物理联合会(AGU)年会
  13. python正则匹配中文/英文/数字/其它字符
  14. PHP微信防止token过期,微信调用接口,防止Access_token过期的方法
  15. line-height的使用方式
  16. 平衡树学习笔记之 fhq Treap
  17. python 之mechanize
  18. 印度和印度尼西亚有什么关系吗?
  19. Windows 7/XP
  20. 1995年各省土壤类型分布数据图汇总

热门文章

  1. Openstack-mitakaCentos7.2双节点搭建--(一)基础服务搭建
  2. matlab校正环节,基于MATLAB的控制系统校正环节优化设计
  3. RAM测试方法 C语言实现,有哪些常用单片机系统RAM测试方法?基于种子和逐位倒转的RAM故障测试法有什么优点?...
  4. Linux内核之内核同步(二)——原子操作
  5. RYU控制器的学习笔记(二)
  6. 电脑上的科学计算机怎么用,电脑上怎么快速打开计算器
  7. djanjo 使用a标签跳转_django页面跳转怎么写
  8. avrorecord.java,失败,但发生异常java.io.IOException:org.apache.avro.AvroTypeException:发现的很长,期望在配置单元中实现联合...
  9. 风格化图像_【技术综述】人脸风格化核心技术与数据集总结
  10. 右边补0 润乾报表_制作按奖金分段统计的员工业绩报表