Jetson Nano 系列之：25FPS性能优化之路

LEVEL 0：pytorch性能<10FPS

在电脑上，借助英伟达高端GPU算力跑模型，掩盖了python和pytorch在性能上的不足，训练完了想直接把pytorch装到jetson nano上就能实时检测那是想多了，到不了10FPS。

LEVEL 1：tensorrt加持

不要考虑pytorch了，把训练好的 ,pt 文件拷贝出来，用tensorrt进行编译，得到 .engine文件，性能大约可以提高1倍。

LEVEL 2：deepstream 加持

deepstream 是基于gstreamer的，只不过nvidia做了几个核心的infer和detect插件，其中infer插件用了tensorrt。你的模型要跑起来不能只有infer，还有视频接入、缩放、后处理等步骤，deepstream(gstreamer)的插件很多都能帮你完成，用不着通过opencv了。

LEVEL 3：C语言加持

deepstream提供了python和C例子，然并卵python是解释性语言性能不行，还是要硬着头皮用C，代码写起来倒也没那么难，就是照着葫芦画瓢。

FINAL：减少模型输入的尺寸

这一步是要你命3000，前面折腾完还卡的恭喜你找到救命稻草了，比如默认是1280*720的输入你改成640*360性能就会提升3-4倍，直到满足实时性为止。

Jetson Nano 系列之：25FPS性能优化之路相关推荐

【Linux 性能优化系列】Linux 性能优化 -- CPU 性能篇(三) Linux 软中断
[Linux 性能优化系列]Linux 性能优化 -- CPU 性能篇(三) Linux 软中断 [1]相关概念 [1.1]中断中断其实是一种异步的事件处理机制,可以提高系统的并发处理能力:为了减少 ...
【Linux 性能优化系列】Linux 性能优化 -- CPU 性能篇(一) 平均负载、上下文切换、CPU 使用率
[Linux 性能优化系列]Linux 性能优化 -- CPU 性能篇(一) 平均负载.上下文切换.CPU 使用率 [1]相关概念 [1.1]平均负载平均负载是指单位时间内,系统处于可运行状态和不可 ...
一次网站的性能优化之路 -- 天下武功，唯快不破
一次网站的性能优化之路 -- 天下武功,唯快不破首屏作为直面用户的第一屏,其重要性不言而喻,如何加快加载的速度是非常重要的一课. 本文讲解的是:笔者对自己搭建的个人博客网站的速度优化的经历. 效果体 ...
Jetson Nano系列教程3-生死看淡，不服就干之GPIO
JetsonTX1,TX2,AGXXavier和Nano开发板包含一个40引脚的GPIO头,类似于Raspberry PI中的40引脚头.这些GPO可以通过JetsonGPIOLibrary包中提供的 ...
Jetson Nano 系列之：刷机、瘦身、部署应用
背景模型已经训练好了,完成了在jetson nano b01上的各种测试,测试的过程中安装了各种自己也记不清的包,系统装载了32G TF卡上,每次开机还报错,并且引导很慢,这种状态不能直接做生产环境 ...
MySQL系列-- 4. 查询性能优化
4. 查询性能优化 4.1 为什么查询速度会变慢快速查询取决于响应时间如果把查询看成是一个任务,那么它由一系列子任务组成,每个子任务都会消耗一定的时间.如果要优化查询,实际上要优化其子任务,要么消 ...
使用js在桌面上写一个倒计时器_论一个倒计时器的性能优化之路
原文发表于 2018.05.25,搬运自个人博客. 引子回顾这半年,扛需求能力越来越强,业务代码也是越写越多.但稍一认真看看这些当时为了满足快速上线所码的东西,问题其实还是不少.这次就从一个简单的计 ...
美团性能优化之路——性能指标体系
前言在互联网网站百花齐放的今天,网站响应速度是用户体验的第一要素,其重要性不言而喻,这里有几个关于响应时间的重要条件: 用户在浏览网页时,不会注意到少于0.1秒的延迟: 少于1秒的延迟不会中断用户的 ...
网易新闻从0到1的短视频性能优化之路
本文阐述了网易新闻客户端在段视频性能方面的优化思路.过程及结果,做到了小投入高产出本文作者:Re 前言在过去的2018年,短视频开始占据互联网越来越多的流量.爆红的短视频社交应用自不必说,通过短视 ...
redis 亿级查询速度_吊打面试官系列：Redis 性能优化的 13 条军规大全
我的官方群点击此处. 1.缩短键值对的存储长度键值对的长度是和性能成反比的,比如我们来做一组写入数据的性能测试,执行结果如下: 从以上数据可以看出,在 key 不变的情况下,value 值越大操作效 ...