极智AI | 英伟达 Jetson 系列边缘盒子性能测评

本文记录了英伟达 Jetson 系列边缘盒子的性能测评小结。

测评的 AIBox 是分别来自浪潮、研智、米文，盒子型号包括浪潮 Jetson Xavier NX、研智 Jetson Xavier NX、米文 Jetson Nano、米文 Jetson TX2 NX、米文 Jetson Xavier NX、米文 Jetson AGX Xavier，数据对标浪潮 NX。

盒子的推理性能强弱和其 GPU 架构和硬件配置强相关，关于 Jetson 系列盒子的硬件参数可以参考我的这篇《【模型推理】英伟达 Jetson 系列边缘盒子硬件参数汇总》。

我这里主要测评的模型是我们项目中的目标检测和行人重识别模型，不是经典模型，所以这里的测评数据不具有通用性，想要更加充分的评估就自己动手吧~

测评姿势：使用的推理框架是 TensorRT，C++ API 堆叠那种，做了算子融合、低比特等优化；低比特化不同盒子不一样，如 Nano、TX2_NX 不支持 int8，故用的 fp16 精度，其余为 int8（这里主要考虑以能实际落地的精度进行性能对比）。

给出性能对比数据：

极智AI | 英伟达 Jetson 系列边缘盒子性能测评相关推荐

玩转英伟达jetson系列(一)刷系统
玩转英伟达jetson系列(一)刷系统 1.因为工作的原因,有幸同时接触并应用了英伟达jetson nano,jetson tx2和jetson Agx Xavier这三款嵌入式的AI计算平台,对于我 ...
用英伟达Jetson Nano运行PyTorch Fast.ai丨手把手教程+第三方工具
原作 Interogativ 郭一璞编译量子位报道 | 公众号 QbitAI 英伟达Jetson Nano,作为老黄家最便宜的硬件,只要99美元. 看到便宜就想捡,拿到手里怎么玩? 造机器人 ...
英伟达Jetson NX，AI配置。安装SDK Components
目录 0.前言 1.准备 2.安装 3.检验 4.总结 0.前言五一了,劳动节劳个动.推荐一首歌<花房姑娘>. 1.准备接上篇博客英伟达Jetson NX套件刷机算是完整配置英伟达这 ...
英伟达再发边缘AI计算设备：仅信用卡大小，性能比TX2强15倍
晓查发自凹非寺量子位报道 | 公众号 QbitAI 英伟达最近发布了Jetson Xavier NX,这是一个用于在无人机.汽车和机器人等边缘设备上的AI系统模块. Jetson Xavie ...
边缘深度学习设备基准评测：英伟达Jetson Nano胜出
点击我爱计算机视觉标星,更快获取CVML新技术本文经机器之心(微信公众号:almosthuman2014)授权转载,禁止二次转载. 选自tryolabs.com 作者:Juan Pablo 机器之 ...
英伟达Jetson Nano安装
英伟达Jetson Nano安装简介板子说明 SD卡安装系统运行总结简介 NVIDIA® Jetson Nano™ 开发者套件是一款专为创客.学习者和开发者打造的小型 AI 计算机.学习此简 ...
NVIDIA英伟达jetson xavier nx核心板模块如何组装散热组件
NVIDIA英伟达jetson xavier nx核心板模块 XAVIER 的性能.NANO 的大小. Jetson Xavier NX 只有 70 毫米 x 45 毫米,可以将 NVIDIA Xav ...
中标丨英伟达Jetson 边缘计算模块申购、中国电信5G边缘计算应急通信车购置工程等...
项目名称:中国电信2021年5G边缘计算应急通信车购置工程采购单位:中国电信股份有限公司项目概况:本项目在5G业务应用较为广泛.重大活动保障需求较为旺盛的浙江.福建.安徽.贵州等省开展5G应急通信 ...
英伟达jetson tx1开发套件配置tensorflow
英伟达jetson tx1开发套件配置tensorflow 本文为原创作品,未经本人同意,禁止转载,禁止用于商业用途!本人对博客拥有最终解释权欢迎关注我的博客:http://blog.csdn.ne ...

极智AI | 英伟达 Jetson 系列边缘盒子性能测评

极智AI | 英伟达 Jetson 系列边缘盒子性能测评相关推荐

最新文章

热门文章