清华旷视：RepVGG，更佳的速度-精度trade-off！

文章题目：RepVGG：Make VGG-style ConvNets outstanding again

代码地址：在公众号「3D视觉工坊」，后台回复「RepVGG」，即可直接下载。

摘要：

本文提出一种简单而强有力的CNN架构RepVGG，在推理阶段，它具有与VGG类似的架构，而在训练阶段，它则具有多分支架构体系，这种训练-推理解耦的架构设计被称为“重参数化”。

研究现状：

尽管许多复杂的ConvNet都比简单的ConvNet提供更高的准确性，但缺点很明显。1）复杂的多分支设计（例如ResNet中的残差加法和Inception中的分支级联）使模型难以实现和定制，减慢了推理速度并降低了内存利用率。2）一些组件增加了内存访问成本，并且缺乏对各种设备的支持。此外，还有影响的因素，浮点运算（FLOP）的数量不能准确反映实际速度。因此，VGG和ResNets的原始版本仍然在学术界和工业界广泛用于现实世界的应用程序。

研究贡献：

基于上述研究现状，本文的研究人员提出了一种简单有强有的CNN架构RepVGG，相比其他架构，具有更佳的精度-速度均衡；对plain架构采用重参数化技术；并在图像分类、语义分割等任务上验证了RepVGG的有效性。

研究细节：<

清华旷视：RepVGG，更佳的速度-精度trade-off！相关推荐

清华旷视：让VGG再次伟大！
点击上方"视学算法",选择加"星标"或"置顶" 重磅干货,第一时间送达丰色发自凹非寺量子位报道 | 公众号 QbitAI CNN经 ...
清华旷视让全连接层“内卷”，卷出MLP性能新高度
此前,清华大学与旷视科技曾通过结构重参数化将7年老架构VGG"升级"为性能直达SOTA的RepVGG模型. 如今,这个结构重参数化系列研究又添"新成员": 他们 ...
CVPR 2021 | 涨点神器ACNet再进化！清华旷视提出Inception类型的DBB
点击下方卡片,关注"CVer"公众号 AI/CV重磅干货,第一时间送达本文转载自:AIWalker | 作者:Happy Diverse Branch Block: Buil ...
旷视 CEO 印奇：靠“刷脸”折腾出 120 亿的大生意
2016 年 2 月 26 日,福布斯公布"30 岁以下青年领袖榜单".这位从互联网创业大潮中脱颖而出的中国科技"男神",在 28 岁时凭"刷脸&qu ...
R TALK | 旷视孙剑：如何打造云、端、芯上的视觉计算
「R TALK 」是北京智源-旷视联合实验室推出的一个深度学习专栏,将通过不定期的推送,展示旷视研究院的学术分享及阶段性技术成果.「R Talk 」旨在通过一场场精彩纷呈的深度学习分享,抛砖引玉,推陈 ...
【目标检测】ThunderNet: 超轻量型检测网络，旷视科技
paper:ThunderNet: Towards Real-time Generic Object Detection 论文链接:https://arxiv.org/abs/1903.11752?c ...
旷视ThunderNet网络学习笔记
关于Thundernet的实现细节: 一.Backbone 部分输入分辨率: 一般情况下,two-stage检测器的输入分辨率比较大,如FPN网络使用了800*800的分辨率,这虽然带来了一些优势但 ...
首发 | 驭势科技推出“东风网络”：如何找到速度-精度的最优解？| 技术头条...
点击上方↑↑↑蓝字关注我们~ 「2019 Python开发者日」全日程揭晓,请扫码咨询 ↑↑↑ 作者 | 驭势科技给定目标硬件,如何确定最优的速度-精度折衷边界?换言之:给定推断延时的限制,模型能达 ...
清华「计图」、旷视「天元」纷纷重磅开源，国产深度学习框架迎来高光时刻...
来源:CSDN 本文约3141字,建议阅读7分钟. 本文介绍清华开源的深度学习框架 Jittor(计图) 引起了广泛关注,支撑旷视诸多业务和战绩的深度学习框架 MegEngine(天元) 也将在近日开 ...

清华旷视：RepVGG，更佳的速度-精度trade-off！

清华旷视：RepVGG，更佳的速度-精度trade-off！相关推荐

最新文章

热门文章