快速读懂Depth-wise Convolution

2024-05-12 16:03:40

Depth-wise Convolution详细定义

详细定义请参照下面链接：
https://towardsdatascience.com/a-basic-introduction-to-separable-convolutions-b99ec3102728

快速了解

在学习Depth-wise Conv之前先了解一下传统的Convolution:
对于普通卷积：

我们从[12,12,3]的input feature map到[8,8,256]的output feature map，需要256个[5,5,3]的卷积核。参数量为256 x 5 x 5 x 3 = 19200，乘法次数为256 x 5 x 5 x 3 x 8 x 8 = 1228800(可以理解为FLOPs)。

对于depth-wise卷积：

Depth-wise Conv分为2个卷积过程：Separable Conv 以及 Point-wise Conv.

同样的，从[12,12,3]的input feature map到[8,8,256]的output feature map，需要3个[5,5,1]的卷积核和256个[1,1,3]的卷积核。参数量为3 x 5 x 5 x 1 + 256 x 1 x 1 x 3 = 843，乘法次数为3 x 5 x 5 x 1 x 8 x 8 + 256 x 1 x 1 x 3 x 8 x 8 = 53952(FLOPs)。

如此一来，depth-wise conv的FLOPs只有普通卷积的~4.4%，EfficientNet的参数量少也就不足为奇了。

那么，为什么推理速度反而更慢呢？

这就要说说，如何衡量推理速度了：
细致了解推理速度影响因素请参照：https://zhuanlan.zhihu.com/p/122943688

简单概括：
简单来说，depth-wise卷积的FLOPs更少没错，但是在相同的FLOPs条件下，depth-wise卷积需要的IO读取次数是普通卷积的100倍，因此，由于depth-wise卷积的小尺寸，相同的显存下，我们能放更大的batch来让GPU跑满，但是此时速度的瓶颈已经从计算变成了IO。自然desired小尺寸卷积应该有的快速的特性，也无法实现。

当然，也不该如此绝望，也许未来某天GPU的IO性能进一步提升，基于depth-wise卷积的工作就可以真正称得上是Efficient了！

转载自：https://zhuanlan.zhihu.com/p/149564248

快速读懂Depth-wise Convolution相关推荐

23、90秒快速“读懂”STP（生成树）工作原理
23.90秒快速"读懂"STP(生成树)工作原理 https://www.toutiao.com/i6794982558787437063/?tt_from=weixin& ...
快速读懂Http3协议总结
<网络编程懒人入门(十二):快速读懂Http/3协议,一篇就够!> 什么是 http3 当IETF正式标准化HTTP/2时,Google正在独立构建一个新的传输协议,名为gQUIC.它后来 ...
如何快速读懂开源代码？
文章目录 **RUN起来** **调试** **把控关键数据结构和函数** **从小的开始** **关注一个模块** **工具** **一.阅读开源代码存在的一些误区** 二.阅读代码的心态 **三. ...
快速读懂UML类图，搞懂类之间的6大关系，轻松绘制UML类图
快速读懂UML类图,搞懂类之间的6大关系,轻松绘制UML类图前言一.UML类图简介二.类之间的六大关系及UML类图 1.依赖关系及UML类图表示 2.泛化关系及UML类图表示 3.实现关系及UM ...
网络编程之一泡尿的时间，快速读懂QUIC协议
网络编程之一泡尿的时间,快速读懂QUIC协议 TCP协议到底怎么了? QUIC协议登场 QUIC协议的目标 QUIC协议这么好,可以大规模切换为QUIC吗? QUIC协议实践我想试试QUIC协议,可 ...
【转载】ddr3参数-内存系列一：快速读懂内存条标签
内存系列一:快速读懂内存条标签内存是我们平常接触最频繁的计算机硬件之一,内存的大小.多寡和型号和我们计算机.手机等性能密切相关.内存系列计划通过三篇文章由浅入深介绍内存的软硬件特性以及与固件的关系. ...
html语言代码大全,菜鸟快速读懂HTML语言_html
html语言是网页制作的基础,是初学者必学的内容.虽然现在有许多所见即所得的网页制作工具,但是说到底,还是有必要了解一些HTML的语法.这样,您可以更精确的控制页面的排版,可以实现更多的功能.HTML ...
网络编程懒人入门(十二)：快速读懂Http/3协议，一篇就够！
本文中文译文由作者"ably.io"发布于公众号"高可用架构",译文原题:<深入解读HTTP3的原理及应用>.英文原题:<HTTP/3 dee ...
基金投资入门教程-----快速读懂基金招募书
基金投资入门教程-----快速读懂基金招募书基金投资入门教程-----快速读懂基金招募书 3.快速读懂基金招募书下载基金招募书开始读基金投资入门教程-----快速读懂基金招募书 3.快速读懂基 ...
如何快速读懂一个后端系统代码
如何快速看懂一个后端系统代码当一个java开发新手拿到一个系统代码并且没有人给你讲基本的需求与功能时,如何快速读懂代码了解功能是提高工作效率的必备技能.我作为一个参加工作一年的Java小菜是如何做的 ...

最新文章

热门文章