Dilated/Atrous Convolution

Dilated Convolution(或者叫做 Atrous Convolution), 中文称作空洞卷积/带孔卷积/扩张卷积/膨胀卷积/多孔卷积.
这些名称指的都是同一个意思,都是同一种操作.
出处Multi-Scale Context Aggregation by Dilated Convolutions

为什么需要空洞卷积
在出现空洞卷积之前的CNN分割网络中,习惯于使用Pooling的方式降低图像的尺寸,同时增大网络的感受野.最后再使用Upsampling操作将图像的尺寸恢复到原始的大小,以得到像素级的分割结果.这样的一个Pooling->Upsampling的操作导致图像的一些信息丢失(Pooling不可逆),尤其在细节上可能会有比较大的影响.所以为了达到增大感受野同时不丢失图像信息的效果,人们提出了空洞卷积这种操作.

空洞卷积是怎样操作的
使用两张动图可以简单清晰明了的展示空洞卷积的操作.
首先是普通的卷积过程:

然后是空洞卷积的操作:

(这里的两张图片来自这个博客)
可以很清楚的看到和普通的卷积操作不同的地方就在于相当于空洞卷积的卷积核中按照一定的规律插入了一些为零的值.

从原图角度，所谓空洞就是在原图上做采样。采样的频率是根据rate参数来设置的，当rate为1时候，就是原图不丢失任何信息采样，此时卷积操作就是标准的卷积操作，当rate>1，比如2的时候，就是在原图上每隔一（rate-1)个像素采样，如图b，可以把红色的点想象成在原图上的采样点，然后将采样后的图像与kernel做卷积，这样做其实变相增大了感受野。
从kernel角度去看空洞的话就是扩大kernel的尺寸，在kernel中，相邻点之间插入rate-1个零，然后将扩大的kernel和原图做卷积，这样还是增大了感受野。
空洞卷积在全卷积网络(FCN)中可以有效地控制计算特征图响应的密度，在密集预测的任务中，如语义分割，当它和双线性插值一起使用时可以替代转置卷积。空洞卷积可以在kernel有效增大感受野的同时不增加模型参数或者计算量。在图像需要全局信息或者语音文本需要较长的sequence信息依赖的问题中，都能较好的应用空洞卷积。在图像分割，语音合成WaveNet，机器翻译ByteNet中都有空洞卷积的身影。

Dilated/Atrous Convolution相关推荐

总结-空洞卷积(Dilated/Atrous Convolution)、gridding问题以及解决方案、训练技巧BN和PReLU、CReLU
这里有个可视化.直观的图:https://github.com/vdumoulin/conv_arithmetic https://zhuanlan.zhihu.com/p/50369448 http ...
深度学习之空洞卷积(Dilated/Atrous Convolution)
空洞卷积 Convolution with holes 是在标准的卷积映射(convolution map )里注入空洞,以此来增加感受野( reception field),捕获多尺度上下文信息. ...
Dilated/Atrous conv 空洞卷积/多孔卷积
Dilated/Atrous conv 空洞卷积/多孔卷积原文链接:https://blog.csdn.net/silence2015/article/details/79748729 Dilate ...
Semantic Segmentation -- (DeepLabv3)Rethinking Atrous Convolution for Semantic Image Segmentation论文解
DeepLabv3 Rethinking Atrous Convolution for Semantic Image Segmentation 原文地址:DeepLabv3 代码: TensorFlo ...
语义分割 DeepLabv3--Rethinking Atrous Convolution for Semantic Image Segmentation
Rethinking Atrous Convolution for Semantic Image Segmentation https://arxiv.org/abs/1706.05587v1 代码还 ...
【语义分割】ASPP：Rethinking Atrous Convolution for Semantic Image Segmentation
文章目录一.主要思想二.实现三.代码一.主要思想为了提高对不同尺度目标的语义分割,作者串联或并联使用不同扩张率的空洞卷积来实现对多尺度上下文的语义信息捕捉. Atrous Spatial P ...
DeepLabv3:《Rethinking Atrous Convolution for Semantic Image Segmentataion》
论文地址:https://arxiv.org/abs/1706.05587 Abstract 在这篇文章中,我们重温了atrous convolution(带孔卷积),它可以很好的调整过滤器的感受 ...
空洞卷积（扩张卷积，带孔卷积，atrous convolution）的一些总结与理解
空洞卷积(扩张卷积,带孔卷积,atrous convolution)是一种区别于普通卷积的卷积方式,从字面理解,就是卷积层中有洞. 1.一维理解以一维为例: 图中(a)Input feature表示 ...
DetectoRS: Detecting Objects with Recursive Feature Pyramid and Switchable Atrous Convolution 论文笔记
前言本文分别从宏观和微观角度对目标检测模型的backbone进行设计,进而提出DetectorRS, 在宏观上,提出递归特征金字塔(Recursive Feature Pyramid,RFP),它是 ...

Dilated/Atrous Convolution

Dilated/Atrous Convolution相关推荐

最新文章

热门文章