空洞卷积(Atrous convolution)
目录
空洞卷积
空洞卷积优点
Dilated Convolution存在的问题
空洞卷积
空洞卷积是针对图像语义分割问题中下采样会降低图像分辨率、丢失信息而提出的一种卷积思路。利用添加空洞扩大感受野,让原本3x3的卷积核,在相同参数量和计算量下拥有5x5(dilated rate =2)或者更大的感受野,从而无需下采样。
扩张卷积(dilated convolutions)又名空洞卷积(atrous convolutions),向卷积层引入了一个称为 “扩张率(dilation rate)”的新参数,该参数定义了卷积核处理数据时各值的间距。换句话说,相比原来的标准卷积,扩张卷积(dilated convolution) 多了一个hyper-parameter(超参数)称之为dilation rate(扩张率),指的是kernel各点之前的间隔数量,【正常的convolution 的 dilatation rate为 1】。
Standard Convolution with a 3*3 kernel Dilated Convolution with a 3*3 kernel
(and padding) and dilation rate 2
之所以提出了Dilated Convolution,是因为Deep CNN存在一些主要的问题:
- 上采样和池化层存在一些知名的问题(Hinton在演讲中提出)
- 内部数据结构丢失,空间层级化信息丢失
- 小物体无法重建
空洞卷积优点
在不做pooling损失信息和相同的计算条件下的情况下,加大了感受野,让每个卷积输出都包含较大范围的信息。空洞卷积经常用在实时图像分割中。当网络层需要较大的感受野,但计算资源有限而无法提高卷积核数量或大小时,可以考虑空洞卷积。
Dilated Convolution存在的问题
Dilated Convolution的优点在于可以保留内部数据结构以及可以避免使用下采样这样的特性。但是完全基于Dilated Convilution设计模型也会存在一些问题:
- Dilated Convolution的kernel并不连续,也就是并不是所有的像素都用来计算了,因此这里将信息看作checker-board的方式将会损失信息的连续性。(即栅格效应,膨胀卷积不能覆盖所有的图像特征,如下图所示)
- Dilated Convolution的设计更像是用于获取long-range information,这样或许对一些大物体有较好的分隔效果,而对于小物体来说可能是有弊无利了。如何同时处理好大小物体的关系,则是设计好dilated convolution网络的关键。
空洞卷积(Atrous convolution)相关推荐
- 空洞卷积atrous/dilated convolution
1.定义 空洞卷积(atrous/dilated convolution)又称膨胀卷积是针对图像语义分割问题中下采样会降低图像分辨率.丢失信息而提出的一种卷积思路.空洞卷积向卷积层引入了一个称为&qu ...
- 空洞卷积(dilated convolution)理解
1.简介 Dilated/Atrous Convolution(中文叫做空洞卷积或者膨胀卷积) 或者是 Convolution with holes 从字面上就很好理解,是在标准的 convoluti ...
- 膨胀卷积(空洞卷积 dilated convolution)
学习的B站大佬的视频大部分图片来自于课中,文章结尾有大佬视频链接,以及阅读<深度学习之pytorch物体检测实战>,刚开始学习可能有些错误,希望大佬指正 1.空洞卷积了解 空洞卷积最初是为 ...
- casual Convolution因果卷积、空洞卷积dilated convolution、Hybrid Dilated Convolution (HDC)
1.因果卷积 2.空洞因果卷积 3.HDC https://blog.csdn.net/qq_26369907/article/details/97624028 https://blog.csdn.n ...
- 【CV】DeepLab:使用DCNN、空洞卷积和全连接条件随机场的图像语义分割网络
论文名称:DeepLab: Semantic Image Segmentation with Deep Convolutional Nets, Atrous Convolution, and Full ...
- 空洞卷积原理详解及其pytorch代码实现
一.空洞卷积 1.1 普通小卷积核卷积-池化-再上采样会出现的问题 Up-sampling / pooling layer (e.g. bilinear interpolation) is deter ...
- 卷积、转置卷积、可分离卷积、分组卷积、空洞卷积的理解
文章目录 卷积.转置卷积.可分离卷积.分组卷积.空洞卷积的理解 转置卷积 深度可分离卷积 分组卷积 空洞卷积 卷积.转置卷积.可分离卷积.分组卷积.空洞卷积的理解 这里主要是汇总一些本人觉得比较好的文 ...
- 深度学习之空洞卷积(Dilated/Atrous Convolution)
空洞卷积 Convolution with holes 是在标准的卷积映射(convolution map )里注入空洞,以此来增加感受野( reception field),捕获多尺度上下文信息. ...
- 空洞卷积(扩张卷积,带孔卷积,atrous convolution)的一些总结与理解
空洞卷积(扩张卷积,带孔卷积,atrous convolution)是一种区别于普通卷积的卷积方式,从字面理解,就是卷积层中有洞. 1.一维理解 以一维为例: 图中(a)Input feature表示 ...
- 空洞卷积(Atrous/Dilated Convolution)
由Deeplabv1提出的. 有两种实现方式: 一,卷积核填充0. 二,输入等间隔采样. 扩张率(dilation rate),也叫空洞数(Hole Size). 标准卷积可以看做空洞卷积rate=1 ...
最新文章
- 什么?拼命栽培员工,让他强大到足以离开
- Java游戏地下城_地下城与勇士DNF-鬼剑士
- php lodop 实例,Vue使用lodop实现打印小结
- python怎么写脚本执行adb命令_android – 如何使用Python执行adb命令?
- iptables之iptables命令详解
- java基础----Java中枚举的使用(一)
- 15-07-22 数据库--存储过程、触发器
- 010Editor逆向及注册机实现
- ArcEngine ICoommand和ITool 的区别
- 阿里云技术专家刘晨旭:阿里云对数据可靠性保障的一些思考
- 哪个服务器开了无限火力,国服无限火力已经开放入口?有玩家已经提前卡进无限火力模式...
- Linux下怎么进入波浪线目录,linux 波浪线 ~ 使用方法
- element-ui时间选择器如何把今日日期改为“至今”
- 汉字在计算机中的表示
- 表情识别(二)——使用Dlib、opencv和Python标记和提取脸部的特定区域
- 05 linux shell脚本 变量的取用echo;变量的设置和修改;变量的使用规范以及示例
- MySQL异常 check the manual that corresponds
- 2021年全球与中国临时起搏器行业市场规模及发展前景分析
- Vue使用elementUI实现一个后台管理
- 2022年IAA行业品类发展洞察系列报告:内容向APP及休闲游戏的突围