Smoothed Dilated Convolutions for Improved Dense Prediction
Smoothed Dilated Convolutions for Improved Dense Prediction
出处：KDD2018
作者：Zhengyang Wang and Shuiwang Ji
一、问题：扩张卷积会受网格伪影(gridding artifacts)的影响，这阻碍了使用扩张卷积的DCNN的性能。
扩张卷积的分解
上述分解过程中的第二步得到的feature maps不存在相互关系，导致收集到不一致的局部信息，这和空洞卷积的思想不同，因此提出了两个解决方案。
二、解决：论文通过研究扩张卷积的分解提出两个简单但有效的degridding方法。分析了两种方法之间的关系，并定义了可分离和共享（SS）操作来概括它们。
①使用交互层平滑扩张卷积。
在上述分解的第三步中建立不同组之间的依赖关系，主要是在中间feature maps重建到最终的结果之前添加一个组交互层。具体如下图：
这个交互层输入是组卷积后的feature maps（上述分解后第二步得到的）
优点：所提出的组交互层仅需要在最坏情况下学习数千个额外参数，而原始扩张卷积通常具有数百万个训练参数。
②使用可分离和共享的卷积平滑扩张卷积。
在分解的第一步中建立不同组之间依赖关系的方法;在周期采样之前合并局部信息，可以减轻网格伪影(gridding artifacts)，于是提出可分离和共享的卷积平滑扩张卷积（SS）。具体图解如下：
在下采样之前对输入进行一个分离共享卷积的计算，然后通过循环采样得到分解中第二步的输入。其中分离共享卷积层，文章中给出的解释是，分离指的是如果输入图像是C个通道，那么将这C个通道分离，然后用C个卷积核（卷积核大小的计算方法是： kernel size =）对应每一个通道进行卷积，最终得到C通道的输出。而共享就是这C个卷积核是相同大小且在每对输入输出通道上是共享的
③ 组间交互层和分离共享卷积之间的关联
第一种方法相当于在扩张卷积之后添加分离共享式的全连接层，而第二种方法则是在扩张卷积之前插入分离共享卷积。然而，对于具有相同扩张速率的级联扩张卷积层来说，扩张卷积和分离共享操作之间的顺序仅影响第一层和最后层。因此，两种提出的方法可以概括为将适当的分类共享操作与扩张的卷积相结合。
Smoothed Dilated Convolutions for Improved Dense Prediction相关推荐
- 膨胀卷积--Multi-scale context aggregation by dilated convolutions
Multi-scale context aggregation by dilated convolutions ICLR 2016 https://arxiv.org/abs/1511.07122 C ...
- DL之DilatedConvolutions：Dilated Convolutions(膨胀卷积/扩张卷积)算法的简介(论文介绍)、架构详解、案例应用等配图集合之详细攻略
DL之DilatedConvolutions:Dilated Convolutions(膨胀卷积/扩张卷积)算法的简介(论文介绍).架构详解.案例应用等配图集合之详细攻略 目录 Dilated Con ...
- Multi-Scale Context Aggregation By Dilated Convolutions
1 Introduction 之前的网络比如FCN或者Deep Lab v1都存在从小的分辨率图像往大了进行上采样,那么问题就来了,下采样是必要的嘛?话有一些方法提供多个重构版本(multiple r ...
- 【Dilated Conv】《Multi-Scale Context Aggregation by Dilated Convolutions》
ICLR-2016 文章目录 1 Background and Motivation 2 Advantages / Contributions 3 Method 3.1 Dilated Convolu ...
- 卫星图像分割--Effective Use of Dilated Convolutions for Segmenting Small Object Instances
Effective Use of Dilated Convolutions for Segmenting Small Object Instances in Remote Sensing Imager ...
- 【Transformer】DPT: Vision Transformer for Dense Prediction
文章目录 一.背景和动机 二.方法 2.1 Transformer encoder 2.2 Convolutional decoder 2.3 处理不同输入大小 三.效果 3.1 单目深度估计 3.2 ...
- 膨胀卷积（Dilated convolutions）（又叫空洞卷积、扩张卷积）
一.背景 论文:Multi-Scale Context Aggregation by Dilated Convolutions 大部分图像分割的框架都是经历一系列的卷积和下采样的模块之后,再不断与 ...
- Dilated Convolutions
1. 扩张卷积 Dilated Convolutions,翻译为扩张卷积或空洞卷积.扩张卷积与普通的卷积相比,除了卷积核的大小以外,还有一个扩张率(dilation rate)参数,主要用来表示扩张的 ...
- 膨胀卷积(DILATED CONVOLUTIONS)
膨胀卷积(DILATED CONVOLUTIONS)是在卷积核的元素之间插入一些额外的空间,而插入空间的量由参数膨胀因子d (dilation rate)来控制, 通常有d-1个空间在卷积核元素之间被 ...
- DenseCLIP：Language-Guided Dense Prediction with Context-Aware Prompting
DenseCLIP:Language-Guided Dense Prediction with Context-Aware Prompting 论文地址:https://arxiv.org/pdf/2 ...
最新文章
- jquery java json转字符串_用jQuery以及JSON包将表单数据转为JSON字符串
- WiFi 客流成无源之水，AI 陈列督导是智慧零售的新突围点？
- Spark Scala语言学习系列之完成HelloWorld程序（三种方式）
- 远程调用RestTemplate
- 调试node服务器-过程
- laravel mysql pdo,更改Laravel中的基本PDO配置
- 移动游戏加载性能和内存管理全解析 学习
- 数据库lib7第2, 3题（创建索引和触发器)
- Cannot set property 'onclick' of null报错
- sublime能编译PHP吗,让sublime编译php、js
- php连接mysql MariaDB_PHP+MariaDB数据库操作基本技巧
- 测试用例的粒度和评价
- mysql x86 x64_X86和X86_64和X64有什么区别？
- 垃圾小白羊leetcode刷题记录1
- 支付宝又要刷屏了，红包活动开始了
- uni-app【多媒体API】
- 我的图床解决方案，超详细！
- 淘宝+Selenium
- css3自定义字体实现毛体输出沁园春雪以及font属性
- 课程学习：Linux系统管理