普通卷积、Depthwise(DW)卷积、Pointwise(PW)卷积、Atrous卷积

2024-06-02 00:27:50

转发

https://blog.csdn.net/T_J_S/article/details/94629637
https://www.zhihu.com/question/49630217

普通卷积

Depthwise(DW)卷积

不同于常规卷积操作，Depthwise Convolution的一个卷积核负责一个通道，一个通道只被一个卷积核卷积。上面所提到的常规卷积每个卷积核是同时操作输入图片的每个通道。
同样是对于一张5×5像素、三通道彩色输入图片（shape为5×5×3），Depthwise Convolution首先经过第一次卷积运算，不同于上面的常规卷积，DW完全是在二维平面内进行。卷积核的数量与上一层的通道数相同（通道和卷积核一一对应）。所以一个三通道的图像经过运算后生成了3个Feature map(如果有same padding则尺寸与输入层相同为5×5)，如下图所示。

Pointwise(PW)卷积

Pointwise(PW)卷积就是卷积核为1x1的，也叫点卷积，对map处理，得到新的Feature map。

Atrous 卷积

Atrous卷积，就是带洞的卷积，卷积核是稀疏的，看图：

上面是常规卷积，下面是Atrous卷积。

图中第三个示例（c），就是Atrous卷积。

带洞卷积减少了核的大小（减少了参数的数量），可以达到节省内存的作用。
而且带洞卷积的有效性基于一个假设：紧密相邻的像素几乎相同，全部纳入属于冗余，不如跳H(hole size)个取一个。

普通卷积、Depthwise(DW)卷积、Pointwise(PW)卷积、Atrous卷积相关推荐

常规卷积，DW卷积和PW卷积的区别
常规卷积,DW卷积和PW卷积的区别转载于卷积神经网络中的Separable Convolution 卷积神经网络在图像处理中的地位已然毋庸置疑.卷积运算具备强大的特征提取能力.相比全连接又消耗更少的 ...
卷积神经网络的改进 —— 分组卷积、DW 与 PW
1.普通卷积对于一张5×5像素.三通道彩色输入图片(shape为5×5×3).经过3×3卷积核的卷积层(假设输出通道数为4,则卷积核shape为3×3×3×4),最终输出4个Feature Map, ...
关于深度可分离卷积 Depthwise Pointwise Convolution
关于Pointwise Convolution 最近在学习3维点云处理,这边有看到关于pointwise. (图源知乎:轻量化网络--MobileNet - 知乎 (zhihu.com)) ...
深度可分离卷积Depthwise Separable Convolution
从卷积神经网络登上历史舞台开始,经过不断的改进和优化,卷积早已不是当年的卷积,诞生了分组卷积(Group convolution).空洞卷积(Dilated convolution 或 À trous ...
通道可分离卷积 depth-wise separable convolution
通道可分离卷积文章目录通道可分离卷积正常卷积回顾通道可分离卷积通道分离卷积,depthwise separable convolution,也叫深度可分离卷积,是MobileNet系列的主要 ...
CNN中各类卷积总结：残差、shuffle、空洞卷积、变形卷积核、可分离卷积等
CNN从2012年的AlexNet发展至今,科学家们发明出各种各样的CNN模型,一个比一个深,一个比一个准确,一个比一个轻量.我下面会对近几年一些具有变革性的工作进行简单盘点,从这些充满革新性的工作中 ...
04.卷积神经网络 W1.卷积神经网络（作业：手动/TensorFlow 实现卷积神经网络）
文章目录作业1:实现卷积神经网络 1. 导入一些包 2. 模型框架 3. 卷积神经网络 3.1 Zero-Padding 3.2 单步卷积 3.3 卷积神经网络 - 前向传播 4. 池化层 5. 卷 ...
TensorFlow（8）卷积神经网络实战（2）手写卷积池化
目录一.获取并绘制图像二.手写卷积 1.设置卷积核及权重 2.卷积 2-1.卷积实现 2-2. 限值 2-3.图像赋值 2-4.显示卷积代码三.手写池化 1.创建图像 2.遍历池化 3.显示图 ...
3.4 滑动窗口的卷积实现-深度学习第四课《卷积神经网络》-Stanford吴恩达教授
←上一篇 ↓↑ 下一篇→ 3.3 目标检测回到目录 3.5 Bounding Box 预测滑动窗口的卷积实现 (Convolutional Implementation of Sliding Wi ...

最新文章

热门文章