转置卷积（反卷积）为什么姓转置

2024-05-10 07:25:54

转置卷积（反卷积）--为什么姓转置

我们都知道常规的卷积操作：通过卷积将一个高维度的特征，转移（仿射）到一个低维度。如下图

一个5 X5 的特征，通过一个3X3的卷积，步长=2，没有填充，一顿操作之后就可以将5X5 ----->2X2。这就是常规的卷积操作。

从数学的仿射角度解释：

一个高纬度的向量 Z （假设维度=5），和一个低维度向量X（假设维度=2），如果要用一个仿射变换来实现，就是利用矩阵W（因为矩阵的作用就是做一个空间变换嘛）操作，那么这个矩阵的维度应该等于 2X5。

所以用公式表示就是：

$X = W Z$

通过这样的一个仿射变换就可以把一个5维向量，转移到一个2维的空间里。这就是常规的卷积操作。

如果要从现在的低维度变换到之前的高纬度，应该怎么搞？当然还是用矩阵啦

公式表示如下：

$Z=W^T X$

W转置之后就是一个5X2的矩阵，X是2维的，一顿操作就得到一个5维的向量了。

因此在卷积操作中，从低维度到高纬度的操作，叫做转置卷积（也叫反卷积）。

转置卷积效果图：https://nndl.github.io/v/cnn-conv-more

左边的图的实现方式就是通过在周低维特征图两边填充，然后再实施常规的卷积运算，就可以实现转置的效果。

右边的图的实现方式就是通过在特征图中插入空格--微步卷积。

转置卷积在图像分割中应用很多。

下采样--就是常规的卷积，一张大图像经过多层卷积之后变成了低维度的特征图。

上采样-利用反卷积可以实现，一个低维度到高纬度的华丽转变。

——————待丰富——————

参考资料：

《神经网络语深度学习》--邱锡鹏--第5章

转置卷积（反卷积）为什么姓转置相关推荐

DL之CNN：卷积神经网络算法简介之卷积矩阵、转置卷积(反卷积Transpose)、膨胀卷积(扩张卷积Dilated/带孔卷积atrous)之详细攻略
DL之CNN:卷积神经网络算法简介之卷积矩阵.转置卷积(反卷积Transpose).膨胀卷积(扩张卷积Dilated/带孔卷积atrous)之详细攻略目录卷积矩阵的简介卷积.转置卷积--Tran ...
卷积反卷积上采样下采样区别
1.卷积就是利用卷积核步长前进卷积整个图片 2.反卷积反卷积的具体操作原图输入尺寸为[1,3,3,3]对应[batch_size,channels,width,height] 反卷积tco ...
分组卷积/转置卷积/空洞卷积/反卷积/可变形卷积/深度可分离卷积/DW卷积/Ghost卷积/
文章目录 1. 常规卷积 2. 分组卷积 3. 转置卷积 4. 空洞卷积 5. 可变形卷积 6. 深度可分离卷积(Separable Convolution) 6.1 Depthwise Convol ...
卷积/反卷积前后的张量尺寸计算
1.下采样/卷积: 先定义几个参数输入图片大小 :W×W Filter大小 :k×k 步长 :S padding的像素数 :P 输出图片大小为: N×N 于是我们可以得出:N = (W − k + ...
深度学习卷积网络中反卷积/转置卷积的理解 transposed conv/deconv
搞明白了卷积网络中所谓deconv到底是个什么东西后,不写下来怕又忘记,根据参考资料,加上我自己的理解,记录在这篇博客里. 先来规范表达为了方便理解,本文出现的举例情况都是2D矩阵卷积,卷积输入和核 ...
深度学习 | 反卷积/转置卷积的理解 transposed conv/deconv
原文:https://blog.csdn.net/u014722627/article/details/60574260 深度学习 | 反卷积/转置卷积的理解 transposed conv/dec ...
反卷积原理 + pytorch反卷积层参数output_padding
一般我们会认为2维卷积的计算分为了以下3类: 1.full 2.same 3. valid 参考:https://cn.mathworks.com/help/matlab/ref/conv2. ...
深度学习中的卷积与反卷积
转载自:http://blog.csdn.net/panglinzhuo/article/details/75207855 卷积与反卷积操作在图像分类.图像分割.图像生成.边缘检测等领域都有很重要的作 ...
反卷积通俗详细解析与nn.ConvTranspose2d重要参数解释
文章目录反卷积的作用卷积中padding的几个概念 No Padding Half(Same) Padding Full Padding 反卷积反卷积中的Padding参数反卷积的stride ...
反卷积(Transposed conv deconv)实现原理（通俗易懂）
什么是卷积卷积就是把卷积核放在输入上进行滑窗,将当前卷积核覆盖范围内的输入与卷积核相乘,值进行累加,得到当前位置的输出,其本质在于融合多个像素值的信息输出一个像素值,本质上是下采样的,所以输出的大小 ...

最新文章

热门文章