反卷积(Deconvolution)、上采样(UNSampling)与上池化(UnPooling)加入自己的思考（pytorch函数）（二）

ps之前写过反卷积(Deconvolution)、上采样(UNSampling)与上池化(UnPooling)加入自己的思考（一），不过那是东拼西凑出来的别人的东西就是稍微加入点自己的理解。今天在看代码时候又出现上池化和反卷积这两个选项。最终作者的代码里是用了反卷积但是我还是想更细理解什么时候用反卷积什么时候用上池化啊。刚刚写完保存不了，被我误关了。想哭啊啊！后面部分要再来一遍额。写简单一些了。

之前博文里可以看到三者是这样的：https://blog.csdn.net/A_a_ron/article/details/79181108参考的博文

但是上面只是别人画了图，实际真没形成代码呢。（目前在用pytorch框架，故将之前的tensorflow换成pytorch）

上池化，贴一下我的代码和结果：

import torch
from torch import nn
from torch.autograd import Variable
a = torch.Tensor([[[[2, 3, 4, 4],[3, 4, 8, 4],[7, 3, 5, 8],[2, 3, 4, 4]]]])
print(a)
a= Variable(a.cuda(async = True))
pool= nn.MaxPool2d(2,stride=2,return_indices =True)
p,i=pool(a)
print('p',p)
unpool = nn.MaxUnpool2d(2,stride=2)
up=unpool(p,i)
print('up',up)

(0 ,0 ,.,.) = 2  3  4  43  4  8  47  3  5  82  3  4  4
[torch.FloatTensor of size 1x1x4x4]('p', Variable containing:
(0 ,0 ,.,.) = 4  87  8
[torch.cuda.FloatTensor of size 1x1x2x2 (GPU 0)]
)
('up', Variable containing:
(0 ,0 ,.,.) = 0  0  0  00  4  8  07  0  0  80  0  0  0
[torch.cuda.FloatTensor of size 1x1x4x4 (GPU 0)]
)

print('i',i)
('i', Variable containing:
(0 ,0 ,.,.) = 5   68  11
[torch.cuda.LongTensor of size 1x1x2x2 (GPU 0)]
)

还真和图中一样，其中原来pool时候产生的是两个参数，一个记录结果一个结果p，一个记录位置i。然后在上池化时候输入结果p和位置i便能还原到原来的位置。

unspamle= nn.UpsamplingNearest2d(scale_factor=2)
us=unspamle(p)
print('us',us))
('us', Variable containing:
(0 ,0 ,.,.) = 4  4  8  84  4  8  87  7  8  87  7  8  8
[torch.cuda.FloatTensor of size 1x1x4x4 (GPU 0)]
)

也是跟上图里的一样，那么也就理解了上采样和上池化的差异（实际代码中），而反卷积其实就是转置卷积，具体可以看我之前的博客。（这里开始没保存可恶！！！）。

这里理解上池化和转置卷积差异：上论文《Learning Deconvolution Network for Semantic Segmentation》的理解图

图（a）是输入层；图（b）是14*14反卷积的结果；图（c）是28*28的UnPooling结果；图（d）是28*28的反卷积结果；图（e）是56*56的Unpooling结果；图（f）是56*56反卷积的结果；图（g）是112*112 UnPooling的结果；图（h）是112*112的反卷积的结果；图（i）和图（j）分别是224*224的UnPooling和反卷积的结果。

上图就是转置卷积和上池化的差异，我们可以发现：

1.当特征图中的目标像素点较少的时候，转置卷积更适合我们，上池化得到的结果分辨率太差了对比转置卷积得到的结果。

2.而当当特征图中的目标像素点较多的时候，上池化化更时候我们，上池化得到的结果轮廓细节清晰，分辨率也能接受。

而肺结节所用的模型中，一个较大的结节如20*20*20，在我们要用的特征图中已经变成了5*5*5，更不用说8*8*8已经变成2*2*2了。所以grt团队的代码选用了转置卷积啊。我也解开了其中的困惑。

PS2019年4月22日添加：

https://blog.csdn.net/tsyccnh/article/details/87357447 很好的图解了直接卷积和转置卷积的区别和实际运算中的卷积是怎么操作的。其中一句话特别形象解释了直接卷积和转置卷积（反卷积）的差异：

直接卷积我们是用一个“小窗户”去看一个“大世界”，而转置卷积是用一个“大窗户”的一部分去看“小世界”。这里有一点需要注意，我们定义的卷积核是左上角为a，右下角为i，但在可视化转置卷积中，需要将卷积核旋转180°后再进行卷积。

反卷积(Deconvolution)、上采样(UNSampling)与上池化(UnPooling)加入自己的思考（pytorch函数）（二）相关推荐

反卷积(Deconvolution)、上采样(UNSampling)与上池化(UnPooling)加入自己的思考（tensorflow函数）（一）
ps 之前是做分类的根本就是没有很深的接触反卷积(Deconvolution).上采样(UNSampling)与上池化(UnPooling)等,要写这个主要是我在找unet代码时候发现反卷积这一步正常 ...
反卷积(Deconvolution)、上采样(UNSampling)与上池化(UnPooling)加入自己的思考（pytorch函数）（三）
ps:最近在做分割在github上找代码看模型时老发现尺度从小到大那部分,有的是采用上采样(双线性插值)+卷积,有的用反卷积.为什么不相同能,我查阅相关资料发现这位知乎大神根据外网大佬文章总结原因.知 ...
反卷积(Deconvolution)上采样(Upsampling)上池化(Unpooling)的区别——附翻译
http://blog.csdn.net/u012949263/article/details/54379996 提供了英文版 Question: Deconvolution networks use ...
反卷积算法 c语言,多次曝光图像的PSF反卷积以及欠采样图像的反混叠技术I：PSFdeLRSA的制作方法...
1技术领域在图像的点扩散函数(PSF)反卷积领域,人们发展了很多方法:比如基于最大似然估计的Lucy-Richardson图像PSF反卷积技术和在该技术基础上加入的正则化手段,比如基于最小均方差或最 ...
group convolution (分组卷积)的计算量详解、卷积计算量特征图大小，池化特征图大小、深度通道deep-wise 卷积
group convolution (分组卷积)的计算量详解.卷积计算量特征图大小,池化特征图大小.深度通道deep-wise 卷积提示:最近忙着各种提前批的笔试面试,所以没太多空刷题了都,先复盘一 ...
上采样之双线性插值法
上采样之双线性插值法 One:上采样的定义上采样的类型: 一.双线性插值: 二.转置卷积 : 三.上采样(unsampling) 四.上池化(unpooling) 总结: tow:具体的讲解双线性插 ...
深度学习之卷积、全连接、反卷积等
全连接参考1:https://zhuanlan.zhihu.com/p/32819991 全连接参考2:代码实现神经网络前后传输 CNN中卷积.池化的前向与反向传播: CNN卷积神经网络和反向传播( ...
深度可分离卷积、空洞卷积、反卷积、感受野计算、上采样
文章目录输出特征图尺寸的计算 Depthwise卷积和Pointwise运算成本比较低空洞卷积反卷积上采样输出特征图尺寸的计算 Depthwise卷积和Pointwise运算成本比较低如何 ...
FCN全卷积网络—upsampling(上采样)——OpenCV图像金字塔
一.上采样理论 1.1 bilinear 1.2 Deconvolution(反卷积) 1.3 unpooling 二.OpenCV金字塔:高斯金字塔.拉普拉斯金字塔与图片缩放一.上采样理论 FCN ...

反卷积(Deconvolution)、上采样(UNSampling)与上池化(UnPooling)加入自己的思考（pytorch函数）（二）

反卷积(Deconvolution)、上采样(UNSampling)与上池化(UnPooling)加入自己的思考（pytorch函数）（二）相关推荐

最新文章

热门文章