深度学习中padding的作用

在做深度学习的时候，会遇到padding的设置，设置SAME，还是VAILD，那么如何理解padding呢？
首先看英文翻译：

padding:

UK /ˈpæd.ɪŋ/ US /ˈpæd.ɪŋ/
the pieces of material used to protect something or give it shape
衬垫，衬料，填料

从翻译上可以看出，padding是填补的意思，那么一张图片哪里可以（需要）填补呢？肯定是边缘的地方，像素不够的时候需要填补。即padding是在图像的边缘增加几个像素，目的是保持特征图不要太小，添加的个数与卷积核有关。通常经过卷积运算后，得到的图片大小的尺寸会变小的，具体计算公式如下：
O = I − K + 2 P S + 1 O = \frac{I-K+2P}{S} + 1 O=SI−K+2P+1
其中O是卷积后的输出，I是输入图片尺寸，K是卷积核的尺寸，P是填充的像素数，S是步长。这里的P就是咱们所说的填充数。从上式中看出，如果不做填充，而步长为1的情况下，那么输出图像会变小。我们直到卷积操作的过程，如下图：

从图中可以看出，越是边缘的像素点，对输出的结果影响越小（原来是5x5的图片，输出变成了3x3），应为卷积运算在移动的时候到边缘就结束了，而中间部分的像素点被计算了很多次，这就是边缘信息丢失的原因。

那么增加增加padding的主要目的就显而易见了：

padding的目的：

保留边界信息，如果不加padding，边界限速点只被计算一次，而加上后，会被多次计算。

保证经过卷积后的特征图与原来的图尺寸一致，上图的输入图如果是增加了padding，即输入图是3x3，边缘全是通过padding增加的像素，那么输出的图像尺寸就跟原图的尺寸大小一样了。

卷积神经网络增加padding后，会保证输出的图像和输入的图像尺寸保持一致

padding的两个设置：

如果设置成SAME，那么就会使用0全部填充。
如果设置成VALID，无填充，直接计算输出。

深度学习中padding的作用相关推荐

深度学习中GPU的作用
英伟达推出的"霸王条款":GeForce产品禁止用于深度学习. 英伟达的禁令众所周知,英伟达是显卡界的老大,2017年英伟达的GPU芯片在全球市场的占有率为70%左右,无论是人工 ...
深度学习中激活函数的作用
0.从深度学习开始说起今天检索多标签分本分类的文献时,遇到一个关于激活函数的疑惑: 如果有大牛看到,知道如何更好的理解这句话的含义,希望在评论里解惑! 由惑而生,所以我打算总结一下深度学习模型中常用 ...
计算机偏置,深度学习中偏置的作用
AI开发平台ModelArts ModelArts是面向开发者的一站式AI开发平台,为机器学习与深度学习提供海量数据预处理及半自动化标注.大规模分布式Training.自动化模型生成,及端-边-云模型 ...
深度学习中Dropout层作用
提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档文章目录前言一.dropout是什么? 二.dropout过程三.dropout在神经网络中的过程前言 Dropout出现的原 ...
全民 Transformer （一）: Attention 在深度学习中是如何发挥作用的
<Attention 在深度学习中是如何发挥作用的:理解序列模型中的 Attention> Transformer 的出现让 Deep Learning 出现了大一统的局面.Tran ...
卷积在深度学习中的作用（转自http://timdettmers.com/2015/03/26/convolution-deep-learning/）...
卷积可能是现在深入学习中最重要的概念.卷积网络和卷积网络将深度学习推向了几乎所有机器学习任务的最前沿.但是,卷积如此强大呢?它是如何工作的?在这篇博客文章中,我将解释卷积并将其与其他概念联系起来,以帮 ...
深度学习中 Internal Covariate Shift 问题以及 Batch Normalization 的作用
深度学习中 Internal Covariate Shift 问题以及 Batch Normalization 的作用前言一.Batch Normalization是什么? 1.1 Interna ...
卷积在深度学习中的作用
转自 http://www.mamicode.com/info-detail-2340306.html 卷积可能是现在深入学习中最重要的概念.卷积网络和卷积网络将深度学习推向了几乎所有机器学习任务的 ...
深度学习中的注意力机制（三）
作者 | 蘑菇先生来源 | NewBeeNLP原创出品深度学习Attenion小综述系列: 深度学习中的注意力机制(一) 深度学习中的注意力机制(二) 目前深度学习中热点之一就是注意力机制(Att ...

深度学习中padding的作用

深度学习中padding的作用相关推荐

最新文章

热门文章