图像处理池化层pooling和卷积核

1、池化层的作用

在卷积神经网络中，卷积层之间往往会加上一个池化层。池化层可以非常有效地缩小参数矩阵的尺寸，从而减少最后全连层中的参数数量。使用池化层即可以加快计算速度也有防止过拟合的作用。

2、为什么max pooling要更常用？

通常来讲，max-pooling的效果更好，虽然max-pooling和average-pooling都对数据做了下采样，但是max-pooling感觉更像是做了特征选择，选出了分类辨识度更好的特征，提供了非线性，根据相关理论，特征提取的误差主要来自两个方面：（1）邻域大小受限造成的估计值方差增大；（2）卷积层参数误差造成估计均值的偏移。一般来说，average-pooling能减小第一种误差，更多的保留图像的背景信息，max-pooling能减小第二种误差，更多的保留纹理信息。average-pooling更强调对整体特征信息进行一层下采样，在减少参数维度的贡献上更大一点，更多的体现在信息的完整传递这个维度上，在一个很大很有代表性的模型中，比如说DenseNet中的模块之间的连接大多采用average-pooling，在减少维度的同时，更有利信息传递到下一个模块进行特征提取。

3、哪些情况下，average pooling比max pooling更合适？

average-pooling在全局平均池化操作中应用也比较广，在ResNet和Inception结构中最后一层都使用了平均池化。有的时候在模型接近分类器的末端使用全局平均池化还可以代替Flatten操作，使输入数据变成一位向量。

max-pooling和average-pooling的使用性能对于我们设计卷积网络还是很有用的，虽然池化操作对于整体精度提升效果也不大，但是在减参，控制过拟合以及提高模型性能，节约计算力上的作用还是很明显的，所以池化操作时卷积设计上不可缺少的一个操作。

4、1x1的卷积核有什么作用？

1*1的卷积核在NIN、Googlenet中被广泛使用，

作用：
1. 实现跨通道的交互和信息整合
2. 进行卷积核通道数的降维和升维
3.对于单通道feature map 用单核卷积即为乘以一个参数，而一般情况都是多核卷积多通道，实现多个feature map的线性组合

4、可以实现与全连接层等价的效果。如在faster-rcnn中用1*1*m的卷积核卷积n（如512）个特征图的每一个位置（像素点），其实对于每一个位置的1*1卷积本质上都是对该位置上n个通道组成的n维vector的全连接操作。

转载于:https://www.cnblogs.com/zongfa/p/9760623.html

图像处理池化层pooling和卷积核相关推荐

CNN（卷积层convolutional layer，激励层activating layer，池化层pooling，全连接层fully connected）
CNN产生的原因:当使用全连接的神经网络时,因为相邻两层之间的神经元都是有边相连的,当输入层的特征纬度非常高时(譬如图片),全连接网络需要被训练的参数就会非常多(参数太多,训练缓慢),CNN可以通过训 ...
池化层(pooling layer) 感受野(Receptive Field) 神经网络的基本组成
目录 (1)本文涉及的函数 (2)池化层 (3)感受野 (4)代码示例(含注释) 承接上两篇博客:卷积层(空洞卷积对比普通卷积).激活函数层 (1)本文涉及的函数 import torch impor ...
池化层-Pooling(CNN卷积神经网络)
文章目录汇聚层(池化层) 最大汇聚层和平均汇聚层填充和步幅多个通道小结汇聚层(池化层) 本节将介绍汇聚(pooling)层(又名池化层),它具有双重目的: 1.降低卷积层对位置的敏感性 2. ...
Keras.layers各种层介绍，网络层、卷积层、池化层等
[转载]Keras.layers各种层介绍 - 心冰之海 - bk园 https://www.cnblogs.com/lhxsoft/p/13534667.html 文章导航一.网络层 1.常用网络 ...
cs231n-(7)卷积神经网络：架构，卷积层/池化层
架构总览常用的层卷积层概述池化层归一化层全连接层全连接层转为卷积层卷积网络架构层模式层大小设计模式实例计算资源考虑额外资源卷积神经网络和普通神经网络非常类似.卷积神经网络由 ...
深度学习笔记（一）：卷积层+池化层+激活函数+全连接层
写在前面:大家好!我是[AI 菌],一枚爱弹吉他的程序员.我热爱AI.热爱分享.热爱开源! 这博客是我对学习的一点总结与记录.如果您也对深度学习.机器视觉.算法.Python.C++ 感兴趣,可以关 ...
1.9 池化层-深度学习第四课《卷积神经网络》-Stanford吴恩达教授
←上一篇 ↓↑ 下一篇→ 1.8 简单卷积网络示例回到目录 1.10 卷积神经网络示例池化层 (Pooling Layers) 除了卷积层,卷积网络也经常使用池化层来缩减模型的大小,提高计算速度, ...
CNN模型中卷积层 RELU层池化层作用及顺序
卷积层 Convolutional layer 卷积运算的目的是提取输入的不同特征类似于CV中的滤波,通过滑动窗口来得到特征图像非线性激活层 Relu f(x)=max(0,x) 非线性激活层 ...
深度学习 | 深入解析CNN pooling 池化层原理及其作用
池化层作用机理我们以最简单的最常用的max pooling最大池化层为例,对池化层作用机理进行探究.其他池化层的作用机理也大致适用这一机理,在这里就不加入讨论. 图片和以下部分内容来自 CS231n ...

图像处理池化层pooling和卷积核

图像处理池化层pooling和卷积核相关推荐

最新文章

热门文章