Global average Pooling解析

这个概念出自于 network in network

主要是用来解决全连接的问题，其主要是是将最后一层的特征图进行整张图的一个均值池化，形成一个特征点，将这些特征点组成最后的特征向量，进行softmax中进行计算。

举个例子：
假如，最后的一层的数据是10个6＊6的特征图，global average pooling是将每一张特征图计算所有像素点的均值，输出一个数据值，
这样10 个特征图就会输出10个数据点，将这些数据点组成一个1*10的向量的话，就成为一个特征向量，就可以送入到softmax的分类中计算了

在NIN(Network in Network) 这篇论文中提出了全局平均池化的概念，究竟他和之前的全连接层有什么区别呢？
全连接存在的问题：参数量过大，降低了训练的速度，且很容易过拟合
全连接层将卷积层展开成向量之后不还是要针对每个feature map进行分类，而GAP的思路就是将上述两个过程合二为一，一起做了。如图所示:

　　　　　　　　　　　　　　　　　　　上图对比全连接与全局均值池化的差异
由此就可以比较直观地说明了。这两者合二为一的过程我们可以探索到GAP的真正意义是:对整个网路在结构上做正则化防止过拟合。其直接剔除了全连接层中黑箱的特征，直接赋予了每个channel实际的内别意义。

Global average Pooling解析相关推荐

深度学习方法（十）：卷积神经网络结构变化——Maxout Networks，Network In Network，Global Average Pooling
欢迎转载,转载请注明:本文出自Bin的专栏blog.csdn.net/xbinworld. 技术交流QQ群:433250724,欢迎对算法.技术感兴趣的同学加入. 最近接下来几篇博文会回到神经网络结构 ...
Global Average Pooling对全连接层的可替代性分析
Global Average Pooling对全连接层的可替代性分析原创 2017年08月24日 15:54:22
Global Average Pooling对全连接层的可替代性分析（转）
版权声明:本文为williamyi原创,未经许可禁止转载或直接挪作他用! https://blog.csdn.net/williamyi96/article/details/77530995 在NIN ...
Global Average Pooling
CNN的变种有很多,除了CNN进化史上经典的那几种Net,还有一些网络根据实际问题的不同需求,对其中某些Layer进行修改. 本文的问题源于一篇关于肺部CT的CNN的文章(Shuo Wang, et ...
Global Average Pooling全局平均池化的一点理解
Traditional Pooling Methods 要想真正的理解Global Average Pooling,首先要了解深度网络中常见的pooling方式,以及全连接层. 众所周知CNN网络中常 ...
深度学习基础系列| Global Average Pooling是否可以替代全连接层？
Global Average Pooling(简称GAP,全局池化层)技术最早提出是在这篇论文(第3.2节)中,被认为是可以替代全连接层的一种新技术.在keras发布的经典模型中,可以看到不少模型甚至 ...
Global Average Pooling与FC、Global Max Pooling的比较
原文 Global Average Pooling(简称GAP,全局池化层)技术最早提出是在这篇论文(第3.2节)中,被认为是可以替代全连接层的一种新技术.在keras发布的经典模型中,可以看到不少模 ...
全局平均池化（Global Average Pooling）
出处:Lin M, Chen Q, Yan S. Network in network[J]. arXiv preprint arXiv:1312.4400, 2013. 定义:将特征图所有像素值相加 ...
Global Average Pooling、Global Max Pooling
https://www.zhihu.com/question/358913301 https://blog.csdn.net/qq_16234613/article/details/79520929 ...

Global average Pooling解析

Global average Pooling解析相关推荐

最新文章

热门文章