卷积层和全连接层的区别_卷积神经网络中全连接层作用理解总结

前言

一般来说，卷积神经网络会有三种类型的隐藏层——卷积层、池化层、全连接层。卷积层和池化层比较好理解，主要很多教程也会解释。

• 卷积层(Convolutional layer)主要是用一个采样器从输入数据中采集关键数据内容；

• 池化层(Pooling layer)则是对卷积层结果的压缩得到更加重要的特征，同时还能有效控制过拟合。

但是可怜的全连接层(Fully Connected layer)很多时候都被忽略了，可能大佬们觉得我们都能懂吧。。查阅了一下资料，大概理解了全连接层的作用，即将前面经过多次卷积后高度抽象化的特征进行整合，然后可以进行归一化，对各种分类情况都输出一个概率，之后的分类器(Classifier)可以根据全连接得到的概率进行分类。

这是我理解过后的总结，如有不当之后也敬请指正。当然结合了国内外很多篇文章才最终大概理解了全连接层的作用。最近又沉迷翻译，这篇文章就准备翻译下stackexchange里面关于CNN中FC layer的作用。

水平有限，欢迎各位指正。

卷积神经网络中全连接层作用(What do the fully connected layers do in CNNs?)

Question：我理解了卷积层和池化层的作用，但是我不能理解卷积神经网络中全连接层的作用。为什么不能将前一层直接输出到输出层呢？

Answer：卷积层的输出代表着数据的高级特征。当输出可以被扁平化并且能够被连接到输出层时，添加一个全连接层通常能以简易的方式学习到这些非线性组合特征。

实质上，卷积层提供了一个有意义、低维度且几乎不变的特征空间，然后全连接层在这个空间里学习一个(非线性)方程。

注：从全连接层转换为卷积层是很方便的。将这些顶层全连接层转换为卷积层是很有帮助的。

Q：所以我们通过反向传播来学习连接层之间的权重，这是否正确？

A：是的，错误通过反向传播从全连接层传播到卷积层和池化层。

Q：所以，全连接层的目的就是就像PCA(主成分分析)，它通过学习全部的权重来整合了“好”的特征并减少其他特征。

A：这主要取决于你特征的非线性组合。所有的特征都可能是好的(假设你没有死掉的特征)，那么这些特征的组合就可能更好。

打开APP精彩内容

点击阅读全文

卷积层和全连接层的区别_卷积神经网络中全连接层作用理解总结相关推荐

inner join on 加条件和where加条件_图解 SQL 中各种连接 JOIN
先用文字来捋一下思路,数据库操作中无非就是「增删查改」,其中「查」用得最多且最复杂,变化多端.查询的时候,我们可以只是单表查询,也可以是多表连接查询,单表查询中的学问也很大,但限于篇幅,本次主要 ...
mysql版本链图解_图解 SQL 中各种连接 JOIN
先用文字来捋一下思路,数据库操作中无非就是「增删查改」,其中「查」用得最多且最复杂,变化多端.查询的时候,我们可以只是单表查询,也可以是多表连接查询,单表查询中的学问也很大,但限于篇幅,本次主要分享 ...
卷积神经网络中全连接层、softmax与softmax loss理解
1.全连接层假设全连接层前面连接的是一个卷积层,这个卷积层的num output是100,就是卷积之后输出一百张不同的特征图.每个特征的大小是4X4,那么在将这些特征输入给全连接层之前会将这些特征f ...
简要描述内部连接和外部连接之间的区别_sqlserver的几种常见连接方法
感谢本文几种描述方法,让我解决了最近的一段时间的疑问,转载下来,以供后面查血使用. 本文链接:https://blog.csdn.net/huanghanqian/article/details/52 ...
人工神经网络神经网络区别_人工神经网络概述
人工神经网络神经网络区别 Artificial neural networks (ANN) in machine learning (artificial intelligence) are com ...
笔记本电脑网络连接显示红叉_物联网设备的网络连接---上篇
在一个物联网场景中,设备连接是底层基础.由于物联网设备的多样性,涉及到各个工业领域中的标准或规范,这就需要综合的软硬件技术将它们连接起来. 本文分别从物联网组网技术和传输协议的角度来介绍物联网系统所面 ...
java安卓图片全屏_在Android中全屏显示GIF图片（演示代码）
[实例简介] 在Android中全屏显示GIF图片(演示代码),详细内容请参考:http://blog.csdn.net/u012939909/article/details/77418173 [实例 ...
全角数字变半角php,php代码中全角数字转半角的方法
php代码中全角数字转半角的方法发布时间:2020-10-13 14:33:52 来源:亿速云阅读:66 作者:小新小编给大家分享一下php代码中全角数字转半角的方法,相信大部分人都还不怎么了解 ...
naticat连接mysql报错_「2509」Navicat连接mysql报错2509 - seo实验室
2509 在Navicat中进行连接测试时,发现报错2509,还有乱码! mysql 2509 加密方式导致的报错,在8以后的版本默认的加密方式都改为了caching_sha2_password 此时 ...

卷积层和全连接层的区别_卷积神经网络中全连接层作用理解总结

卷积层和全连接层的区别_卷积神经网络中全连接层作用理解总结相关推荐

最新文章

热门文章