卷积层(Convolution)

什么是卷积,如下图所示,卷积操作是用卷积核,按照一定的步长,在一张图片上规律性的移动。卷积核的每个单元有权重,在卷积核移动的过程中将图片上的像素和卷积核的对应权重相乘,最后将所有乘积相加得到一个输出。
作用和意义
①局部感知:
在传统神经网络中每个神经元都要与图片上每个像素相连接,这样的话就会造成权重的数量巨大造成网络难以训练。而在含有卷积层的的神经网络中每个神经元的权重个数都是卷积核的大小,这样就相当于没有神经元只与对应图片部分的像素相连接。这样就极大的减少了权重的数量。同时我们可以设置卷积操作的步长,假设将上图卷积操作的步长设置为3时每次卷积都不会有重叠区域(在超出边界的部分补自定义的值)。

②参数共享
卷积核的权重是经过学习得到的,并且在卷积过程中卷积核的权重是不会改变的,这就是参数共享的思想。这说明我们通过一个卷积核的操作提取了原图的不同位置的同样特征。简单来说就是在一幅图片中的不同位置的相同目标,它们的特征是基本相同的。
③多卷积核
如权值共享的部分所说我们用一个卷积核操作只能得到一部分特征可能获取不到全部特征,这么一来我们就引入了多核卷积。用每个卷积核来学习不同的特征(每个卷积核学习到不同的权重)来提取原图特征,在多核卷积的过程中每个卷积核的大小应该是相同的。

池化层(Pooling)

池化层的作用是取对应位置的最大值、平均值等(最大池化、平均池化),并且不经过反向传播的修改。
设置池化层的目的是降低特征维度,可以忽略目标的倾斜、旋转之类的相对位置的变化。以此提高精度,同时降低了特征图的维度并且已定成度上可以避免过拟合。

全连接层

(fully connected layer)
在整个卷积神经网络中起到“分类器”的作用。如果说卷积层、池化层和激活函数层等操作是将原始数据映射到隐层特征空间的话,全连接层则起到将学到的“分布式特征表示”映射到样本标记空间的作用。

卷积层、池化层和全连接层相关推荐

  1. 卷积云神经网络_有卷积云的北京天空好美!是不是还有池化云?全连接云?

    最近几天北京真是好冷,许多人已经从箱底里拿出了原本在11月底才会穿上的厚外套. 气温是低,不过天气是真好,蓝天白云,阳光明媚. 前几天北京天空呈现出超美的云彩,专家称这是「卷积云」. 「卷积云」这似乎 ...

  2. 卷积神经网络---卷积层、激励层、池化层以及全连接层

    文章目录 概述 卷积神经网络 局部连接+权值共享** 输入层 卷积层 激励层 池化层 全连接层 参考资料 概述 这两天在看论文,涉及到卷积神经网络的知识,之前一直对这块迷迷糊糊.看到了一篇博文写的很好 ...

  3. 九、(机器学习)-Tensorflow算法之全连接层

    Tensorflow,cnn,dnn中的全连接层的理解 上一篇我们讲了使用cnn实现cifar10图像分类,模型经过隐藏层中的卷积.归一化.激活.池化之后提取到主要的特征变量,就会到全连接层,那么全连 ...

  4. Lesson 16.1016.1116.1216.13 卷积层的参数量计算,1x1卷积核分组卷积与深度可分离卷积全连接层 nn.Sequential全局平均池化,NiN网络复现

    二 架构对参数量/计算量的影响 在自建架构的时候,除了模型效果之外,我们还需要关注模型整体的计算效率.深度学习模型天生就需要大量数据进行训练,因此每次训练中的参数量和计算量就格外关键,因此在设计卷积网 ...

  5. 卷积神经网络中卷积层、池化层、全连接层的作用

    1. 卷积层的作用 卷积层的作用是提取输入图片中的信息,这些信息被称为图像特征,这些特征是由图像中的每个像素通过组合或者独立的方式所体现,比如图片的纹理特征,颜色特征. 比如下面这张图片,蓝色框框住的 ...

  6. 【数据挖掘】卷积神经网络 ( 池化 | 丢弃 | 批量规范化 | 卷积神经网络完整流程示例 | 卷积 | 池化 | 全连接 | 输出 | 卷积神经网络总结 )

    文章目录 I . 池化 II . 丢弃操作 III . 批量规范化 IV . 卷积神经网络 完整流程示例 ( 1 ) : 原始输入图 V . 卷积神经网络 完整流程示例 ( 2 ) : 卷积层 C1C ...

  7. 深度学习 卷积层与全连接层权重参数个数的计算

    1.卷积网络实例分析 构建卷积网络如下: from tensorflow.python.keras import datasets, models, layers class CNN(object): ...

  8. cs231n-(7)卷积神经网络:架构,卷积层/池化层

    架构总览 常用的层 卷积层 概述 池化层 归一化层 全连接层 全连接层转为卷积层 卷积网络架构 层模式 层大小设计模式 实例 计算资源考虑 额外资源 卷积神经网络和普通神经网络非常类似.卷积神经网络由 ...

  9. 卷积层和全连接层的区别_卷积神经网络中全连接层作用理解总结

    前言 一般来说,卷积神经网络会有三种类型的隐藏层--卷积层.池化层.全连接层.卷积层和池化层比较好理解,主要很多教程也会解释. •  卷积层(Convolutional layer)主要是用一个采样器 ...

  10. 卷积层与全连接层的区别

    卷积层.池化层.全连接层的概念:https://towardsdatascience.com/convolutional-neural-network-17fb77e76c05 关于卷积.全连接层的参 ...

最新文章

  1. java查询结果自定义显示_JPA自定义对象接收查询结果集操作
  2. 笑不活了!院士带领课题组硕博“整活”,科研版「苦行僧」火出圈!
  3. LeetCode 24 Swap Nodes in Pairs(交换序列中的结点)
  4. 兴义智力象机器人_兴义向阳路小学在第十八届全国青少年机器人竞赛贵州区选拔赛夺冠...
  5. Quick cocos2dx-Lua(V3.3R1)学习笔记(十)-----搭建安卓打包环境,用官方示例anysdk生成apk运行...
  6. 【C#公共帮助类】 Image帮助类
  7. 《Scikit-Learn与TensorFlow机器学习实用指南》第10章 人工神经网络介绍
  8. linux下mysql单机主从配置,Linux下MySQL互为主从配置
  9. 关于python+django操作数据库中的表
  10. word外部表不是预期的格式_word使用邮件合并提示外部表不是预期的格式怎么解决...
  11. python Beautifulsoup4爬取凡人修仙传仙界篇连载中文章并生成txt
  12. 鸿蒙太空是什么意思,“我所居兮,青埂之峰;我所游兮,鸿蒙太空。谁与我逝兮,吾谁与从?渺渺茫茫兮,归彼大荒”的意思...
  13. 《动手学深度学习》(七) -- 边界框和锚框
  14. java des ecb_java DES ECB模式对称加密解密
  15. miniconda的介绍和基本使用
  16. winform 创建窗口句柄时出错
  17. 云计算平台建设总体技术方案
  18. jmap 和jstack使用
  19. 于我,过去,现在以及未来
  20. 戴尔win10计算机在哪里看,戴尔win10电脑恢复系统该如何设置?

热门文章

  1. 计算机专业博士出国,申请经典案例:欧洲计算机科学专业博士全奖
  2. git master、origin master 与 origin/master 的区别
  3. C语言见缝插针游戏,见缝插针游戏,见缝插针游戏图片
  4. [精华分享][Unityamp;amp;Steamamp;amp;独立游戏]如何查看steam游戏销售销量等数据
  5. 知识分享·NLP中一些有趣的trick
  6. 金融风控训练营Task1学习笔记
  7. 计算圆周率python实现
  8. dvwa之 file upload (low)一句话木马和中国菜刀
  9. 牛牛和DRB迷宫Ⅰ【动态规划】
  10. 好玩系列:拥有它,XML文件少一半--更方便的处理View背景