假如有一幅1000*1000的图像,如果把整幅图像作为向量,则向量的长度为1000000(10610^6106)。在假如隐含层神经元的个数和输入一样,也是1000000;那么,输入层到隐含层的参数数据量有 101210^{12}1012。所以,我们还得降低维数,同时得以整幅图像为输入(人类实在找不到好的特征了)。


CNN网络一共有5个层级结构:

  • 输入层
  • 卷积层
  • 激活层
  • 池化层
  • 全连接FC层

卷积层

局部感知:人的大脑识别图片的过程中,并不是一下子整张图同时识别,而是对于图片中的每一个特征首先局部感知,然后更高层次对局部进行综合操作,从而得到全局信息。

卷积层计算方法:
F1=W11⋅R+W12⋅G+W13⋅B+b1F2=W21⋅R+W22⋅G+W23⋅B+b2F3=W31⋅R+W32⋅G+W33⋅B+b3F4=W41⋅R+W42⋅G+W43⋅B+b4F_1 = W_{11} \cdot R +W_{12} \cdot G+W_{13} \cdot B+b_1\\ F_2 = W_{21} \cdot R +W_{22} \cdot G+W_{23} \cdot B+b_2\\ F_3 = W_{31} \cdot R +W_{32} \cdot G+W_{33} \cdot B+b_3\\ F_4 = W_{41} \cdot R +W_{42} \cdot G+W_{43} \cdot B+b_4 F1​=W11​⋅R+W12​⋅G+W13​⋅B+b1​F2​=W21​⋅R+W22​⋅G+W23​⋅B+b2​F3​=W31​⋅R+W32​⋅G+W33​⋅B+b3​F4​=W41​⋅R+W42​⋅G+W43​⋅B+b4​
其中,F表示每一张特征图,W表示卷积核

池化层

池化(Pooling):也称为欠采样或下采样。主要用于特征降维,压缩数据和参数的数量,减小过拟合,同时提高模型的容错性。主要有:

  • Max Pooling:最大池化
  • Average Pooling:平均池化

    通过池化层,使得原本44的特征图压缩成了22,从而降低了特征维度。

    虽然人不太容易分辨出池化后的特征图,但是没关系,机器还是可以识别的

输出层(全连接层)

经过前面若干次卷积+激励+池化后,终于来到了输出层,模型会将学到的一个高质量的特征图片全连接层。其实在全连接层之前,如果神经元数目过大,学习能力强,有可能出现过拟合。因此,可以引入dropout操作,来随机删除神经网络中的部分神经元,来解决此问题。还可以进行局部归一化(LRN)、数据增强等操作,来增加鲁棒性。
  当来到了全连接层之后,可以理解为一个简单的多分类神经网络(如:BP神经网络),通过softmax函数得到最终的输出。整个模型训练完毕。
  两层之间所有神经元都有权重连接,通常全连接层在卷积神经网络尾部。也就是跟传统的神经网络神经元的连接方式是一样的:
  

卷积神经网络中卷积层和池化层的作用相关推荐

  1. 卷积神经网络(CNN)之池化层的实现

    池化层的实现和卷积层的实现差不多,都是使用im2col来展开输入数据,只不过在池化的应用区域是按照通道单独展开.看图更直观. 图中我们可以看出,对输入数据进行展开之后,再对展开的矩阵求各行的最大值,这 ...

  2. 深入学习卷积神经网络中卷积层和池化层的意义(转)

    为什么要使用卷积呢? 在传统的神经网络中,比如多层感知机(MLP),其输入通常是一个特征向量:需要人工设计特征,然后将这些特征计算的值组成特征向量,在过去几十年的经验来看,人工找到的特征并不是怎么好用 ...

  3. 卷积神经网络中卷积层、池化层、全连接层的作用

    1. 卷积层的作用 卷积层的作用是提取输入图片中的信息,这些信息被称为图像特征,这些特征是由图像中的每个像素通过组合或者独立的方式所体现,比如图片的纹理特征,颜色特征. 比如下面这张图片,蓝色框框住的 ...

  4. 深入学习卷积神经网络中卷积层和池化层的意义

    为什么要使用卷积呢? 在传统的神经网络中,比如多层感知机(MLP),其输入通常是一个特征向量:需要人工设计特征,然后将这些特征计算的值组成特征向量,在过去几十年的经验来看,人工找到的特征并不是怎么好用 ...

  5. 转:卷积神经网络_(1)卷积层和池化层学习

    博主总结的很好,学习中.转载:http://www.cnblogs.com/zf-blog/p/6075286.htm 卷积神经网络_(1)卷积层和池化层学习 卷积神经网络(CNN)由输入层.卷积层. ...

  6. 【卷积神经网络】卷积层,池化层,全连接层

    转于:<入门PyTorch> 卷积层是卷积神经网络的核心, 大多数计算都是在卷积层中进行的. 1 卷积层 1.1 概述 首先介绍卷积神经网络的参数. 这些参数是由一些可学习的滤波器集合构成 ...

  7. CNN中卷积层、池化层和全连接层分别有什么作用和区别?

    卷积层:提取特征."不全连接,参数共享"的特点大大降低了网络参数,保证了网络的稀疏性,防止过拟合.之所以可以"参数共享",是因为样本存在局部相关的特性. 池化层 ...

  8. 理解CNN卷积层与池化层计算

    点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达 概述 深度学习中CNN网络是核心,对CNN网络来说卷积层与池化层的 ...

  9. (pytorch-深度学习系列)pytorch卷积层与池化层输出的尺寸的计算公式详解

    pytorch卷积层与池化层输出的尺寸的计算公式详解 要设计卷积神经网络的结构,必须匹配层与层之间的输入与输出的尺寸,这就需要较好的计算输出尺寸 先列出公式: 卷积后,池化后尺寸计算公式: (图像尺寸 ...

  10. 深度学习入门 (九):卷积层和池化层的实现

    目录 卷积神经网络 CNN 整体结构 卷积层 全连接层存在的问题 卷积运算 乘积累加运算 偏置 填充 (padding) 步幅 (stride) 小结:卷积层的输出特征图的大小 3 维数据的卷积运算 ...

最新文章

  1. 精算模型1 一元生存分析2 参数生存模型
  2. UA MATH571B 试验设计III 单因素试验设计3
  3. 配置Swagger2
  4. Androidの网络Http之判断是否连接服务器
  5. java 反射 单例类_利用反射机制破坏单例模式
  6. sql 连接数不释放 ,Druid异常:wait millis 40000, active 600, maxActive 600
  7. 武汉将投放5亿元消费券,4月19日微信率先开抢
  8. jackson 忽略多余字段_Java进阶学习:JSON解析利器JackSon
  9. FlinkSQL建表语句与插入语句
  10. Ubunut 下安装teamview
  11. php模板开发教程,Destoon模板制作简明教程
  12. 百度贴吧引流的一些技巧_专注流量研究-万能的小胡
  13. mybatis 标准输出日志报错: The setting logImpl is not known. Make sure you spelled it correctly (case sensit
  14. IT运维如何应对SOX挑战?
  15. 计算机中存储的数据类型
  16. USUS微软补丁服务器 使用
  17. 机器人工程相关课程共性问题的思考-2022-
  18. Simulink嵌入式自动代码DSP F28335(2)——SCI通信
  19. socket关闭close和shutdown
  20. dlf packet_DLF的完整形式是什么?

热门文章

  1. 分享两种好看的CSS表格样式
  2. 初中英语多词性单词怎么办_初中英语,两种轻松高效的记单词方法
  3. 如何解决电脑开始菜单任务栏和操作中心灰色无法勾选
  4. 流程图制作软件使用方法:绘制一份漂亮的流程图也很简单
  5. 基于分位数回归的长短期记忆网络QRLSTM时间序列区间预测。(主要应用于风速,负荷,功率)包含评价指标R2,MAE,MBE,区间覆盖率,区间平均宽度。
  6. 简单方法实现假的网页计数器,数字定时定值自动增长
  7. Java实现石头剪刀布游戏
  8. Linux:cd命令详解
  9. 4、杨辉三角(帕斯卡三角)_python版本
  10. mac m1 sourcetree安装