卷积神经网络中卷积层和池化层的作用
假如有一幅1000*1000的图像,如果把整幅图像作为向量,则向量的长度为1000000(10610^6106)。在假如隐含层神经元的个数和输入一样,也是1000000;那么,输入层到隐含层的参数数据量有 101210^{12}1012。所以,我们还得降低维数,同时得以整幅图像为输入(人类实在找不到好的特征了)。
CNN网络一共有5个层级结构:
- 输入层
- 卷积层
- 激活层
- 池化层
- 全连接FC层
卷积层
局部感知:人的大脑识别图片的过程中,并不是一下子整张图同时识别,而是对于图片中的每一个特征首先局部感知,然后更高层次对局部进行综合操作,从而得到全局信息。
卷积层计算方法:
F1=W11⋅R+W12⋅G+W13⋅B+b1F2=W21⋅R+W22⋅G+W23⋅B+b2F3=W31⋅R+W32⋅G+W33⋅B+b3F4=W41⋅R+W42⋅G+W43⋅B+b4F_1 = W_{11} \cdot R +W_{12} \cdot G+W_{13} \cdot B+b_1\\ F_2 = W_{21} \cdot R +W_{22} \cdot G+W_{23} \cdot B+b_2\\ F_3 = W_{31} \cdot R +W_{32} \cdot G+W_{33} \cdot B+b_3\\ F_4 = W_{41} \cdot R +W_{42} \cdot G+W_{43} \cdot B+b_4 F1=W11⋅R+W12⋅G+W13⋅B+b1F2=W21⋅R+W22⋅G+W23⋅B+b2F3=W31⋅R+W32⋅G+W33⋅B+b3F4=W41⋅R+W42⋅G+W43⋅B+b4
其中,F表示每一张特征图,W表示卷积核
池化层
池化(Pooling):也称为欠采样或下采样。主要用于特征降维,压缩数据和参数的数量,减小过拟合,同时提高模型的容错性。主要有:
- Max Pooling:最大池化
- Average Pooling:平均池化
通过池化层,使得原本44的特征图压缩成了22,从而降低了特征维度。
虽然人不太容易分辨出池化后的特征图,但是没关系,机器还是可以识别的
输出层(全连接层)
经过前面若干次卷积+激励+池化后,终于来到了输出层,模型会将学到的一个高质量的特征图片全连接层。其实在全连接层之前,如果神经元数目过大,学习能力强,有可能出现过拟合。因此,可以引入dropout操作,来随机删除神经网络中的部分神经元,来解决此问题。还可以进行局部归一化(LRN)、数据增强等操作,来增加鲁棒性。
当来到了全连接层之后,可以理解为一个简单的多分类神经网络(如:BP神经网络),通过softmax函数得到最终的输出。整个模型训练完毕。
两层之间所有神经元都有权重连接,通常全连接层在卷积神经网络尾部。也就是跟传统的神经网络神经元的连接方式是一样的:
卷积神经网络中卷积层和池化层的作用相关推荐
- 卷积神经网络(CNN)之池化层的实现
池化层的实现和卷积层的实现差不多,都是使用im2col来展开输入数据,只不过在池化的应用区域是按照通道单独展开.看图更直观. 图中我们可以看出,对输入数据进行展开之后,再对展开的矩阵求各行的最大值,这 ...
- 深入学习卷积神经网络中卷积层和池化层的意义(转)
为什么要使用卷积呢? 在传统的神经网络中,比如多层感知机(MLP),其输入通常是一个特征向量:需要人工设计特征,然后将这些特征计算的值组成特征向量,在过去几十年的经验来看,人工找到的特征并不是怎么好用 ...
- 卷积神经网络中卷积层、池化层、全连接层的作用
1. 卷积层的作用 卷积层的作用是提取输入图片中的信息,这些信息被称为图像特征,这些特征是由图像中的每个像素通过组合或者独立的方式所体现,比如图片的纹理特征,颜色特征. 比如下面这张图片,蓝色框框住的 ...
- 深入学习卷积神经网络中卷积层和池化层的意义
为什么要使用卷积呢? 在传统的神经网络中,比如多层感知机(MLP),其输入通常是一个特征向量:需要人工设计特征,然后将这些特征计算的值组成特征向量,在过去几十年的经验来看,人工找到的特征并不是怎么好用 ...
- 转:卷积神经网络_(1)卷积层和池化层学习
博主总结的很好,学习中.转载:http://www.cnblogs.com/zf-blog/p/6075286.htm 卷积神经网络_(1)卷积层和池化层学习 卷积神经网络(CNN)由输入层.卷积层. ...
- 【卷积神经网络】卷积层,池化层,全连接层
转于:<入门PyTorch> 卷积层是卷积神经网络的核心, 大多数计算都是在卷积层中进行的. 1 卷积层 1.1 概述 首先介绍卷积神经网络的参数. 这些参数是由一些可学习的滤波器集合构成 ...
- CNN中卷积层、池化层和全连接层分别有什么作用和区别?
卷积层:提取特征."不全连接,参数共享"的特点大大降低了网络参数,保证了网络的稀疏性,防止过拟合.之所以可以"参数共享",是因为样本存在局部相关的特性. 池化层 ...
- 理解CNN卷积层与池化层计算
点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达 概述 深度学习中CNN网络是核心,对CNN网络来说卷积层与池化层的 ...
- (pytorch-深度学习系列)pytorch卷积层与池化层输出的尺寸的计算公式详解
pytorch卷积层与池化层输出的尺寸的计算公式详解 要设计卷积神经网络的结构,必须匹配层与层之间的输入与输出的尺寸,这就需要较好的计算输出尺寸 先列出公式: 卷积后,池化后尺寸计算公式: (图像尺寸 ...
- 深度学习入门 (九):卷积层和池化层的实现
目录 卷积神经网络 CNN 整体结构 卷积层 全连接层存在的问题 卷积运算 乘积累加运算 偏置 填充 (padding) 步幅 (stride) 小结:卷积层的输出特征图的大小 3 维数据的卷积运算 ...
最新文章
- 精算模型1 一元生存分析2 参数生存模型
- UA MATH571B 试验设计III 单因素试验设计3
- 配置Swagger2
- Androidの网络Http之判断是否连接服务器
- java 反射 单例类_利用反射机制破坏单例模式
- sql 连接数不释放 ,Druid异常:wait millis 40000, active 600, maxActive 600
- 武汉将投放5亿元消费券,4月19日微信率先开抢
- jackson 忽略多余字段_Java进阶学习:JSON解析利器JackSon
- FlinkSQL建表语句与插入语句
- Ubunut 下安装teamview
- php模板开发教程,Destoon模板制作简明教程
- 百度贴吧引流的一些技巧_专注流量研究-万能的小胡
- mybatis 标准输出日志报错: The setting logImpl is not known. Make sure you spelled it correctly (case sensit
- IT运维如何应对SOX挑战?
- 计算机中存储的数据类型
- USUS微软补丁服务器 使用
- 机器人工程相关课程共性问题的思考-2022-
- Simulink嵌入式自动代码DSP F28335(2)——SCI通信
- socket关闭close和shutdown
- dlf packet_DLF的完整形式是什么?
热门文章
- 分享两种好看的CSS表格样式
- 初中英语多词性单词怎么办_初中英语,两种轻松高效的记单词方法
- 如何解决电脑开始菜单任务栏和操作中心灰色无法勾选
- 流程图制作软件使用方法:绘制一份漂亮的流程图也很简单
- 基于分位数回归的长短期记忆网络QRLSTM时间序列区间预测。(主要应用于风速,负荷,功率)包含评价指标R2,MAE,MBE,区间覆盖率,区间平均宽度。
- 简单方法实现假的网页计数器,数字定时定值自动增长
- Java实现石头剪刀布游戏
- Linux:cd命令详解
- 4、杨辉三角(帕斯卡三角)_python版本
- mac m1 sourcetree安装