卷积神经网络 ——卷积神经网络的结构
卷积神经网络的基本思想
卷积神经网络的基本结构
卷积神经网络是一种多层的、前馈型网络。从结构上,可以分为特征提取阶段和分类识别阶段。
在特征提取阶段,通常由多个特征层堆叠而成,每个特征层又由卷积层和池化层组成。
处于网络前端的特征层,用来捕捉图像局部细节信息,而后面的特征层则用来捕捉图像中更加抽象的信息。
在分类识别阶段,通常是一个简单的分类器,例如全连接网络或支持向量机,它接收最后一个特征层的输出,完成分类和识别。
特征提取阶段
卷积层
卷积层也叫做特征提取层,使用卷积核来提取图像中的特征。
要注意的是,这里的卷积运算是有偏置项的,一个卷积核在整张图片上提取到的特征构成特征图,在一个卷积层中,往往包含多个卷积核,用来提取图像中的不同特征。
每个卷积核都输出一张特征图,在卷积核之后,一般会定义一个激活函数,卷积神经网络通常使用 Relu 神经网络作为激活函数,在实际任务中,也可能会使用其他激活函数,或者不使用激活函数。
池化层
池化层也叫做特征映射层
池化是一种下采样运算,可以在减少数据的处理量的同时,保留有用的信息。
例如,图片尺寸为 6 x 6 ,
对其进行最大池化,池化模板为 2 x 2 ,步长为 2 。
就是把它按照 2 x 2 的小区域进行分块,
然后取每个块中的最大值作为合并后的像素值。
采用 n x n 的池化模板进行步长为 n 的池化操作就是对这个图像进行下采样,把它的尺寸减少到 1/n 。
例如,下图为 MNIST 手写数字数据集中的手写数字图片,
对他们进行最大池化,得到的结果图片是 7 x 7 的,
可以看到,最大池化就是在缩小图像的同时,对每个块中最亮的像素采样,可以得到图像的主要轮廓。因此,池化相当于又进行了一次特征提取,从而更进一步获取更高层、更抽象的信息。使得网络能够对输入的微小变化(例如少量的平移、旋转以及缩放等) 产生更大的容忍,从而提高了泛化性,防止过拟合。
在网络前端的卷积层中,每个神经元只连接输入图像中很小的一个范围,感受也比较小,能够捕获图像中局部细节的信息。
而经过多层卷积层和池化层的堆叠后,后面的卷积层中,神经元的感受也逐层加大,可以捕获图像中更高层、更抽象的信息,从而得到图像在各个不同尺度上的抽象表示 。
除了最大池化,还有一些其他的池化方法,如下图所示。
池化层在卷积神经网络中并不是一个必须的组件,在目前一些新的卷积网络中,就没有池化层的出现。
卷积神经网络是一种监督学习的神经网络,训练过程与传统的人工神经网络相似。首先,从训练集中取出样本输入网络,经过逐级变换,传送到输出层。
计算输出层与样本标签之间的误差,然后反向传播误差,采用梯度下降法更新权值,最小化损失,反复迭代,在网络收敛并达到预期的精度后,结束训练。最后保存训练好的模型参数,以后就可以直接使用来进行分类了。
卷积神经网络 ——卷积神经网络的结构相关推荐
- 干货 | 深度学习之卷积神经网络(CNN)的模型结构
微信公众号 关键字全网搜索最新排名 [机器学习算法]:排名第一 [机器学习]:排名第一 [Python]:排名第三 [算法]:排名第四 前言 在前面我们讲述了DNN的模型与前向反向传播算法.而在DNN ...
- (草履虫级别的精讲)卷积神经网络的基本组成结构
目录 前言 卷积神经网络的基本组成结构 一.卷积层 1.标准卷积层 2.形变卷积 3.空洞卷积 二.池化层 1.最大池化层 2.平均池化层 三.激活函数 1.Sigmoid 2.Tanh 3.ReLU ...
- (深度卷积生成对抗神经网络)DCGANs论文阅读与实现pytorch
文章目录 INTRODUCTION Approach and Model Architecture 具体的修改细节 pytorch实现 可以选定特定的数字的DCGANs INTRODUCTION GA ...
- Tensorflow神经网络框架 小例子 三层神经网络 卷积神经网络 循环神经网络 神经网络可视化
Tensorflow神经网络框架 以前我们讲了神经网络基础,但是如果从头开始实现,那将是一个庞大且费时的工作,所以我们选择一条捷径---神经网络框架.我理解的神经网络框架就相当于一个工具包.就比如我们 ...
- 深入浅出图神经网络~卷积神经网络(上)
第三章 卷积神经网络 卷积神经网络(Convolutional Neural Network, CNN/ ConvNet)是一种具有局部连接,权值共享特点的深层前馈神经网络. 卷积与池化: 卷积与池化 ...
- Pytorch 实现全连接神经网络/卷积神经网络训练MNIST数据集,并将训练好的模型在制作自己的手写图片数据集上测试
使用教程 代码下载地址:点我下载 模型在训练过程中会自动显示训练进度,如果您的pytorch是CPU版本的,代码会自动选择CPU训练,如果有cuda,则会选择GPU训练. 项目目录说明: CNN文件夹 ...
- 图深度学习——卷积神经网络循环神经网络自编码器
卷积神经网络 常用做图像分类任务.举例:识别图中的兔子 前馈神经网络做兔子图像识别 图像可以通过矩阵表示,然后将矩阵转换成向量,就可以作为前馈神经网络的输入,但是 1.参数量就非常大,需要大量数据进行 ...
- 卷积神经网络 神经网络,卷积神经网络基础知识
卷积神经网络通俗理解 . 卷积神经网络(ConvolutionalNeuralNetworks,CNN)是一类包含卷积计算且具有深度结构的前馈神经网络(FeedforwardNeuralNetwork ...
- bp网络和卷积神经网络,bp神经网络
与传统bp神经网络相比,极限学习机有哪些优点 极限学习机(ELM)算法,随机产生输入层与隐含层间的连接权值及隐含层神经元的阈值,且在训练过程中无需调整,只需设置隐含层神经元的个数,便可获得唯一的最优解 ...
最新文章
- Google联手Facebook 要在AI研究上搞什么大事?
- Windows Embedded为航海护航!
- node.js初探-超越昨天的自己系列(3)
- 关于Class.forName()
- 基本图形的光栅化算法
- 1分钟了解基于内容的推荐,pm又懂了
- 第六章 Qt布局管理器Layout
- DolphinDB配置
- Vagrant 构建 LNMP 一致环境
- 浏览器关闭百度右侧的图片推荐---简洁就是美
- JavaScript复制内容到剪贴板 1
- 【HTTP Live Streaming】(四)苹果公司提供的7款 hls 工具
- winapi消息大全
- 代码编辑器 Sublime Text 系列——安装、插件和菜单中英文对照
- 计算机安装xp蓝屏怎么办,重装xp系统一直蓝屏重启循环怎么回事
- 你好,CSDN,我来了。我想在这里记录我的学习和分享知识教程
- RSE2021/云检测:Automatic cloud and cloud shadow detection in tropical areas用于PlanetScope热带地区自动云和云阴影检测
- 互联网中的视频/音频服务
- 两种批处理方式(操作系统)
- 一般能ping通自己的IP ,但是ping 不通网关,也ping不通别的主机IP