简单了解------网络搭建
目录
一.卷积神经网络(CNN)
1.神经网络
2.卷积神经网络
二.卷积神经网络的结构
1.卷积层--CONV(convolutional layer)
2.池化层--POOL(pooling layer)
2.1最大池化层
2.2池化层的具体作用
3.全连接层--FC(fully-connected layer)
三.卷积神经网络的其他操作
1.激活函数
2.BN操作(Batch Normalization)
3.填充(Padding)
一.卷积神经网络(CNN)
·要进行网络搭建,首先应该了解什么是卷积神经网络。
1.神经网络
但在此之前我们先来了解一下“神经网络”
人工神经网络(Artificial Neural Networks,简写为ANNs)也简称为神经网络(NNs)或称作连接模型(Connection Model),它是一种模仿动物神经网络行为特征,进行分布式并行信息处理的算法数学模型。
人工神经网络的主要任务是根据生物神经网络的原理和实际应用的需要建造实用的人工神经网络模型,设计相应的学习算法,模拟人脑的某种智能活动,然后在技术上实现出来用以解决实际问题。因此,生物神经网络主要研究智能的机理;人工神经网络主要研究智能机理的实现,两者相辅相成。
同时,我们可以从上图得到,神经网络是分为3个部分,分别是输入层,隐含层,输出层;而每一层的连接都是互相交叉相连的(类似于神经元)。
2.卷积神经网络
在以上对神经网络的了解下,卷积神经网络与神经网络的区别是增长了若干个卷积层,而卷积层又可细分为卷积(CONV)和池化(POOL)两部分;而后是全链接层(FC),可与神经网络的隐藏层相对应;最后是softmax层预测输出值。下图为CNN的结构图。
卷积神经网络(Convolutional Neural Networks, CNN)是一类包含卷积计算且具有深度结构的前馈神经网络(Feedforward Neural Networks),是深度学习(deep learning)的代表算法之一
二.卷积神经网络的结构
以LeNet-5为例,3类常见构筑在隐含层中的顺序通常为:输入-卷积层-池化层-全连接层-输出。、
接下来我们了解隐含层中的3类常见构筑
1.卷积层--CONV(convolutional layer)
卷积层的功能是对输入数据进行特征提取
在卷积操做中,咱们首先须要明确的一个概念是过滤器(核),它是一个通道数n与输入图像n相同,但高度和宽度为较小奇数。(在下面示例中过滤器是(3,3)的数组)
当然,在CNN卷积层中过滤器会有多个,运算会稍微复杂但原理是一致的,输出时要将每一个过滤器卷积后的图像叠加在一块儿输出。
2.池化层--POOL(pooling layer)
池化层夹在连续的卷积层中间, 用于压缩数据和参数的量,减小过拟合。
(如果输入是图像的话,那么池化层的最主要作用就是压缩图像。)
而池化层用的方法有最大池化(Max pooling)和平均池化(average pooling)
2.1最大池化层
大致意思是选出每个通道中每个部分最大的值来进行输出。
2.2池化层的具体作用
1. 特征不变性,在我们压缩图片的基础上,依旧能够识别出图像的内容,图像压缩时去掉的信息只是一些无关紧要的信息,而留下的信息则是具有尺度不变性的特征,是最能表达图像的特征。
2. 特征降维,当有些信息对于我们做图像任务时没有太多用途或者有重复,我们可以把这类冗余信息去除,把最重要的特征抽取出来。
3. 在一定程度上防止过拟合,更方便优化。
3.全连接层--FC(fully-connected layer)
全连接层是神经网络中的那种最普通的层,就是一排神经元。
因为这一层是每一个单元都和前一层的每一个单元相连接,所以称之为“全连接”。(如下图)
全连接层位于卷积神经网络隐含层的最后部分,并只向其它全连接层传递信号。
三.卷积神经网络的其他操作
1.激活函数
卷积神经网络中的激活函数不是真的要去激活什么。
在神经网络中,激活函数的作用是能够给神经网络加入一些非线性因素,使神经网络可以更好地解决较为复杂的问题。
如上图,我们无法按照线性函数将蓝色与黄色的图形完全区分开来,所以必须依靠激活函数,利用非线性曲线分成不同的两部分。
常用的激活函数包括Sigmoid函数、Tanh函数、ReLU函数。后续在进一步了解。
2.BN操作(Batch Normalization)
Normalization是数据标准化,Batch 可以理解为批量,加起来就是批量标准化。
随着网络的深度增加,每层特征值分布会逐渐的向激活函数的输出区间的上下两端(激活函数饱和区间)靠近,这样继续下去就会导致梯度消失。BN就是通过方法将该层特征值分布重新拉回标准正态分布,特征值将落在激活函数对于输入较为敏感的区间,输入的小变化可导致损失函数较大的变化,使得梯度变大,避免梯度消失,同时也可加快收敛。
出自:CSDN博主「一碗风」https://blog.csdn.net/hffhjh111/article/details/86994445
3.填充(Padding)
作用:
为了不丢弃原图信息
为了保持feature map 的大小与原图一致
为了让更深层的layer的input依旧保持有足够大的信息量
好了,本文仅仅介绍了我自己所了解的卷积神经网络,作为新手,还有很多不懂的地方,见谅!
简单了解------网络搭建相关推荐
- 计算机网络实验2--简单企业网络搭建
实验2 简单企业网络搭建 一.实验目的 搭建简单的企业内部网络. 二.实验拓扑 三.实验配置命令 配置路由器GE 0/0/0 ip地址 配置GE 0/0/1 ip地址 配置GE 4/0/0 ip地址 ...
- 【小白学PyTorch】1.搭建一个超简单的网络
文章目录: 1 任务 2 实现思路 3 实现过程 3.1 引入必要库 3.2 创建训练集 3.3 搭建网络 3.4 设置优化器 3.5 训练网络 3.6 测试 1 任务 首先说下我们要搭建的网络要完成 ...
- 使用eNSP搭建一个简单的网络
使用eNSP搭建一个简单的网络 第一次使用eNSP搭建一个简单的网络,在师傅的耐心讲解及自己的慢慢摸索下最终使得3台PC之间通过静态路由实现了互通. 一.前言 华为现在不知道是在eNSP进行优化还是咋 ...
- 从零学习pytorch 第1课 搭建一个超简单的网络
课程目录(在更新,喜欢加个关注点个赞呗): 从零学习pytorch 第1课 搭建一个超简单的网络 从零学习pytorch 第1.5课 训练集.验证集和测试集的作用 从零学习pytorch 第2课 Da ...
- 易语言php注册,易语言简单ASP网络验证源码 PHP一键搭建网络验证源码
说明: 易语言简单ASP网络验证源码 ,很不错的易语言源码,适合易语言爱好者学习, (Easy language simple ASP network verification source code ...
- 旷视MegEngine网络搭建
旷视MegEngine网络搭建 在 基本概念 中,介绍了计算图.张量和算子,神经网络可以看成一个计算图.在 MegEngine 中,按照计算图的拓扑结构,将张量和算子连接起来,即可完成对网络的搭建.M ...
- Apache简单配置(4)搭建Discuz 7.0.0论坛
Apache简单配置(4)搭建Discuz 7.0.0论坛 RHEL5.3 基本网络配置 一. 1.RHEL5 U3:如图1 (如图1) 2.#hostname //查看当前主机的主机名:如图2 (如 ...
- 【干货】大中型企业网络搭建
今天简单了解一下,大中型公司的网络搭建. 对于很多大型公司来讲,网络的稳定性,会直接影响到公司的收益,比如,双十一的阿里巴巴,京东,等等.如果这个时候网络出现问题,对于公司的损失将会是不可估量的.可见 ...
- tf.keras CNN网络搭建笔记
tf.keras CNN网络搭建笔记 这里写目录标题 tf.keras CNN网络搭建笔记 基本流程,以LeNet为例 创建Sequential模型 配置模型的学习流程 数据预处理 模型训练与验证 相 ...
最新文章
- netstat 查看端口命令
- rpm命令,yum命令大全
- Neo4j-学习资料
- android apt最新版本,解决Android studio 2.3升级到Android studio 3.0 后apt报错问题
- ABNFBNF 巴克斯范式
- 7-172 抓老鼠啊~亏了还是赚了? (20 分)
- 常用SQL语句优化技巧
- linux下apache2两种工作模式及两者切换
- 仿得微博字符限制效果
- linux下串口(serial)和串口驱动
- android客户端服务器传输,【图片】【转】通过Android 客户端上传数据到服务器【aide吧】_百度贴吧...
- 《中國哲學書電子化計劃》網頁文本處理[Word VBA]
- photoshop切片的使用
- 计算机室无线网络,在小型办公室中设置无线网络
- 使用Foxmail管理hotmail邮箱时,只能接收邮件而无法发送邮件的就解决办法
- shiro介绍(一)
- 进程管理系统的设计与实现 SDUT 操作系统实训 项目 Java
- 京东商品图片下载工具1.0 springboot版
- Python实现秒杀某宝商品抢购(附超详细代码)
- Infopath技术