水很深的深度学习（四）——卷积神经网络CNN
参考资料：
1.水很深的深度学习-CNN
2.卷积神经网络超详细介绍_呆呆的猫的博客-CSDN博客_卷积神经网络
3.大话卷积神经网络CNN（干货满满）-CSDN博客
卷积神经网络的概念
计算机视觉和 CNN 发展十一座里程碑
上世纪60年代，Hubel等人通过对猫视觉皮层细胞的研究，提出了感受野这个概念，到80年代，Fukushima在感受野概念的基础之上提出了神经认知机的概念，可以看作是卷积神经网络的第一个实现网络，神经认知机将一个视觉模式分解成许多子模式（特征），然后进入分层递阶式相连的特征平面进行处理，它试图将视觉系统模型化，使其能够在即使物体有位移或轻微变形的时候，也能完成识别。
卷积神经网络是多层感知机（MLP）的变种，由生物学家休博尔和维瑟尔在早期关于猫视觉皮层的研究发展而来，视觉皮层的细胞存在一个复杂的构造，这些细胞对视觉输入空间的子区域非常敏感，称之为感受野。
CNN由纽约大学的Yann Lecun于1998年提出，其本质是一个多层感知机，成功的原因在于其所采用的局部连接和权值共享的方式：
一方面减少了权值的数量使得网络易于优化
另一方面降低了模型的复杂度，也就是减小了过拟合的风险
该优点在网络的输入是图像时表现的更为明显，使得图像可以直接作为网络的输入，避免了传统识别算法中复杂的特征提取和数据重建的过程，在二维图像的处理过程中有很大的优势，如网络能够自行抽取图像的特征包括颜色、纹理、形状及图像的拓扑结构，在处理二维图像的问题上，特别是识别位移、缩放及其他形式扭曲不变性的应用上具有良好的鲁棒性和运算效率等。
| 名称 | 特点 |
|---|---|
| LeNet5 | 没啥特点-不过是第一个CNN应该要知道 |
| AlexNet | 引入了ReLU和dropout，引入数据增强、池化相互之间有覆盖，三个卷积一个最大池化+三个全连接层 |
| VGGNet | 采用11和33的卷积核以及2*2的最大池化使得层数变得更深。常用VGGNet-16和VGGNet19 |
| Google Inception Net | 这个在控制了计算量和参数量的同时，获得了比较好的分类性能，和上面相比有几个大的改进：1、去除了最后的全连接层，而是用一个全局的平均池化来取代它； 2、引入Inception Module，这是一个4个分支结合的结构。所有的分支都用到了11的卷积，这是因为11性价比很高，可以用很少的参数达到非线性和特征变换。3、Inception V2第二版将所有的55变成2个33，而且提出来著名的Batch Normalization；4、Inception V3第三版就更变态了，把较大的二维卷积拆成了两个较小的一维卷积，加速运算、减少过拟合，同时还更改了Inception Module的结构。 |
| 微软ResNet残差神经网络(Residual Neural Network) | 1、引入高速公路结构，可以让神经网络变得非常深2、ResNet第二个版本将ReLU激活函数变成y=x的线性函数 |
卷积神经网络基本原理
卷积神经网络的基本结构大致包括：卷积层、激活函数、池化层、全连接层、输出层等。
卷积层
二维卷积运算：给定二维的图像I作为输入，二维卷积核K，卷积核需要进行上下翻转和左右反转
feature_map尺寸计算公式：[ (原图片尺寸 -卷积核尺寸)/ 步长 ] + 1
卷积实际上就是互相关
**卷积的步长(stride)**：卷积核移动的步长
卷积的模式：Full**,** Same和Valid
数据填充：如果我们有一个
水很深的深度学习（四）——卷积神经网络CNN相关推荐
- 水很深的深度学习-Task03前馈神经网络
本文参考 Datawhale:水很深的深度学习 深度学习(四)-前馈神经网络_未名湖畔的落叶-CSDN博客_前馈神经网络 神经元模型 在前馈神经网络中,各神经元分别属于不同的层.每一层的神经元可以 ...
- 水很深的深度学习-Task05循环神经网络RNN
循环神经网络 Recurrent Neural Network 参考资料: Unusual-Deep-Learning 零基础入门深度学习(5) - 循环神经网络 史上最小白之RNN详解_Tink19 ...
- 【组队学习】【31期】水很深的深度学习
水很深的深度学习 航路开辟者:刘洋 领航员:陈宇 航海士:刘洋.陈陟原.左凯文.初晓宇.刘羽中 基本信息 开源内容:https://github.com/datawhalechina/unusual- ...
- 水很深的深度学习|Task 01
水很深的深度学习|Task 01 1.绪论与深度学习概述 说深度学习之前,先说下人工智能和机器学习吧 人工智能是利用数字计算机或者数字计算机控制的机器模拟.延伸 和扩展人的智能,感知环境.获取知识并使 ...
- 深度学习～卷积神经网络(CNN)概述
目录 1. 卷积神经网络的形成和演变 1.1 卷积神经网络结构 1.2 卷积神经网络的应用和影响 1.3 卷积神经网络的缺陷和视图 1.3.1 缺陷:可能错分 1.3.2 解决方法:视图 ...
- 深度学习之卷积神经网络CNN
转自:https://blog.csdn.net/cxmscb/article/details/71023576 一.CNN的引入 在人工的全连接神经网络中,每相邻两层之间的每个神经元之间都是有边相连 ...
- 水很深的深度学习-卷积神经网络篇
什么是卷积 先将一个函数反转,然后滑动叠加 最容易理解的对卷积(convolution)的解释_bitcarmanlee的博客-CSDN博客_卷积 这篇文章可以深入理解下卷积 卷积操作 步长:卷积核移 ...
- 水很深的深度学习-Task02机器学习基础
机器学习基础 目录 机器学习基础 一.什么是机器学习? 如何寻找这个函数? 机器学习三板斧 学习路线 二.机器学习算法的类型 1. 有监督学习 2. 无监督学习 3. 强化学习 4.机器学习算法的系统 ...
- 水很深的深度学习-Task01深度学习概述与数学基础
目录 1.人工智能.机器学习与深度学习 1.1 人工智能.机器学习与深度学习 1.2 起源与发展 1.3 深度学习定义与分类 1.4 主要应用 2 数学基础 2.1 矩阵论 2.2 ...
最新文章
- 大量LAST_ACK 的分析过程
- 图解软件定义存储-百炼钢成绕指柔
- 五天带你学完《计算机网络》·第一天·物理层
- Kali 渗透测试—Metasploit
- sessionlistener方法中获取session中存储的值报空指针异常_从Golang实践中得到的教训...
- c++ cdi+示例_C ++“或”关键字示例
- MyBatis+springMVC+easyUI (dataGirl)实现分页
- vue动态加载静态资源
- dp----最少硬币问题
- QT5.12.0 程序在中标麒麟（neokylin）系统问题处理
- mapreduce详细工作流程
- Oracle安装之后电脑变慢
- RS-485位移传感器集线器的功能大家了解吗？
- 计算机专业纸质笔记本,无可替代？信息时代你还用纸质笔记本吗
- linux vim编辑器命令,Linux之VIM编辑器命令
- C#实现图书管理系统（课程设计）——第五步、查询界面及操作
- android水平wheelview,android：自定义横向滚动的WheelView
- Response to preflight request doesn‘t pass access control check: It does not have HTTP ok status.
- xp系统扫描仪服务器,扫描仪驱动安装教程 xp系统装扫描仪步骤【详解】
- vTPM架构分析与环境部署