系列笔记 | 深度学习连载（6）：卷积神经网络基础

点击上方“AI有道”，选择“星标”公众号

重磅干货，第一时间送达

卷积神经网络其实早在80年代，就被神经网络泰斗Lecun 提出[LeNet-5, LeCun 1980]，但是由于当时的数据量、计算力等问题，没有得到广泛使用。

卷积神经网络的灵感来自50年代的诺贝尔生物学奖。Hubel & Wiesel, 1959，猫负责视觉的大脑区域，对于细小的线段感兴趣（而不是鱼），这个区域离眼睛远（而不是近）。

1.卷积层 Convolutional Layer

卷积层中有filter，在image空间中不断滑动，进行点乘dot

filter 的dot的结果是一个数值，经过滑动dot，就会形成一个比原先照片小的层，厚度为1

filter可以有很多个，我们以6个filter为例

2.卷积过程 Convolutional Process

卷积的过程，就是一系列的卷积层的组合：

每一层提取的feature 从low lever，mid level，high level 到可以分类的级别

这里是一个图片分类的过程：

3.卷积计算 Convolutional Compute

（1）activation map 大小的计算以7*7大小的图片为例

（2）zero padding

zero padding 可以保持图片卷积后的大小

（3）计算

举例：输入图片是32x32x3 有10个5x5的filter ，stride 是1 ，pad 2

输出的大小？参数的多少？

Output volume size: (32+2*2-5)/1+1 = 32 spatially, so 32x32x10

Number of parameters in this layer? each filter has 553 + 1 = 76 params => 76*10 = 760

（4）总结

本专栏图片、公式很多来自台湾大学李弘毅老师、斯坦福大学cs229、cs231n 、斯坦福大学cs224n课程。在这里，感谢这些经典课程，向他们致敬！

作者简介：武强兰州大学博士，谷歌全球开发专家Google Develop Expert（GDE Machine Learing 方向）

CSDN：https://me.csdn.net/dukuku5038

知乎：https://www.zhihu.com/people/Dr.Wu/activities

漫画人工智能公众号：DayuAI-Founder

系列笔记：

系列笔记 | 深度学习连载（1）：神经网络

系列笔记 | 深度学习连载（2）：梯度下降

系列笔记 | 深度学习连载（3）：反向传播

系列笔记 | 深度学习连载（4）：优化技巧（上）

系列笔记 | 深度学习连载（5）：优化技巧（下）

系列笔记 | 深度学习连载（6）：卷积神经网络基础相关推荐

系列笔记 | 深度学习连载（5）：优化技巧（下）
点击上方"AI有道",选择"星标"公众号重磅干货,第一时间送达深度学习中我们总结出 5 大技巧: 本节继续从第三个开始讲起. 3. Early stoppi ...
系列笔记 | 深度学习连载（4）：优化技巧（上）
点击上方"AI有道",选择"星标"公众号重磅干货,第一时间送达深度学习中我们总结出 5 大技巧: 1. Adaptive Learning Rate 我们先 ...
系列笔记 | 深度学习连载（2）：梯度下降
点击上方"AI有道",选择"星标"公众号重磅干货,第一时间送达我们回忆深度学习"三板斧": 1. 选择神经网络 2. 定义神经网络的好坏 ...
pytorch卷积神经网络_知识干货-动手学深度学习(pytorch)-06 卷积神经网络基础
卷积神经网络基础本节我们介绍卷积神经网络的基础概念,主要是卷积层和池化层,并解释填充.步幅.输入通道和输出通道的含义. 二维卷积层本节介绍的是最常见的二维卷积层,常用于处理图像数据. 二维互相关运 ...
深度学习(DL)与卷积神经网络(CNN)学习笔记随笔-03-基于Python的LeNet之LR
原地址可以查看更多信息本文主要参考于:Classifying MNIST digits using Logistic Regression python源代码(GitHub下载 CSDN免费下载) ...
深度学习(DL)与卷积神经网络(CNN)学习笔记随笔-04-基于Python的LeNet之MLP
原文地址可以查看更多信息本文主要参考于:Multilayer Perceptron python源代码(github下载 CSDN免费下载) 本文主要介绍含有单隐层的MLP的建模及实现.建议在阅读 ...
深度学习教程(10) | 卷积神经网络解读（吴恩达·完整版）
作者:韩信子@ShowMeAI 教程地址:http://www.showmeai.tech/tutorials/35 本文地址:http://www.showmeai.tech/article-det ...
深度学习21天——卷积神经网络（CNN）：实现mnist手写数字识别（第1天）
目录一.前期准备 1.1 环境配置 1.2 CPU和GPU 1.2.1 CPU 1.2.2 GPU 1.2.3 CPU和GPU的区别第一步:设置GPU 1.3 MNIST 手写数字数据集第二步: ...
深度学习21天——卷积神经网络（CNN）：天气识别（第5天）
目录一.前期准备 1.1 设置GPU 1.2 导入数据 1.2.1 np.random.seed( i ) 1.2.2 tf.random.set_seed() 1.3 查看数据二.数据预处理 2 ...

系列笔记 | 深度学习连载（6）：卷积神经网络基础

系列笔记 | 深度学习连载（6）：卷积神经网络基础相关推荐

最新文章

热门文章