Fully Connected Layer

对于一个32×32的RGB图像，有三个颜色通道，故转换成30172×1的向量

Wx 10×3072表示有10个类别，每个类别的权重用1×3072的向量表示，图像向量与类别权重作点乘即得到每个类别的评分

Convolution Layer

5×5×3 的卷积核用来做过滤器

图像是32×32×3的，所以卷积核需要在图像上滑动才能在空间覆盖整张图像

做点乘的时候，为方便计算依然是转成向量的方式

当卷积核从图像的边角处开始，以步长为1的速度划过整张图，对每一个位置都进行点积运算，得到一个28*28*1的activation map

如果我们使用6个5*5*3的卷积核，则得到一个28*28*6的activation maps

在这里，原始图像深度为3，中间的激活映射深度为6，绿色的深度是10，一个深度递增的过程，也是实践中得到的经验

具体的在操作中卷积核的大小，滑动的步长，采用多少个卷积核都需要视情况而定

卷积核通常从图像（输入层）的边界处开始滑动，从左往右，从上往下，移动的步长通常可以设为1, 2，...等，输出的activation map的尺寸的计算公式为（N - F）/stride + 1 ，

N表示输入尺寸

F表示卷积核的尺寸

stride表示步长

上图中的N = 7，F = 3，当步长等于1或2时，都没有问题，但当步长等于3时，卷积核不能完全覆盖整个输入

In practice: Common to zero pad the border

做零填充的目的是为了保持输入图像的尺寸，假如你有多个卷积层时，输入层的迟钝会迅速缩小，这样就丢失了很多信息，你只能用到很少的值来表示你的原始图像，另外每次图像尺寸缩小，边角处的信息也会丢失更多

CS231n：卷积神经网络相关推荐

视觉识别：CS231n卷积神经网络
原译文地址请猛戳这里目录: 架构概述卷积网络层卷积层池化层归一化层全连接层将全连接层转换为卷积层卷积网络架构层模式层大小模式案例研究LeNet AlexNet ZFNet Goo ...
CS231n 卷积神经网络与计算机视觉 7 神经网络训练技巧汇总梯度检验参数更新超参数优化模型融合等
前面几章已经介绍了神经网络的结构.数据初始化.激活函数.损失函数等问题,现在我们该讨论如何让神经网络模型进行学习了. 1 梯度检验权重的更新梯度是否正确决定着函数是否想着正确的方向迭代,在UFLDL ...
通俗理解卷积神经网络（cs231n与5月dl班课程笔记）
1 前言 2012年我在北京组织过8期machine learning读书会,那时"机器学习"非常火,很多人都对其抱有巨大的热情.当我2013年再次来到北京时,有一个词似乎比&qu ...
【转】通俗理解卷积神经网络（cs231n与5月dl班课程笔记）
转载源地址:https://blog.csdn.net/v_JULY_v/article/details/51812459 通俗理解卷积神经网络(cs231n与5月dl班课程笔记) 1 前言 2012 ...
CNN笔记：通俗理解卷积神经网络
通俗理解卷积神经网络(cs231n与5月dl班课程笔记) http://blog.csdn.net/v_july_v/article/details/51812459 1 前言 2012年我在北京组织 ...
caffe与卷积神经网络
date:2017.9-2018.4 purpose:毕设 1caffe 简介 Caffe框架主要有五个组件:Blob,Solver,Net,Layer,Proto, 模型定义在.prototxt文件 ...
通俗理解卷积神经网络
1 人工神经网络 1.1 神经元神经网络由大量的神经元相互连接而成.每个神经元接受线性组合的输入后,最开始只是简单的线性加权,后来给每个神经元加上了非线性的激活函数,从而进行非线性变换后输出.每两个 ...
CNN笔记：通俗理解卷积神经网络【转】
本文转载自:https://blog.csdn.net/v_july_v/article/details/51812459 通俗理解卷积神经网络(cs231n与5月dl班课程笔记) 1 前言 2012 ...
收藏 | 李飞飞经典CS231N《卷积神经网络视觉识别》第十一讲！
点上方计算机视觉联盟获取更多干货仅作学术分享,不代表本公众号立场,侵权联系删除转载于:专知 AI博士笔记系列推荐周志华<机器学习>手推笔记正式开源!可打印版本附pdf下载链接 [导读 ...
【CS231n】斯坦福大学李飞飞视觉识别课程笔记（十九）：卷积神经网络笔记（下）
[CS231n]斯坦福大学李飞飞视觉识别课程笔记由官方授权的CS231n课程笔记翻译知乎专栏--智能单元,比较详细地翻译了课程笔记,我这里就是参考和总结. [CS231n]斯坦福大学李飞飞视觉识别课 ...

CS231n：卷积神经网络

Fully Connected Layer

Convolution Layer

In practice: Common to zero pad the border

CS231n：卷积神经网络相关推荐

最新文章

热门文章