深度学习入门：Day-11

卷积神经网络CNN(Convolutional Neural Network)
卷积网络的简单了解

术语

术语	描述
全连接	相邻层的神经元之间都有连接
输入特征图	卷积层的输入数据
输出特征图	输出数据
滤波器(也称为核)的参数	对应于全连接中的权重
偏置	通过只有一个(`1*1`),向应用了滤波器的元素加上某一个固定的元素(偏置)
步幅	应用滤波器的位置间隔

连接顺序

基于全连接层(Affine层)的连接顺序:“Affine–>ReLU”
基于CNN的网络连接顺序为"Convolution–>ReLu–>(Pooling)"(Pooling层有时会被省略.)

全连接存在的问题？

全连接层会忽视形状(输入数据是图像时，图像通常是高、长、通道方向上的3维形状，在全连接时，需要将3维数据拉平为1维数据)，将全部的输入数据作为相同的神经元(同一维度的神经元)处理，所以无法利用与形状相关的信息。而卷积层可以保持形状不变。

卷积运算

对于输入数据，卷积运算以一定间隔滑动滤波器(核)的窗口并应用。将各个位置上滤波器的元素和输入的对应元素相乘，然后在求和(乘积累加运算)，然后保存到对应位置(类似于矩阵版的滑动平均)。

填充：主要是为了调整输出的大小。
应用了幅度为1的填充指用幅度为1像素的0填充周围。

假设输入大小为(H,W),滤波器大小为(FH,FW),输出大小为(OH,OW),填充为P,步幅为S输出大小的计算：

注：当上述公式除不尽时，在不同的深度学习框架，有时会采用四舍五入；有的是卷积向下取整，池化向上取整。

3维数据的卷积运算：
3维数据表示为多维数组时，书写顺序为(channel,height,width),简记为(C,H,W).
除了高、长方向之外，还要处理通道方向。通道方向上有多个特征图时，会按照通道进行数据和滤波器的卷积运算，并将结果相加，从而得到输出。

多通道卷积形状的变化：

多滤波器的卷积：

注：3维数据卷积时，输入数据和滤波器的通道数要设置为相同的值。

4维滤波器的权重数据书写顺序(output_channel,input_channel,height,height)

批处理：
数据保存格式：(batch_num,channel,height,width)

声明：动态图均来源于网络

深度学习入门：Day-11_CNN相关推荐

【AI参赛经验】深度学习入门指南：从零开始TinyMind汉字书法识别——by：Link
各位人工智能爱好者,大家好! 由TinyMind发起的#第一届汉字书法识别挑战赛#正在火热进行中,比赛才开始3周,已有数只黑马冲进榜单.目前TOP54全部为90分以上!可谓竞争激烈,高手如林.不是比赛 ...
深度学习入门，一文讲解神经网络的构成、训练和算法
小白深度学习入门系列神经网络的构成.训练和算法什么是神经网络人工神经网络(Artificial Neural Network,ANN),简称神经网络(Neural Network,NN),是一种 ...
PyTorch深度学习入门与实战（案例视频精讲）
作者:孙玉林,余本国著出版社:中国水利水电出版社品牌:智博尚书出版时间:2020-07-01 PyTorch深度学习入门与实战(案例视频精讲)
PyTorch深度学习入门
作者:曾芃壹出版社:人民邮电出版社品牌:iTuring 出版时间:2019-09-01 PyTorch深度学习入门
深度学习入门基于Python的理论与实现
作者:斋藤康毅出版社:人民邮电出版社品牌:iTuring 出版时间:2018-07-01 深度学习入门基于Python的理论与实现
干货|《深度学习入门之Pytorch》资料下载
深度学习如今已经成为了科技领域中炙手可热的技术,而很多机器学习框架也成为了研究者和业界开发者的新宠,从早期的学术框架Caffe.Theano到如今的Pytorch.TensorFlow,但是当时间线来 ...
福利丨一门面向所有人的人工智能公开课：MIT 6.S191，深度学习入门
对初学者来说,有没有易于上手,使用流行神经网络框架进行教学的深度学习课程?近日,麻省理工学院(MIT)正式开源了在线介绍性课程「MIT 6.S191:深度学习入门」.该课程包括一系列有关神经网络及其在 ...
深度学习入门指北——从硬件到软件
作者:隔壁王大喵近日,Rachel Thomas在fast.ai上发布了一篇博文<What you need to do deep learning>,他希望通过这篇文章回答一些深度学习 ...
LeCun亲授的深度学习入门课：从飞行器的发明到卷积神经网络
Root 编译整理量子位出品 | 公众号 QbitAI 深度学习和人脑有什么关系?计算机是如何识别各种物体的?我们怎样构建人工大脑? 这是深度学习入门者绕不过的几个问题.很幸运,这里有位大牛很乐意 ...
BP算法双向传_链式求导最缠绵（深度学习入门系列之八）
摘要: 说到BP(Back Propagation)算法,人们通常强调的是反向传播,其实它是一个双向算法:正向传播输入信号,反向传播误差信息.接下来,你将看到的,可能是史上最为通俗易懂的BP图文讲解, ...

深度学习入门：Day-11_CNN

术语

连接顺序

卷积运算

深度学习入门：Day-11_CNN相关推荐

最新文章

热门文章