深度卷积神经网络基本介绍

关于深度卷积神经网络的前世今生，就不在此处进行过多的介绍。在此，主要对网络的各个组成部分进行简要介绍：

图1 基本的深度卷积网络结构

通过图1可知深度卷积神经网络主要是由输入层、卷积层、激活函数、池化层、全连接层和输出层组成。以下将以人脸识别为例对网络的各个组成部分进行简单的介绍：

输入层：深度卷积网络可直接将图片作为网络的输入，通过训练提取特征，但是为了获得更好的效果，通常需要将图片进行预处理，在人脸识别中，就需要进行人脸检测等处理（MTCNN是一种较好的人脸检测方法）。此外，在样本不足的情况下会需要进行样本增强处理，包括旋转、平移，剪切、增加噪声、颜色变换等。

卷积层：通过卷积运算实质是对输入进行另一种表示，若将卷积层视为黑盒子，那么我们可以将输出看作是输入的另外一种表示，而整个网络的训练也就是训练出这种表示所需的中间参数。图2为一般神经网络的示意图：

图2 简单神经网络

图2中w和b即为网络训练所需得到的参数，在卷积层中需要添加激活函数对运算进行非线性化。深度卷积网络将小的神经网络串联起来构成深度神经网络，主要有两种特殊的处理方式：

采用局部感受野：神经元仅与其相邻的上一层神经元相连接，通过对学习到的局部特征进行组合形成最后的全局特征。
采用权值共享：同一个卷积核在对不同的局部感受野进行操作时，采用相同的权值参数，能够减少网络运行过程中所需的参数计算量。通过每一层的多个卷积核获得图片的不同特征，不需要特意考虑特征在图片中的具体位置，该处理方式使得其在分析和处理图片任务上具有显著优势

图3 卷积操作示意图

图3为某个三维图进行卷积处理，同一卷积核对不同输入层进行卷积操作，得到一组输出，多个卷积核得到多少个输出。不同的图层和不同的输入图处理方法相似，中间的卷积运算时一种对参数进行处理的过程，而最后决定分类个数的是最后一层全连接层的个数。如100张图片，大小为32*32，图片为3维，即输入为100*32*32*3，通过大小为3*3的256个卷积核进行边缘补充后计算，输出为100*32*32*256，即在该层的卷积运算仅需对256个卷积核进行共享就可实现卷积操作，大大减少了所需参数。

卷积运算输入和输出窗口的大小变化为：，其中W为输入的长/宽（输入长宽不一定相等），F为卷积核的大小，P为边缘补充个数，S为步长（卷积间隔个数），如图3中，输入为5*5，卷积核的大小为3*3，边缘补充为1，步长为2，其计算即为N=（5-3+1*2）/2+1，故而输出为3*3。

vggnet通过实验证明三个3*3的卷积核效果比一个7*7的卷积核效果好，2个3*3的卷积核比一个5*5的网络效果好。此外，resnet提出的残差网络结构能有效的避免网络中参数泛华的问题。

池化层：是卷积神经网络中的一种对数据进行的特殊处理操作，通过池化处理缩小图片特征尺寸，能有效的去除由上一层的结果作为输入而带来的计算量较大的问题，图4为常使用的池化方法。

图4 平均池化和最大池化

2*2的池化可以使特征图大小减半，后常采用大小为3*3，步长为2，pad=0的卷积核替换池化层，可实现类似的效果。

激活函数：网络中卷积操作和池化操作都是线性操作，而生活中的大量样本，在进行分类时并不是线性关系，因而需要在网络中引入非线性元素使得网络能解决非线性问题。常见的激活函数如下：

图5 Relu函数及其改进函数

全连接层：该层是网络中消耗参数最多的层，若全连接层的输入是4*4*100，全连接层的输出是512，则该层需要4*4*100* 512个参数；而一般的卷积层，若卷积核为4*4，输出为512，则仅需4*4*512个参数。常见的网络会含有两个全连接层，第二个全连接层的输出与分类个数的输出对应，而近期有文献表明，第一个卷积层是可以通过全局平均池化层等替换。

以上是通过个人学习进行的简要总结，若有不对的地方大家可以指出，期待与大家共同学习进步。

深度卷积神经网络基本介绍相关推荐

介绍深度卷积神经网络中各种类型的模型
深度卷积神经网络(DCNN)是一种深度学习技术,它可以帮助计算机从复杂的图像或音频数据中识别出特征.DCNN可以用来解决许多计算机视觉和语音识别任务,其中包括图像分类.目标检测.语音识别和自然语言处理 ...
基于深度卷积神经网络的小样本分割算法综述
↑ 点击蓝字关注视学算法来源丨AI算法修炼营编辑丨极市平台介绍深度卷积神经网络在图像分类.目标检测.语义分割等许多视觉理解任务上都取得了重大突破.一个关键的原因是大规模数据集的可用性,比如 ...
可视化卷积神经网络的过滤器_万字长文：深度卷积神经网络特征可视化技术(CAM)最新综述...
↑ 点击蓝字关注极市平台作者丨皮特潘@知乎来源丨https://zhuanlan.zhihu.com/p/269702192编辑丨极市平台极市导读本文通过引用七篇论文来论述CAM技术,对CAM的 ...
基于深度卷积神经网络进行人脸识别的原理是什么？
原文:https://www.zhihu.com/question/60759296 基于深度卷积神经网络进行人脸识别的原理是什么? 这里的人脸识别包括但不限于:人脸检测,人脸对齐,身份验证识别,和表 ...
【直播】如何获得更加高效的深度卷积神经网络
在移动端使用深度学习模型时,我们需要参数少.计算速度快的模型,因此一个性能更高效的模型才是落地的关键.本次将从卷积核,拓扑结构,剪枝,量化,蒸馏,动态推理,AutoML等方向来讲述如何获得一个更加高效 ...
【直播】如何设计性能更强大的深度卷积神经网络
从事深度学习算法研究的人员一直在追求精度更高的网络性能,这一次我们将从模型的宽度.深度.卷积核和步长的大小,Dropout和BN层的设计,残差网络,多尺度与信息融合,Attention机制,AutoM ...
【直播】深度卷积神经网络模型设计技术
往后我们慢慢地会多做一些直播,平台就定在哔哩哔哩,这次是有三本周五直播的一个回放. 文/编辑 | 言有三 1 直播主题网络结构是深度学习成功的关键因素之一,不仅是非常重要的学术研究方向,在工业界实践 ...
【论文阅读】Learning Traffic as Images: A Deep Convolutional ... [将交通作为图像学习: 用于大规模交通网络速度预测的深度卷积神经网络]（1）
[论文阅读]Learning Traffic as Images: A Deep Convolutional Neural Network for Large-Scale Transportation ...
基于深度卷积神经网络的目标检测研究综述
基于深度卷积神经网络的目标检测研究综述人工智能技术与咨询来自<光学精密工程> ,作者范丽丽等摘要:作为计算机视觉中的基本视觉识别问题,目标检测在过去的几十年中得到了广泛地研究.目标检 ...
深度卷积神经网络_深度卷积神经网络中的降采样
加入极市专业CV交流群,与6000+来自腾讯,华为,百度,北大,清华,中科院等名企名校视觉开发者互动交流!更有机会与李开复老师等大牛群内互动! 同时提供每月大咖直播分享.真实项目需求对接.干货资讯汇总 ...

深度卷积神经网络基本介绍

深度卷积神经网络基本介绍相关推荐

最新文章

热门文章