经典网络DenseNet介绍

经典网络DenseNet(Dense Convolutional Network)由Gao Huang等人于2017年提出，论文名为：《Densely Connected Convolutional Networks》，论文见：https://arxiv.org/pdf/1608.06993.pdf

DenseNet以前馈的方式(feed-forward fashion)将每个层与其它层连接起来。在传统卷积神经网络中，对于L层的网络具有L个连接，而在DenseNet中，会有L(L+1)/2个连接。每一层的输入来自前面所有层的输出。

DenseNet网络：

(1).减轻梯度消失(vanishing-gradient)。

(2).加强feature传递。

(3).鼓励特征重用(encourage feature reuse)。

(4).较少的参数数量。

Dense Block：像GoogLeNet网络由Inception模块组成、ResNet网络由残差块(Residual Building Block)组成一样，DenseNet网络由Dense Block组成，论文截图如下所示：每个层从前面的所有层获得额外的输入，并将自己的特征映射传递到后续的所有层，使用级联(Concatenation)方式，每一层都在接受来自前几层的”集体知识(collective knowledge)”。增长率(growth rate) $k$ 是每个层的额外通道数。

Growth rate：如果每个 $H_{l}$ 函数产生 $k$ 个feature-maps，那么第 $l$ 层产生 $k_{0}+k(l-1)$ 个feature-maps。 $k_{0}$ 是输入层的通道数。将超参数 $k$ 称为网络的增长率。

DenseNet Basic Composition Layer：BatchNorm(BN)-ReLu-3*3 Conv

DenseNet-B(Bottleneck Layers)：在BN-ReLu-3*3 Conv之前进行BN-ReLU-1*1 Conv操作，减少feature maps size。

Transition Layer(过渡层)：采用1*1 Conv和2*2平均池化作为相邻Dense Block之间的转换层，减少feature map数和缩小feature map size，size指width*height。在相邻Dense Block中输出的feature map size是相同的，以便它们能够很容易的连接在一起。

DenseNet-BC：如果Dense Block包含 $m$ 个feature-maps，则Transition Layer生成 $\theta m$ 输出feature maps，其中 $0<\theta <1$ 称为压缩因子。当 $\theta =1$ 时，通过Transition Layers的feature-maps数保持不变。当 $\theta <1$ 时，称为DenseNet-C，在实验中 $\theta =0.5$ 。当同时使用Bottleneck和 $\theta <1$ 的Transition Layers时，称为DenseNet-BC。

下图是一个DenseNet结构图，来自于论文：使用了3个Dense Blocks。DenseNet由多个Desne Block组成。每个Dense Block中的feature-map size相同。两个相邻Dense Block之间的层称为Transition Layers。通过卷积和池化来更改feature-map size。

论文中给出了4种层数的DenseNet，论文截图如下所示：所有网络的增长率 $k$ 是32，表示每个Dense Block中每层输出的feature map个数。

DenseNet-121、DenseNet-169等中的数字121、169是如何计算出来的：以121为例，1个卷积(Convolution)+6个Dense Block*2个卷积(1*1、3*3)+1个Transition Layer(1*1 conv)+12个Dense Block*2个卷积(1*1、3*3)+ 1个Transition Layer(1*1 conv)+24个Dense Block*2个卷积(1*1、3*3)+ 1个Transition Layer(1*1 conv)+ 16个Dense Block*2个卷积(1*1、3*3)+最后的1个全连接层=121。这里的层仅指卷积层和全连接层，其它类型的层并没有计算在内

公式表示：其中 $H_{l}(\cdot )$ 表示非线性转换函数

(1).传统的网络在 $l$ 层的输出为： $x_{l}=H_{l}(x_{l-1})$

(2).ResNet在l层的输出为： $x_{l}=H_{l}(x_{l-1})+x_{l-1}$

(3).DenseNet在l层的输出为： $x_{l}=H_{l}([x_{0},x_{1},\cdots ,x_{l-1}])$

假如输入图像大小为n*n，过滤器(filter)为f*f，padding为p，步长(stride)为s，则输出大小为：计算卷积层大小，如果商不是整数，向下取整，即floor函数；计算池化层大小，如果商不是整数，向上取整，即ceil函数。参考：https://blog.csdn.net/fengbingchun/article/details/80262495

在https://github.com/fengbingchun/Caffe_Test/tree/master/test_data/Net/DenseNet 上整理了DenseNet prototxt文件。

这里描述下DenseNet-121架构：k=32，与上表中"DenseNet-121"有所差异

(1).输入层(Input)：图像大小为224*224*3。

(2).卷积层Convolution+BatchNorm+Scale+ReLU：使用64个7*7的filter，stride为2，padding为3，输出为112*112*64，64个feature maps。

(3).Pooling：最大池化，filter为3*3，stride为2，padding为1，输出为57*57*64，64个feature maps。

(4).Dense Block1：输出为57*57*(64+32*6)=57*57*256，256个feature maps。

连续6个Dense Block，每个Dense Block包含2层卷积，卷积kernel大小依次为1*1、3*3，在卷积前进行BatchNorm+Scale+ReLU操作，第1、2个卷积输出feature maps分别为128、32。因为k=32，所以每个Dense Block输出feature maps数会比上一个Dense Block多32。每个Dense Block后做Concat操作。

(5).Transition Layer1：输出为29*29*128，128个feature maps。

A.BatchNorm+Scale+ReLU+1*1 conv，输出57*57*128。

B.平均池化，filter为2*2，stride为2，输出29*29*128。

(6).Dense Block2：输出为29*29*(128+32*12)=29*29*512，512个feature maps。

连续12个Dense Block，每个Dense Block包含2层卷积，卷积kernel大小依次为1*1、3*3，在卷积前进行BatchNorm+Scale+ReLU操作，第1、2个卷积输出feature maps分别为128、32。因为k=32，所以每个Dense Block输出feature maps数会比上一个Dense Block多32。每个Dense Block后做Concat操作。

(7).Transition Layer2：输出为15*15*256，256个feature maps。

A.BatchNorm+Scale+ReLU+1*1 conv，输出29*29*256。

B.平均池化，filter为2*2，stride为2，输出15*15*256。

(8).Dense Block3：输出为15*15*(256+32*24)=15*15*1024，1024个feature maps。

连续24个Dense Block，每个Dense Block包含2层卷积，卷积kernel大小依次为1*1、3*3，在卷积前进行BatchNorm+Scale+ReLU操作，第1、2个卷积输出feature maps分别为128、32。因为k=32，所以每个Dense Block输出feature maps数会比上一个Dense Block多32。每个Dense Block后做Concat操作。

(9).Transition Layer3：输出为8*8*512，512个feature maps。

A.BatchNorm+Scale+ReLU+1*1 conv，输出15*15*512。

B.平均池化，filter为2*2，stride为2，输出8*8*512。

(10).Dense Block4：输出为8*8*(512+32*16)=8*8*1024，1024个feature maps。

连续16个Dense Block，每个Dense Block包含2层卷积，卷积kernel大小依次为1*1、3*3，在卷积前进行BatchNorm+Scale+ReLU操作，第1、2个卷积输出feature maps分别为128、32。因为k=32，所以每个Dense Block输出feature maps数会比上一个Dense Block多32。每个Dense Block后做Concat操作。

(11).Classification Layer：

A.平均池化：filter为8*8，stride为1，padding为0，输出为1*1*1024，1024个feature maps。

B.卷积：kernel大小为1*1，输出1000个feature maps。

C.输出层(Softmax)：输出分类结果，看它究竟是1000个可能类别中的哪一个。

可视化结果如下图所示：

GitHub：https://github.com/fengbingchun/NN_Test

经典网络DenseNet介绍相关推荐

经典网络GoogLeNet介绍
经典网络GoogLeNet由Christian Szegedy等于2014年提出,论文名为<Going deeper with convolutions>,论文见:https://arxi ...
经典网络AlexNet介绍
AlexNet经典网络由Alex Krizhevsky.Hinton等人在2012年提出,发表在NIPS,论文名为<ImageNet Classification with Deep Convo ...
经典网络VGGNet介绍
经典网络VGGNet(其中VGG为Visual Geometry Group)由Karen Simonyan等于2014年提出,论文名为<Very Deep Convolutional Netw ...
经典网络ResNet介绍
经典网络ResNet(Residual Networks)由Kaiming He等人于2015年提出,论文名为<Deep Residual Learning for Image Recognit ...
经典网络LeNet-5介绍及代码测试(Caffe, MNIST, C++)
LeNet-5:包含7个层(layer),如下图所示:输入层没有计算在内,输入图像大小为32*32*1,是针对灰度图进行训练和预测的.论文名字为" Gradient-Based Learni ...
综述 | 语义分割经典网络及轻量化模型盘点
点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达基于图像的语义分割又被理解为密集的像素预测,即将每个像素进行分类, ...
「图像分类」从数据集和经典网络开始
https://www.toutiao.com/i6715367170378826248/ 欢迎大家来到图像分类专栏,本篇简单介绍数据集和图像分类中的经典网络的进展. 作者 | 郭冰洋编辑言有三 ...
2.2 经典网络-深度学习第四课《卷积神经网络》-Stanford吴恩达教授
←上一篇 ↓↑ 下一篇→ 2.1 为什么要进行实例探究? 回到目录 2.3 残差网络经典网络 (Classic Networks) 这节课,我们来学习几个经典的神经网络结构,分别是LeNet-5.A ...
一网打尽深度学习之卷积神经网络的经典网络（LeNet-5、AlexNet、ZFNet、VGG-16、GoogLeNet、ResNet）
看过的最全最通俗易懂的卷积神经网络的经典网络总结,在此分享,供更多人学习. 一.CNN卷积神经网络的经典网络综述下面图片参照博客:http://blog.csdn.net/cyh_24/articl ...
【图像分类】从数据集和经典网络开始
欢迎大家来到图像分类专栏,本篇简单介绍数据集和图像分类中的经典网络的进展. 作者 | 郭冰洋编辑言有三 1 简介一场完美的交响乐演出,指挥家需要充分结合每位演奏者和乐器的特点,根据演奏曲目把控 ...

经典网络DenseNet介绍

经典网络DenseNet介绍相关推荐

最新文章

热门文章