经典CNN网络:DenseNet
前言
DenseNet和ResNet的思路类似,目的都是减轻梯度消失等深度学习中常见的一些问题。论文中写出DenseNet采用的是密集连接的方式,初次看还不太能理解,但是又感觉有点熟悉(突然想到了RNN中的LSTM结构),我认为密集连接通俗一点讲,就是联系上下文(英语考试中遇到不认识的单词,可以联系上下文进行猜测,应该是类似的)。
DenseNet结构简图
每一层的输入与前面层都有关系,应该说是联系上文吧。
DenseNet完整结构图
这里以DenseNet-121为例:
- Dense Block主要是1*1和3*3的卷积层组成,每一块分别重复6/12/24/16次,提取特征图
- 每一块后接上pooling层积进行下采样
- 具体的输入和输出看下面的图(图片来自https://blog.csdn.net/weixin_31852627/article/details/112111904)和表格,重点关注通道数的变化(通道数的变化不容易理解)
图片和表格的解释:
- 输入图片经过一次卷积和池化后变成56*56的尺寸,而最后的输出通道为32+32=64
- 经过Dense_Block_1的6次卷积,通道数变成64+32*6=256,经过1*1卷积调整通道数,2*2池化 进行下采样,最后输出为28*28*128
- 经过Dense_Block_2的12次卷积,通道数变成128+32*12=512,经过1*1卷积调整通道数,2*2池化 进行下采样,最后输出为28*28*256
- 经过Dense_Block_3的24次卷积,通道数变成256+32*25=1024,经过1*1卷积调整通道数,2*2池化 进行下采样,最后输出为14*14*512
- 经过Dense_Block_4的16次卷积,通道数变成512+32*12=1024,经过7*7卷积调整通道数,最后输出为1*1*1024
经典CNN网络:DenseNet相关推荐
- 迁移学习篇之如何迁移经典CNN网络-附迁移学习Alexnet,VGG,Googlenet,Resnet详细代码注释和方法-pytorch
鸽了好久的迁移学习篇学习终于打算更新,这次我们来学习一个机器学习中经典常用的简单快速提高网络指标的trick,迁移学习,迁移学习本身是机器学习中的一个trick,但是近些年在深度学习中应用广泛.之前我 ...
- 四大经典CNN网络技术原理
AI科技评论按:2017年2月28日下午3点,<TensorFlow实战>作者黄文坚做客[硬创公开课],为我们讲解了关于四大经典CNN网络:AlexNet.VGGNet.Google In ...
- 从零开始的深度学习(一) 经典CNN网络 LeNet-5
从零开始的深度学习(一) 经典CNN网络 LeNet-5 之前的四篇博客围绕着一个大作业项目来进行的入门,由于小白初涉,因此行文中有时侧重于某些并不重要的东西,同时也忽略了许多其实蛮重要的东西,再加上 ...
- cnn stride and padding_经典CNN网络解析
NIN网络-Network In Networkblog.csdn.net 梦里寻梦:(四十二)通俗易懂理解--CNN网络框架演进:LeNet至DenseNetzhuanlan.zhihu.com ...
- 图像分类网络-经典CNN网络简介
在CNN网络结构的演化上,出现过许多优秀的CNN网络,CNN的经典结构始于1998年的LeNet,成于2012年历史性的AlexNet,从此大盛于图像相关领域,主要包括: 发展历史:Lenet --& ...
- 【深度学习系列】用PaddlePaddle和Tensorflow实现经典CNN网络AlexNet
上周我们用PaddlePaddle和Tensorflow实现了图像分类,分别用自己手写的一个简单的CNN网络simple_cnn和LeNet-5的CNN网络识别cifar-10数据集.在上周的实验表现 ...
- 经典卷积网络——DenseNet代码实现
题目:Densely Connected Convolutional Networks 论文地址:https://arxiv.org/pdf/1608.06993.pdf 常见的卷积网络结构对比: ...
- CNN经典分类网络发展历程GoogLeNet、SqueezeNet、ResNet、ResNeXt、DenseNet
本篇博文主要介绍2015年之后出现的经典分类网络的发展历程,前期经典分类网络网上有很多解析,主要包括LeNet.AlexNet.VGG等. 本篇博文主要介绍GoogLeNet.SqueezeNet.R ...
- 41_经典卷积网络、LeNet、AlexNet、VGG、GoogleNet、ResNet、NIN、DenseNet、EfficientNet、MobileNetV1/2/3、SENet等
1.38.经典卷积网络 1.38.1.LeNet 1.38.1.1.介绍 1.38.1.2.网络结构 1.38.1.3.代码实现 1.38.2.AlexNet 1.38.2.1.介绍 1.38.2.2 ...
最新文章
- JDBC实例--工具类升级,使用Apache DBCP连接池重构DBUtility,让连接数据库更有效,更安全...
- 一图胜千言!数据可视化多维讲解
- nginx伪装user-agent等
- 十问十答 Ms-PL 许可证
- 一个简单的时间轴demo
- 【转】Git Shell 基本命令(官网脱水版)
- 05设计模式——抽象工厂模式
- 通过MySQL自动同步刷新Redis
- Exchange Server 2016 独立部署/共存部署 (八)—— 边缘角色服务器
- javascript实现计算器
- Mantis 安装与配置及使用
- python实现超级玛丽小游戏(动图演示+源码分享)
- 金彩教育:高转化详情页怎么优化
- 7.3 使用“设计视图”创建报表
- Kong 优雅实现微服务网关鉴权,登录场景落地实战篇
- python--爬虫--获取和解析存储网页内容--以薄荷网为例
- matlab限幅滤波法,几种常用的滤波方法
- JS -制作随机点名册案例
- 深信服上网行为管理——仅用户访问某个特定网站,其他行为拒绝策略
- 如何提高自己的语言表达能力?