Vgg16网络模型一些注意和理解(可能学习的不是非常的扎实,如果有什么问题向往指出)

  1. 为什么使用3个3*3的卷积核代替一个7*7的卷积核?

保证在有相同感知野的条件下,提升了网络的深度,在一定程度上提升了网络的效果,减少了权重参数的数量。

  1. 为什么使用1*1的卷积核?

1.为了使我们的网络更深。

2.降低维度

3.为了增加更多的非线性变换

1*1的卷积核可以结合max pooling

1*1卷积核可以设置大的步长,这样可以在丢失非常少的信息下降低数据的维度

取代fc层

Vgg整个的网络模型:

比如第一层输出为什么会得到我们的224*224*64这样的卷积输出:

就拿第一个卷积的过程来说:

我们选用的卷积核是3*3*3这样一个滤波器,然后为了使用了64个卷积核横放在一起就是我们的这样的64个卷积核((3*3*3)*64),和我们的输入图像分别卷积,然后得到相应的第一个卷积层的输出,这样就得到了我们想要的224*224*64这样一个卷积层的输出。我之前一直很不明白为什么224*224*3的输入图像经过卷积核卷积为什么会得到224*224*64,就算是选择3*3*3的滤波器也不会得到这样的输出结果。

对于第一层卷积输出到第二层卷积输出是有使用的卷积核可以看成(3*3*64)*64这样有64个分别和前一层卷积,也是得到224*224*64的第二层输出。

到了第三个卷积层输出到第四个卷积层输出我们可以看到中间有一个池化层,一开始我以为是错的,池化层会减小上一层输入的长和宽但是不会增加他的通道数,所以我们看到上面第一个红色的池化层输出是112*112*64。

实在不理解可以看看卷积的这样一个详细的过程。

这是一个输入图像和一个卷积核卷积过程的示意图 。

上面就是一个输入图像和一个

其中的几个注意点:

  1. 卷积层的作用:主要是用来进行特征的提取。

2.1全连接层的每一个结点都与上一层所有的结点相连接,用来把前边提取到的特征综合起来。由于使用全连接的特性,全连接层的参数也是最多的。第一个全连接层有4096个节点,上一层POOL2时7*7*512=25088个节点,则该层传输需要25088*4096个权值得到上图1*4096的输出结果,需要耗损很大的内存。

2.2但是对于vgg16网络模型图我们很难理解为什么在7*7*512输出的结果是1*1*4096主要是我们在训练的时候是使用的是全连接网络,但是在我们测试图片的时候,使用的却是全连接转换成卷积层使用的7*7的卷积核,这就是为什么我们的输出结果变成了1*1*4096,然后在使用1*1的卷积核这样就得到我们的最终的输出结果。

至于为什么使用卷积来代替全连接,主要是因为:

  1. 提升了计算的效率,并且减少了内存的消耗
  2. 不会限制我们的的输入图片的大小。

3.为什么我们训练的时候有三个全连接层,我的初步的了解是:

相当于我们的泰勒公式使用多项式去拟合我们的光画曲线,我们这里的一个全连接层中的一层相当于一个多项式,我们使用许多的神经元去拟合这里的数据分布,如果只有一层那就很难解决非线性的问题了。

4. CNN网络中前几层的卷积层参数量占比小,计算量占比大;而后面的全连接层正好相反,大部分CNN网络都具有这个特点。因此我们在进行计算加速优化时,重点放在卷积层;进行参数优化、权值裁剪时,重点放在全连接层。

vgg16网络模型的学习理解相关推荐

  1. 关于ATIS以及基于注意力机制的递归神经网络模型 的学习记录

    关于ATIS以及基于注意力机制的递归神经网络模型 的学习记录 此为本人学习的类笔记,主要内容为借助Google翻译机译的论文WHAT IS LEFT TO BE UNDERSTOOD IN ATIS? ...

  2. Docker镜像原理学习理解

    Docker镜像原理学习理解 一.Docker镜像的组成 1.Docker镜像图层 2.union file system 3.镜像层-bootfs 4.镜像层-rootfs 5.镜像层-依赖环境 6 ...

  3. LTE学习理解系列——TDD LTE信源指定时隙配比设置

    提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 LTE学习理解系列--TDD LTE信源指定时隙配比设置 前言 详细配置 结语 前言 目前暂时关注时隙配比的设置,因为每一种时隙配比可 ...

  4. python语言通俗理解_慢步学习,python语言编程,来扯扯语言的学习理解

    最近慢步工作比较忙,有那么一丢丢挫伤了学习的积极性.积极性受挫的另一个原因是,慢步对自己给读者提供的内容有些困惑,"我能提供什么有价值的内容?" 不断重复书籍的知识点,好像并不能生 ...

  5. 5G NR学习理解系列——时频结构及相关概念

    提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 5G NR学习理解系列--时频结构 频段 工作带宽 信道带宽 子载波间隔(SCS) SLOT长度 OFDM符号时长 采样点时长 无线帧 ...

  6. 5G NR学习理解系列——MATLAB5G信源的生成之SSB参数配置

    提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 5G NR学习理解系列--MATLAB5G信源的生成之SSB参数配置 前言 SSB参数的位置 SSB参数详细解释 信号时频图 总结 前 ...

  7. 5G NR学习理解系列——NR小区搜索的matlab仿真

    提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 5G NR学习理解系列--NR小区搜索的matlab仿真 前言 信源生成 降采样 PSS和SSS本地序列生成 相关结果 前言 既然已经 ...

  8. 5G NR学习理解系列——利用matlab工具生成5G NR信源

    提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 5G NR学习理解系列--利用matlab工具生成5G NR信源 前言 NR工具箱的使用 直接使用代码 前言 既然发现了4G LTE ...

  9. AdaBoost元算法学习理解与应用实战

    据说在Deep Learning出来之前,SVM和Adaboost是效果最好的 两个算法.上一节,我们已经学习理解了SVM,本节让我们一起学习理解Adaboost并且应用吧! 1.拟解决基本问题描述 ...

最新文章

  1. 干货 | 深度学习检测小目标常用方法
  2. SAP财务中国本土好内容
  3. 5 分钟掌握智联招聘网站爬取并保存到 MongoDB 数据库
  4. voip语音中转服务器,基于VoIP的语音应用服务器的设计与实现
  5. 磁力链接地址生成教程
  6. gitee、github使用教程
  7. java链接Kepserver报错误码[0x8001FFFF]
  8. 【程序员金典】字符串互异
  9. Android中补间动画相关知识
  10. android 生成bks_Android Https证书crt或者cer转换成bks文件
  11. 近期尝试UR5和PhantomOmni的联动仿真出现的问题
  12. 3种Flink State Backed| 你该用哪个?
  13. 一个批处理:IPC$ Password Crack---BAT
  14. 看巨人,学巨人,超巨人
  15. Win10 虚拟桌面的使用
  16. Eigen学习3:矩阵及向量运算
  17. Enterprise Library 4.1数据访问应用程序块快速入门【6】使用DataSet更新数据库
  18. LSTM预测股价的APP
  19. 硅谷AI商业化大会专题讨论:自动驾驶与智能交通的未来
  20. 条形码生成工具类实现

热门文章

  1. 2018第四届美亚杯全国电子数据取证大赛团队赛wp
  2. LeetCode--441--排列硬币
  3. 品牌方如何筛选高性价比商业UP主?拆解影响B站up主广告报价的因素
  4. PHP webshell、暴力破解
  5. win7虚拟机时间不能修改怎么办
  6. 虾皮 店铺如何获取免费流量?5种引流量办法
  7. 比较简单的初学者模仿毕业设计项目springboot人力资源管理系统.rar(项目源码+数据库文件)
  8. html 设置两个标签的相对距离_HTML 让上下两个DIV之间保持一定距离或没有距离...
  9. 历年阿里面试题汇总(2017年不断更新中)
  10. 【XGBoost】第 7 章:使用 XGBoost 发现系外行星