2.5 网络中的网络以及 1×1 卷积(Network in Network and

1×1 convolutions

其中一个比较有帮助的想法是使用 1×1 卷积。过滤器为 1×1,这里是数字 2,输入一张 6×6×1 的图片,然后对它做卷积,起过滤器大小为 1×1×1,结果相当于把这个图片乘以数字 2,所以前三个单元格分别是 2、4、6 等等。用 1×1 的过滤器进行卷积,似乎用处不大,只是对输入矩阵乘以某个数字。但这仅仅是对于6×6×1 的一个通道图片来说,1×1 卷积效果不佳。

如果是一张 6×6×32 的图片,那么使用 1×1 过滤器进行卷积效果更好。具体来说,1×1 卷积所实现的功能是遍历这 36 个单元格,计算左图中 32 个数字和过滤器中 32 个数字的元素积之和,然后应用 ReLU 非线性函数

它是这个输入层上的某个切片,用这 36 个数字乘以这个输入层上 1×1 切片,得到一个实数,像这样把它画在输出中。这个 1×1×32 过滤器中的 32 个数字可以这样理解,一个神经元的输入是 32 个数字(输入图片中左下角位置 32 个通道中的数字),即相同高度和宽度上某一切片上的 32 个数字,这 32 个数字具有不同通道,乘以 32 个权重(将过滤器中的 32 个数理解为权重),然后应用 ReLU 非线性函数,在这里输出相应的结果。

举个 1×1 卷积的例子,相信对大家有所帮助,这是它的一个应用。

假设这是一个 28×28×192 的输入层,你可以使用池化层压缩它的高度和宽度,这个过程我们很清楚。但如果通道数量很大,该如何把它压缩为 28×28×32 维度的层呢?你可以用 32个大小为 1×1 的过滤器,严格来讲每个过滤器大小都是 1×1×192 维,因为过滤器中通道数量必须与输入层中通道的数量保持一致。但是你使用了 32 个过滤器,输出层为 28×28×32,这就是压缩通道数(

2.5-2.7 1×1 卷积 Inception 吴恩达 第四门课 卷积神经网络 第二周 深度卷积网络相关推荐

  1. 吴恩达deeplearning.ai系列课程笔记+编程作业(11)第四课 卷积神经网络-第二周 深度卷积网络:实例探究(Deep convolutional models: case studies)

    第四门课 卷积神经网络(Convolutional Neural Networks) 第二周 深度卷积网络:实例探究(Deep convolutional models: case studies) ...

  2. 吴恩达深度学习课程之第四门课 卷积神经网络 第二周 深度卷积网络

    本文参考黄海广主编针对吴恩达深度学习课程DeepLearning.ai <深度学习课程 笔记 (V5.1 )> 第二周 深度卷积网络 2.1 为什么要进行实例探究?(Why look at ...

  3. 深度学习笔记 第四门课 卷积神经网络 第二周 深度卷积网络:实例探究

    本文是吴恩达老师的深度学习课程[1]笔记部分. 作者:黄海广[2] 主要编写人员:黄海广.林兴木(第四所有底稿,第五课第一二周,第三周前三节).祝彦森:(第三课所有底稿).贺志尧(第五课第三周底稿). ...

  4. 3-2 Coursera吴恩达《构建机器学习项目》 第二周课程笔记-机器学习策略(2)

    上节课3-1 Coursera吴恩达<构建机器学习项目> 第一周课程笔记-机器学习策略(1)我们主要介绍了一些优化机器学习的策略和方法,包括正交化.评估指标.数据集的划分.贝叶斯错误率和可 ...

  5. 斯坦福大学(吴恩达) 机器学习课后习题详解 第二周 多变量线性回归

    多变量线性回归答案  知乎: https://zhuanlan.zhihu.com/albertwang 微信公众号:AI-Research-Studio ​ ​​ 下面是赞赏码

  6. 5-3 Coursera吴恩达《序列模型》 第三周课程笔记-序列模型和注意力机制

    上一周的课程5-2 Coursera吴恩达<序列模型> 第二周课程笔记-自然语言处理和词嵌入介绍了自然语言处理相关内容,例如词汇表征.词嵌入.嵌入矩阵和负采样等概念,以及Word2Vec和 ...

  7. 吴恩达Deeplearning.ai课程学习全体验:深度学习必备课程 By 路雪2017年8月14日 11:44 8 月 8 日,吴恩达正式发布了 Deepleanring.ai——基于 Cours

    吴恩达Deeplearning.ai课程学习全体验:深度学习必备课程 By 路雪2017年8月14日 11:44 8 月 8 日,吴恩达正式发布了 Deepleanring.ai--基于 Course ...

  8. 第二周 深度卷积网络:实例探究(Deep convolutional models: case studies)

    第二周 深度卷积网络:实例探究(Deep convolutional models: case studies) 文章目录 第二周 深度卷积网络:实例探究(Deep convolutional mod ...

  9. 【机器学习-学习笔记】吴恩达老师机器学习课的笔记(黄海广博士)

    吴恩达老师机器学习课的笔记github地址:https://github.com/fengdu78/Coursera-ML-AndrewNg-Notes,黄海广博士原创,黄海广博士也是这门课的最初翻译 ...

最新文章

  1. nmake构建Geos库
  2. 打造增长核武器:承载与创造科技公司70%价值的「网络效应」
  3. python决策树可视化_「决策树」| Part3—Python实现之可视化
  4. Yarn管理界面中Queue:root和Queue:default的区别
  5. enterprise search for Object is not enabled
  6. 五、华为鸿蒙HarmonyOS应用开发之Java开发模式下的同一个 Page 里实现页面跳转时无参(有参)传递、回值详解
  7. javacript Function parameters(函数参数)
  8. java beancomparator_xkbeancomparator
  9. Java FileOutputStream
  10. Android Multimedia框架总结(八)Stagefright框架之AwesomePlayer及数据解析器
  11. JAVA日常游玩-----用EnumMap优化代码。
  12. 计算机文献影印版,计算机网络 参考文献
  13. 最新版的Python写春联,支持行书隶书楷书,不再有缺失汉字
  14. android 开机动画xp,XP下更改开机动画
  15. 从execl表中随机抽取几行数据
  16. ARM板更改系统时期和时间
  17. MySQL数据库数据传到Excel
  18. 《禅与摩托车维修艺术》摘录(一)
  19. 硬盘数据丢失能恢复吗 硬盘数据丢失怎么找回
  20. 经典论文推导: As-Rigid-As-Possible(ARAP) Surface Modeling

热门文章

  1. 数据预处理Part4——数据离散化
  2. Unity:使用Catmull-Rom曲线创建道路模型
  3. 大数据毕业设计 机器学习文本聚类系统 - 舆情分析
  4. JS代码清除localStorage缓存
  5. C语言实现韩信点兵算法的代码
  6. matlab mdl 保存图片,simulink 仿真图如何转化成图片格式
  7. win10win11win7打印机连接共享错误0x00709打印失败错误修复工具
  8. FS TIB TEB PEB
  9. 关于BZOJ如何注册问题
  10. 二分图的最小顶点覆盖 和 最大独立集 和 最大团