应用1:影像辨识

一张图片是一个三维的Tensor,一维是长,一维是宽,一维是channel (channel=3代表RGB的三种颜色,长和宽代表解析度,像素的数目)

模型的弹性越大,越容易过拟合。

观察一

图像中是否出现一些重要的pattern,这种pattern代表重要物件(例如鸟嘴,鸟眼,鸟爪)

一个neuron不需要去看整张图片,只需要看图片的一小部分,就足以去侦测一些关键的pattern有没有出现

第一个简化fully connected network的方式 : Receptive Filed (感受野)

Receptive Filed彼此之间可以是重叠的。

同一范围可以有多个不同的neuron。

最经典的安排方式:一般做影像辨识的时候会看所有的channel, 所以在描述一个Receptive Filed的时候,我们只讲它的宽高就行了,不用讲它的深度,因为它考虑的是全部的channel,宽高合起来叫Kernel Size, 一般Kernel Size不会设太大,3 x 3足够了,7x7,9x9就是蛮大的Kernel Size了。

一个Receptive Filed,一般会有一组一排neuron去守备它,

比如:64个或128个neuron去守备一个Receptive Filed的范围。

移动的量叫做Stride(一般设为Stride=1或2)因为我们希望Receptive Filed是有重叠的部分,为什么呢?假设Receptive Filed完全没有重叠,那有一个pattern正好出现在两个Receptive Filed的交界上面,就会变成没有任何neuron去侦测它,可能就会Miss掉这个pattern。

超出范围就去做Padding,padding就是补值,当做那个里面的值为0

观察二

同样的pattern出现在不同图片的不同区域里

第二个简化fully connected network的方式 :parameter sharing(共享参数)

不同的neuron,weight一样

两个相同receptive filed的neuron是不共享参数的

每一组Receptive Filed 都只有一组参数,这些参数叫做Filter.

Receptive Filed + parameter sharing = Convolution Layer

有用 Convolution Layer 的 neuron 就叫 Convolution Neural Network

CNN的Model的bias比较大,Model的bias大不一定是坏事

当Model的复杂度很高的时候,比较容易过拟合

Fully Connected Layer可以做各式各样的是事情,可以有各式各样的变化,但是它可能没有办法在任何特定的任务上做好

Convolution Layer是专门为影像设计的,虽然Model bias很大,但它仍可以做的很好,这个在影像上不是问题,但是在影像之外的任务,就要小心了,要看那些任务有没有影像用的特性。

2021李宏毅 机器学习 Convolutional Neural Network (CNN)相关推荐

  1. 卷积神经网络(Convolutional Neural Network, CNN)

    卷积神经网络(Convolutional Neural Network, CNN) 目录 卷积神经网络(Convolutional Neural Network, CNN) 概述: 结构: 卷积层:

  2. 【翻译论文】An Architecture Combining Convolutional Neural Network (CNN) and Support Vector Machine (SVM)

    [翻译论文]An Architecture Combining Convolutional Neural Network (CNN) and Support Vector Machine (SVM) ...

  3. 第五节 Convolutional Neural Network (CNN)

    第五节 Convolutional Neural Network (CNN) 1. image classification 图像分类 首先假设输入模型的所有图片的大小都是固定的.如果图像不一样就线r ...

  4. 机器学习 卷积神经网络 Convolutional Neural Network(CNN)

    Convolutional Neural Network(CNN)- 卷积神经网络 CNN专用在影像上的神经网络,目的是作影像辨识.影像分类,即通过输入的影像,输出影像中的内容. 对于CNN,有两种解 ...

  5. 卷积神经网络Convolutional Neural Network (CNN)

    卷积神经网络 转载请注明:http://blog.csdn.net/stdcoutzyx/article/details/41596663 自今年七月份以来,一直在实验室负责卷积神经网络(Convol ...

  6. Paper翻译:《A Novel Convolutional Neural Network Based Model for Recognition and Classification of App》

    论文名称:<A Novel Convolutional Neural Network Based Model for Recognition and Classification of Appl ...

  7. 笔记:PoseCNN:A Convolutional Neural Network for 6D Object Pose Estimation in Cluttered Scenes

    PoseCNN: A Convolutional Neural Network for 6D Object Pose Estimation in Cluttered Scenes (Robotics: ...

  8. [Paper]Application of deep convolutional neural network for automated detection of myocardial...

    *侵删 *限于博主英语水平,若翻译不当之处恳请批评指正~3Q Application of deep convolutional neural network for automated detect ...

  9. 李宏毅《机器学习》丨6. Convolutional Neural Network(卷积神经网络)

    Author:AXYZdong 李宏毅<机器学习>系列 参考视频地址:https://www.bilibili.com/video/BV1Ht411g7Ef 参考文档:DataWhale文 ...

最新文章

  1. 【最佳实践】如何通过OSS的Bucket Policy设置访问授权?
  2. http协议之request
  3. 类的主动使用与被动使用等
  4. Debian9 安装MySQL 以及普通用户获得root权限安装sudo
  5. c语言控制倒车雷达系统,倒车雷达控制系统设计
  6. 绝地大逃杀服务器维护多少时间,绝地求生4月12日维护到几点/维护多长时间 绝地求生4.12维护什么时候好/能进游戏...
  7. 反转字符串的多种方式-经典面试题系列
  8. tp3.2 视图中U函数传变量值
  9. 高校学生档案管理系统(Angularjs+HTML+CSS+bootstrap)
  10. 应用程序无法正常启动0xc000007b问题解决
  11. 收集了一下WINDDOWS VISTA密码破解的方法
  12. VBA学习笔记之单元格
  13. iOS CNContactStore 与AddressBook
  14. dd命令创建一个大文件
  15. 拉卡拉做社区电商,有这些优劣势
  16. 你适不适合做UE交互设计师
  17. 国产ARM核心工控主板介绍
  18. c语言编程雅可比迭代法方程,雅可比迭代法解方程组的C\C++程序
  19. 农村产权交易服务平台二次开发html源码
  20. 量化:通过ta-lib计算MA5指标

热门文章

  1. JIRA实践系列-JIRA与teambition对接指南
  2. iOS手势-UIGestureRecognizer
  3. Mac的谷歌浏览器安装Vue.js.devtools插件
  4. linux条件变量cond,Linux C 条件变量cond的使用记录
  5. 三星s5pv210核心板全球最低价199元,尽在保定芯灵思
  6. 怎么看曲线有没有斜渐近线_怎样判断一个曲线有无斜渐近线
  7. Tomcat运行黄色叉号
  8. 微信小程序 - excel通过云函数导入云数据库
  9. 《学Unity的猫》——第十九集:皮皮猫上班第一天,认识游戏开发公司各个部门
  10. DOSBOX——DEBUG的简单使用