2021李宏毅 机器学习 Convolutional Neural Network (CNN)
应用1:影像辨识
一张图片是一个三维的Tensor,一维是长,一维是宽,一维是channel (channel=3代表RGB的三种颜色,长和宽代表解析度,像素的数目)
模型的弹性越大,越容易过拟合。
观察一
图像中是否出现一些重要的pattern,这种pattern代表重要物件(例如鸟嘴,鸟眼,鸟爪)
一个neuron不需要去看整张图片,只需要看图片的一小部分,就足以去侦测一些关键的pattern有没有出现
第一个简化fully connected network的方式 : Receptive Filed (感受野)
Receptive Filed彼此之间可以是重叠的。
同一范围可以有多个不同的neuron。
最经典的安排方式:一般做影像辨识的时候会看所有的channel, 所以在描述一个Receptive Filed的时候,我们只讲它的宽高就行了,不用讲它的深度,因为它考虑的是全部的channel,宽高合起来叫Kernel Size, 一般Kernel Size不会设太大,3 x 3足够了,7x7,9x9就是蛮大的Kernel Size了。
一个Receptive Filed,一般会有一组一排neuron去守备它,
比如:64个或128个neuron去守备一个Receptive Filed的范围。
移动的量叫做Stride(一般设为Stride=1或2)因为我们希望Receptive Filed是有重叠的部分,为什么呢?假设Receptive Filed完全没有重叠,那有一个pattern正好出现在两个Receptive Filed的交界上面,就会变成没有任何neuron去侦测它,可能就会Miss掉这个pattern。
超出范围就去做Padding,padding就是补值,当做那个里面的值为0
观察二
同样的pattern出现在不同图片的不同区域里
第二个简化fully connected network的方式 :parameter sharing(共享参数)
不同的neuron,weight一样
两个相同receptive filed的neuron是不共享参数的
每一组Receptive Filed 都只有一组参数,这些参数叫做Filter.
Receptive Filed + parameter sharing = Convolution Layer
有用 Convolution Layer 的 neuron 就叫 Convolution Neural Network
CNN的Model的bias比较大,Model的bias大不一定是坏事
当Model的复杂度很高的时候,比较容易过拟合
Fully Connected Layer可以做各式各样的是事情,可以有各式各样的变化,但是它可能没有办法在任何特定的任务上做好
Convolution Layer是专门为影像设计的,虽然Model bias很大,但它仍可以做的很好,这个在影像上不是问题,但是在影像之外的任务,就要小心了,要看那些任务有没有影像用的特性。
2021李宏毅 机器学习 Convolutional Neural Network (CNN)相关推荐
- 卷积神经网络(Convolutional Neural Network, CNN)
卷积神经网络(Convolutional Neural Network, CNN) 目录 卷积神经网络(Convolutional Neural Network, CNN) 概述: 结构: 卷积层:
- 【翻译论文】An Architecture Combining Convolutional Neural Network (CNN) and Support Vector Machine (SVM)
[翻译论文]An Architecture Combining Convolutional Neural Network (CNN) and Support Vector Machine (SVM) ...
- 第五节 Convolutional Neural Network (CNN)
第五节 Convolutional Neural Network (CNN) 1. image classification 图像分类 首先假设输入模型的所有图片的大小都是固定的.如果图像不一样就线r ...
- 机器学习 卷积神经网络 Convolutional Neural Network(CNN)
Convolutional Neural Network(CNN)- 卷积神经网络 CNN专用在影像上的神经网络,目的是作影像辨识.影像分类,即通过输入的影像,输出影像中的内容. 对于CNN,有两种解 ...
- 卷积神经网络Convolutional Neural Network (CNN)
卷积神经网络 转载请注明:http://blog.csdn.net/stdcoutzyx/article/details/41596663 自今年七月份以来,一直在实验室负责卷积神经网络(Convol ...
- Paper翻译:《A Novel Convolutional Neural Network Based Model for Recognition and Classification of App》
论文名称:<A Novel Convolutional Neural Network Based Model for Recognition and Classification of Appl ...
- 笔记:PoseCNN:A Convolutional Neural Network for 6D Object Pose Estimation in Cluttered Scenes
PoseCNN: A Convolutional Neural Network for 6D Object Pose Estimation in Cluttered Scenes (Robotics: ...
- [Paper]Application of deep convolutional neural network for automated detection of myocardial...
*侵删 *限于博主英语水平,若翻译不当之处恳请批评指正~3Q Application of deep convolutional neural network for automated detect ...
- 李宏毅《机器学习》丨6. Convolutional Neural Network(卷积神经网络)
Author:AXYZdong 李宏毅<机器学习>系列 参考视频地址:https://www.bilibili.com/video/BV1Ht411g7Ef 参考文档:DataWhale文 ...
最新文章
- 【最佳实践】如何通过OSS的Bucket Policy设置访问授权?
- http协议之request
- 类的主动使用与被动使用等
- Debian9 安装MySQL 以及普通用户获得root权限安装sudo
- c语言控制倒车雷达系统,倒车雷达控制系统设计
- 绝地大逃杀服务器维护多少时间,绝地求生4月12日维护到几点/维护多长时间 绝地求生4.12维护什么时候好/能进游戏...
- 反转字符串的多种方式-经典面试题系列
- tp3.2 视图中U函数传变量值
- 高校学生档案管理系统(Angularjs+HTML+CSS+bootstrap)
- 应用程序无法正常启动0xc000007b问题解决
- 收集了一下WINDDOWS VISTA密码破解的方法
- VBA学习笔记之单元格
- iOS CNContactStore 与AddressBook
- dd命令创建一个大文件
- 拉卡拉做社区电商,有这些优劣势
- 你适不适合做UE交互设计师
- 国产ARM核心工控主板介绍
- c语言编程雅可比迭代法方程,雅可比迭代法解方程组的C\C++程序
- 农村产权交易服务平台二次开发html源码
- 量化:通过ta-lib计算MA5指标
热门文章
- JIRA实践系列-JIRA与teambition对接指南
- iOS手势-UIGestureRecognizer
- Mac的谷歌浏览器安装Vue.js.devtools插件
- linux条件变量cond,Linux C 条件变量cond的使用记录
- 三星s5pv210核心板全球最低价199元,尽在保定芯灵思
- 怎么看曲线有没有斜渐近线_怎样判断一个曲线有无斜渐近线
- Tomcat运行黄色叉号
- 微信小程序 - excel通过云函数导入云数据库
- 《学Unity的猫》——第十九集:皮皮猫上班第一天,认识游戏开发公司各个部门
- DOSBOX——DEBUG的简单使用