深度学习面试题之CNN
1、介绍下卷积操作的作用
卷积网络中的卷积核参数是通过网络训练出来的
通过卷积核的组合以及随着网络后续操作的进行,卷积操作可获取图像区域不同类型特征;基本而一般的模式会逐渐被抽象为具有高层语义的“概念”表示,也就是自动学习到图像的高层特征。
2、CNN结构特点
局部连接,权值共享,池化操作,多层次结构。
1、局部连接使网络可以提取数据的局部特征
2、权值共享大大降低了网络的训练难度,一个Filter只提取一个特征,在整个图片(或者语音/文本) 中进行卷积
3、池化操作与多层次结构一起,实现了数据的降维,将低层次的局部特征组合成为较高层次的特征,从而对整个图片进行表示。
3、CNN的特点以及优势
CNN使用范围是具有局部空间相关性的数据,比如图像,自然语言,语音
局部连接:可以提取局部特征。
权值共享:减少参数数量,因此降低训练难度(空间、时间消耗都少了)。可以完全共享,也可以局部共享(比如对人脸,眼睛鼻子嘴由于位置和样式相对固定,可以用和脸部不一样的卷积核)
降维:通过池化或卷积stride实现。
多层次结构:将低层次的局部特征组合成为较高层次的特征。不同层级的特征可以对应不同任务
4、CNN权值共享问题
首先权值共享就是滤波器共享,滤波器的参数是固定的,即是用相同的滤波器去扫一遍图像,提取一次特征,得到feature map。在卷积网络中,学好了一个滤波器,就相当于掌握了一种特征,这个滤波器在图像中滑动,进行特征提取,然后所有进行这样操作的区域都会被采集到这种特征,就好比上面的水平线。
5、什么是感受野
后一层神经元在前一层神经元的感受空间;
注意:小卷积核(如3*3)通过多层叠加可取得与大卷积核(如7*7)同等规模的感受野,此外采用小卷积核有两个优势:
1、小卷积核需多层叠加,加深了网络深度进而增强了网络容量(model capacity)和复杂度(model complexity)
2、增强了网络容量的同时减少了参数个数。
6、简单说说CNN常用的几个模型
7、CNN是什么,CNN关键的层有哪些?
CNN是卷积神经网络,其关键层有:
① 输入层,对数据去均值,做data augmentation等工作
② 卷积层,局部关联抽取feature
③ 激活层,非线性变化
④ 池化层,下采样
⑤ 全连接层,增加模型非线性
⑥ 高速通道,快速连接
⑦ BN层,缓解梯度弥散2、什么是CNN的池化pool层?
池化,简言之,即取区域平均或最大
8、pooling层作用
**增加特征平移不变性。**汇合可以提高网络对微小位移的容忍能力。
**减小特征图大小。**汇合层对空间局部区域进行下采样,使下一层需要的参数量和计算量减少,并降低过拟合风险。
**最大汇合可以带来非线性。**这是目前最大汇合更常用的原因之一。
9、卷积层和池化层有什么区别
1、卷积层有参数,池化层没有参数
2、经过卷积层节点矩阵深度会改变,池化层不会改变节点矩阵的深度,但是它可以缩小节点矩阵的大小。
10、卷积层参数数量计算方法
假设输入层矩阵维度是3,第一层卷积层使用尺寸为5∗55*55∗5、深度为16的过滤器(卷积核尺寸为5∗55*55∗5、卷积核数量为16),那么这层卷积层的参数个数为5∗5∗3∗16+16=1216个5*5*3*16+16=1216个5∗5∗3∗16+16=1216个
11、卷积层输出大小计算
卷积中的特征图大小计算方式有两种,分别是‘VALID’和‘SAME’,卷积和池化都适用,除不尽的结果都向下取整。公式**:O=(W−F+2P)/S+1O = (W-F+2P)/S+1O=(W−F+2P)/S+1,**输入图片(Input)大小为I=W∗WI=W*WI=W∗W,卷积核(Filter)大小为F∗FF*FF∗F,步长(stride)为S,填充(Padding)的像素数为P。
1、SAME填充方式:填充像素。conv2d函数常用。
2、VALID填充方式:不填充像素,Maxpooling2D函数常用。"SAME"卷积方式,对于输入5x5图像,图像的每一个点都作为卷积核的中心。最后得到5x5的结果,通俗的来说:首先在原图外层补一圈0,将原图的第一点作为卷积核中心,若一圈0不够,继续补一圈0。如下图所示:
深度学习面试题之CNN相关推荐
- Github深度学习面试题答案
Github深度学习面试题答案(一)-- 深度学习相关 本文是对于github上一篇关于无人驾驶的深度学习方面提问的 ''部分个人见解+论坛内外对该问题的解答'' 本文属于搬运+整合的笔记贴,主要是为 ...
- 深度学习 autoencoder_面试宝典之深度学习面试题(下)
点击上方"Python全家桶","星标"或"置顶" 关键时刻,第一时间送达 今天已经是三月十一号,金三银四的金三已经过了三分之一,不知道大家 ...
- 深度学习面试题——深度学习的技术发展史
深度学习面试题--深度学习的技术发展史 提示:机器学习和深度学习在大厂中可能要考的东西 <百面机器学习和百面深度学习>一书,在面试前好好看! 深度学习的三次浪潮 说说分类网络的发展 为什么 ...
- 深度学习(主要是CNN)用于图片的分类和检测总结
深度学习(主要是CNN)用于图片的分类和检测总结 2014-12-4阅读920 评论0 前言: 主要总结一下自己最近看文章和代码的心得. 1. CNN用于分类:具体的过程大家都知道,无非是卷积, ...
- 深度学习(03)-- CNN学习
文章目录 目录 1.CNN学习 2.Keras深度学习框架 目录 1.CNN学习 卷积神经网络CNN总结 从神经网络到卷积神经网络(CNN) 我们知道神经网络的结构是这样的: 那卷积神经网络跟它是什么 ...
- 系统学习深度学习(四) --CNN原理,推导及实现源码分析
之前看机器学习中,多层感知器部分,提到可以在设计多层感知器时,对NN的结构设计优化,例如结构化设计和权重共享,当时还没了解深度学习,现在看到CNN,原来CNN就是这方面的一个代表.CNN由纽约大学的Y ...
- 【深度学习】5:CNN卷积神经网络原理
前言:先坦白的说,深度神经网络的学习在一开始对我造成的困扰还是很大的,我也是通过不断地看相关的视频资料.文献讲解尝试去理解记忆.毕竟这些内容大多都是不可查的,我们看到的都只是输入输出的东西,里面的内部 ...
- 动图+独家思维导图!让你秒懂李宏毅2020深度学习(四)—— CNN(Convolutional Neural network)
动图+独家思维导图!让你秒懂李宏毅2020深度学习(四)-- CNN(Convolutional Neural network) 系列文章传送门: 文章目录 动图+独家思维导图!让你秒懂李宏毅2020 ...
- 从参数数量视角理解深度学习神经网络算法 DNN, CNN, RNN, LSTM 以python为工具
从参数数量视角理解深度学习神经网络算法 DNN, CNN, RNN, LSTM 以python为工具 文章目录 1. 神经网络数据预处理 1.1 常规预测情景 1.2 文本预测场景 2.全连接神经网络 ...
- 大厂必考深度学习面试题及参考答案
目录 一,滤波器与卷积核 二,卷积层和池化输出大小计算 2.1,CNN 中术语解释 2.2,卷积输出大小计算(简化型) 2.3,理解边界效应与填充 padding 参考资料 三,深度学习框架的张量形状 ...
最新文章
- Lint found fatal errors while assembling a release target.
- idea集成spring+spring MVC+mybatis问题
- python优雅写法
- “京东小贷” 注册资本由30亿元增至50亿元,恭喜
- 【读书笔记】iOS-属性列表
- vue从入门到进阶:自定义指令directive,插件的封装以及混合mixins(七)
- python怎么理解_讨论 - 廖雪峰的官方网站
- FinTech领域的风险控制——策略篇
- 在Windows 7中安装、配置和使用IIS7和ASP
- 国外大神整理的 2019 年 Java 权威开发路线图,Java大神养成记
- Xcode中导入文件报错
- Hadoop安装教程单机/伪分布式配置
- 如何检测浏览器是否安装了Adblock,uBlock Origin,Adguard,uBlock等广告屏蔽插件
- Win 10系统截图的7种方式【简单实用】
- R语言使用timeROC包计算存在竞争风险情况下的生存资料多时间AUC值、使用cox模型、并添加协变量、R语言使用timeROC包的plotAUCcurve函数可视化多时间生存资料的AUC曲线
- 解决viewUI中 DatePicker控件获取的日期总是少一天的问题
- java如何进行word文档的合并
- 【nestjs】Nest can‘t resolve dependencies of xxx无法解析xxx的依赖关系
- K-means 算法(基本用法)
- 全网最简单的百度网盘提速方法!!!!
热门文章
- NB-IoT使用笔记(5)在linux下用python搭建UDP转发服务器扩展NB可访问IP个数
- Oracle dbv 坏块信息,【dbv】使用dbv工具检验数据文件是否有坏块
- Java 验证码图片不加载处理办法
- java 链表 插入_Java链表中添加元素的原理与实现方法详解
- 创建自定义Excel模板
- 合成孔径雷达成像——算法与实现图【2.3】仿真——rect函数、sinc函数的傅里叶变换matlab仿真
- 计算机网络-ip地址聚合后可用的地址数
- android色温值转成rgb
- 《2019测试面试题-上海悠悠.pdf》
- ansys计算机热仿真,基于ANSYS WORKBENCH的摩擦生热分析