吴恩达神经网络和深度学习-学习笔记-31-池化层
池化层的作用:
- 缩减模型的大小,提高运算速度
- 提高所提取特征的鲁棒性
池化层只是计算神经网络某一层的静态属性,没有需要学习的参数。
最大池化
最大池化的实际作用就是:
如果在过滤器中提取到某个特征,那么保留其最大值。如果没有提取到这个特征,可能相应部分不存在这个特征。
必须承认,人们使用最大池化的主要原因是其在很多试验中效果都很好。尽管刚刚描述的直观理解经常被引用,I don’t know if anyone fully knows if that’s the real underlined reason that max pooling works well in confidence.
其中一个有意思的特点是:它有一组超参数,但是没有参数需要学习。
计算池化层输出维度的公式与卷积层一致
另外,大部分情况下,MaxPooling很少用到Padding。
平均池化
在神经网络中,最大池化要比平均池化用的更多。
小结
上图有两个重点:
- 输出维度的计算。
- 不用Padding,没有需要更新的参数。
吴恩达神经网络和深度学习-学习笔记-31-池化层相关推荐
- 吴恩达神经网络与深度学习——深度神经网络
吴恩达神经网络与深度学习--深度神经网络 深度神经网络 符号 前向传播 矩阵维度 m个样本 为什么使用深层表示 搭建深层神经网络块 正向传播和反向传播 前向和反向传播 前向传播 反向传播 参数和超参数 ...
- 吴恩达神经网络和深度学习
[前言] 在学习了深度学习和神经网络之后,为什么我要以博客的形式来做笔记?这CSDN有那么多的优秀文章,我自己写的都比不上 别人的我写的真的有意义吗,为什么我要浪费大量的时间去做这项工作?我相信一句话 ...
- 吴恩达神经网络与深度学习——浅层神经网络
吴恩达神经网络与深度学习--浅层神经网络 神经网络概述 神经网络表示 计算神经网络的输出 m个样本的向量化 for loop 向量化 向量化实现的解释 激活函数 sigmoid tanh函数 ReLu ...
- 吴恩达神经网络和深度学习-学习笔记-38-使用开源的方案+迁移学习+数据增强data augmentation
使用别人的开源成果 想要用现成的网络,最好在网络上找到开源的实现,这要比从头开始实现快得多. 比如:直接在Google上搜索resnets github,找到合适的后点击下载会得到URL,然后在cmd ...
- 吴恩达神经网络和深度学习-学习笔记-28-端到端的深度学习(end-to-end deep learning )
深度学习最令人振奋的最新动态之一,就是端到端深度学习end-to-end deep learning的兴起. 什么是"端到端深度学习" 以前有一些数据处理系统或学习系统,它们需要多 ...
- 吴恩达神经网络和深度学习-学习笔记-8-梯度消失与爆炸 + 梯度检测
梯度消失与爆炸 介绍 直观理解是: 权重W只比1(即单位矩阵)大一点,深度神经网络的激活函数将爆炸式增长. 权重W只比1(即单位矩阵)小一点,深度神经网络的激活函数将指数式递减. 虽然我(吴恩达老师) ...
- 吴恩达-神经网络和深度学习课程-学习心得(一)
前言: 陆陆续续学完了吴恩达老师在网易云课堂上开设的深度学习工程师微专业的部分内容(01.神经网络与深度学习,04.卷积神经网络,02.改善深层神经网络),在进一步应用实践之前,对之前的学习的内容做个 ...
- 吴恩达神经网络和深度学习-学习笔记-39-计算机视觉现状
Data vs hand-engineering 你可以把大部分的机器学习问题看成是在你的数据相对较少的地方,应用到你拥有大量数据的地方. 我们今天有相当数量的语音识别数据,至少相对于这个问题的复杂性 ...
- 吴恩达神经网络和深度学习-学习笔记-22-误差分析
单一误差分析 假设我们面对一个猫分类器的准确率不够的原因. 队友看了一下算法分类出错的例子,注意到算法将一些够狗分类为猫. 在这种条件下,我们应不应该做一个项目专门处理狗?比如搜集更多的狗的图片,或者 ...
- 吴恩达神经网络和深度学习-学习笔记-21-何时该改变开发集+测试集或指标
需要我们改变开发集+测试集或指标的情况,是现有的指标或开发测试集并不能帮助我们选择出最好的模型! 如果你的评估指标,无法正确评估好算法的排名,那么就需要花时间定义一个新的评估指标. (加权来排除某一类 ...
最新文章
- 澎思科技马原:AI安防竞争还未结束,落地进入后发优势时代 | MEET2020
- 【Android】android开发之splash闪屏页的四种实现方式,启动页的实现教程。
- linux:scp命令
- SAP Spartacus RouteGuard路由守卫之CmsPageGuard
- winform 以不规则图形背景显示窗体
- 分布式数字签名令牌TokenProvider
- VB6-改造ComUnit(免除用例名称注册)
- (PPT)Linux服务器基础
- 【SpringBoot】整合jdbc
- android 电视安装apk,给一切安卓智能电视安装第三方软件市场
- [渝粤教育] 武汉大学 唐诗艺术 参考 资料
- PYTHON-音视频合并方法
- poscms-说明文档
- TikTok账号运营:零播放、被限流的3大原因,手把手教你检测技巧和处理方法
- 深度学习优化算法的总结与梳理(从 SGD 到 AdamW 原理和代码解读)
- 百万调音师—Audition 压缩效果器
- 为什么硬盘插在计算机上不显示,硬盘插在电脑上不显示怎么办
- android str 字幕文件,视频显示字幕(解析srt文件)
- U盘修复工具哪个好?7款u盘低级格式化工具PK
- 西门子s7 200smart与台达变频器通讯 目标:用触摸屏和西门子smart 控制变频器通讯
热门文章
- python必备基础代码-【Python基础系列】常见的数据预处理方法(附代码)
- 语音识别算法研究及实现.doc
- HTTP协议详细介绍~超详细
- 线上阿里云mysql慢_MySQL · 案例分析 · RDS MySQL线上实例insert慢常见原因分析-阿里云开发者社区...
- 【链表】判断一个链表是否是回文链表
- [python 笔记]:序列详解:字符串,列表,元组,range对象
- 信号与系统sa函数求积分_胡昉祖《导数的概念》和《定积分》
- javascrip执行字符串里面的函数
- SSO单点登录之同域登录的实现
- 【BZOJ2296】随机种子(构造)