对dropout的理解详细版

对dropout的理解详细版

训练的时候需要dropout，测试的时候直接去掉。
dropout可以比较有效地减轻过拟合的发生，一定程度上达到了正则化的效果。消除减弱了神经元节点间的联合适应性，增强了泛化能力。
Dropout策略在卷积隐藏层中使用较少。
如果你既不想在训练的时候，对x进行放大，也不愿意在测试的时候，对权重进行缩小(乘以概率p)。那么你可以测试n次，这n次都采用了dropout，然后对预测结果取平均值，这样当n趋近于无穷大的时候，就是我们需要的结果了。
需要测试的时候将输出结果乘以 1/1-p 使下一层的输入规模保持不变。
Dropout是一个超参，需要根据具体的网路，具体的应用领域进行尝试。
dropout达到了一种Vote的作用，减少神经元之间复杂的共适应性。

对dropout的理解详细版相关推荐

Jetson Xavier NX学习笔记（三）系统烧录+开机教程+YOLOv7环境搭建+错误总结（详细版）
Jetson Xavier NX 系统烧录+开机教程+YOLOv7环境搭建+错误总结(详细版) 文章目录 Jetson Xavier NX 系统烧录+开机教程+YOLOv7环境搭建+错误总结(详细版) ...
大数据学习路线（完整详细版）
大数据学习路线(完整详细版) 文章目录大数据学习路线(完整详细版) 大数据学习路线一.Linux 二.Hadoop 三.机器学习/R 四.storm 五.Spark 六.Python 七.云计算平 ...
Docker超详细版教程通俗易懂 -之- 入门篇
前言学习Docker,你可以熟练的操作命令,能够把你的项目构建成Docker镜像! 是后端开发人员必备的技能!下面是自己的学习笔记,希望能帮助到需要的你! 特别感谢哔哩哔哩狂神:[狂神说Java]D ...
Docker超详细版教程通俗易懂 -之- 进阶篇
此刻的你,已成功入门Docker.让我们一起继续深造(内容不难,很有意思) 容器数据卷什么是容器数据卷 docker的理念回顾:将应用和环境打包成一个镜像! 数据?如果数据都在容器中,那么我们容器删 ...
Docker02 狂神Docker视频学习笔记：【狂神说Java 哔哩哔哩】Docker最新超详细版教程通俗易懂
目录 0. 视频源 0. 学习网址基础篇 1. Docker概述 1.1 Docker为什么出现? 1.2 Docker历史 1.3 Docker能干什么 2. Docker安装 2.1 Docke ...
[免费专栏] Android安全之Android so文件分析「详细版」
也许每个人出生的时候都以为这世界都是为他一个人而存在的,当他发现自己错的时候,他便开始长大少走了弯路,也就错过了风景,无论如何,感谢经历 Android安全付费专栏长期更新,本篇最新内容请前往: [ ...
Python数据可视化之散点图(进阶篇---图文并茂详细版！！！)
散点图进阶篇数据获取数据展示数据分析 1.确定横纵坐标的选择 2.准备标签的列表与颜色 4.确定横纵坐标的值 5.绘制基础图像数据获取 •进阶散点图可视化需要大量的数据,网上有很多获取数据的来 ...
递归函数详细版（Java）
递归函数详细版及相关练习 1.递归的概念一个方法在执行过程中调用自身的过程, 就称为 "递归": 2.递归的应用场景通常应用在一个将大型的复杂问题层层转化为一个与原问题有着相同 ...
liunx服务配置详细版
本来就很麻烦,如果错了一个很有可能从新再来,非常麻烦所以要细心 (这里这个存在一定的问题,已经抛弃)请访问新的地址Linux服务器配置(详细版)_会篮球的程序猿的博客-CSDN博客_linux服务器配 ...

对dropout的理解详细版

对dropout的理解详细版相关推荐

最新文章

热门文章