损失率下降，但是准确率却提升慢或准确率结果不高
问题原因：
- 学习率设置太高，一个epoch直接收敛，所以损失不会下降。又没有设置防止过拟合的比如学利率一开始设置为1，因为下降太快，那么很有可能在一个epoch旧完全收敛。所以看到的validation数值并不下降，第一个epoch就已经处于谷底了。
- 最常见的原因：过拟合。主要包括：数据量小，网络复杂，
- learning rate 比较高，又没有设置任何防止过拟合的机制
解决方法：
- 简化模型，且进行数据增强，如：翻转，平移，随机裁剪等
- 利用 dropout层
- 利用正则化normalization
- 没有在分验证集之前打乱数据
- 数据和标签没有对上
- 训练数据太少，validation数据太多，类别也太多，解决方法：1.使用别的大的数据集预训练； 2.使用数据增强； 3.可以考虑迁移学习
- 使用预训练的权重，比较流行的backone网络，如vgg16等都有在imagenet数据集预训练的权重，使用这种权重，效果更好。
- 网络结构有问题。可以通过使用现在流行的网络（resnet，unet等）替入你的代码，如果结果没有问题，你的结果有问题那么肯定就是你网络结构出问题了。那么可以通过逐层注释掉排查究竟哪里出了问题。
- 网络最后一层没有使用正确的激活函数，比如多类别数据的应该使用softmax进行处理；
- relu处理后面是softmax。有一些说法是relu由于对于很大的数值直接复制，所以会对softmax产生不好的影响，从而输出不好的结果。所以可以使用tanh代替relu。
- batch normalization需要batch size至少16张
- 可能设置了一些参数是不可训练的。在训练语句之前，检查以下你的trainable参数，是否设置了一些参数是不可训练的。
损失率下降，但是准确率却提升慢或准确率结果不高相关推荐
- 微软亚洲研究院等提出CNN训练新方法RePr，准确率显著提升
今天为大家带来的论文导读是由布兰迪斯大学和微软亚洲研究院所提出的RePr--专为卷积神经网络所设计的训练方法.该方法通过对滤波器的重要性进行排序,对网络进行修剪,并迭代训练完整网络和子网络,提升网络表 ...
- 网站排名下降要如何优化提升排名呢
对于网站建设,SEO优化是非常重要的,网站在搜索引擎中出现的位置是很关键的,排名越靠前越好.那么,搜索排名下降要如何优化提升排名呢?接下来小编就跟大家分享下常用的网站搜索排名优化技巧,一起来看看吧! ...
- linux 输入法 高分屏,支持高分屏 提升生僻字准确率 搜狗五笔输入法重大更新
原标题:支持高分屏 提升生僻字准确率 搜狗五笔输入法重大更新 对于习惯使用拼音输入法的大多数用户来讲,五笔输入是需要强制记忆字根,通过练习才能掌握的输入法,它显得有些过时.甚至不少输入法厂商已经放弃了 ...
- 软件缺陷智能分析技术(3) - 提升SZZ的准确率
软件缺陷智能分析技术(3) - 提升SZZ的准确率 上一节我们介绍了在即时缺陷分析领域里有开创意义的SZZ算法.尽管用直觉都能感受到SZZ算法有诸多需要改进之处,但是目前这仍然是即时缺陷分析的基础方法 ...
- 人脸识别准确率大幅度提升
根据 NIST 2018年发布的成绩,目前全球最好人脸识别技术水平为千万分之一误报下的识别准确率接近 99%(yitu-001),这意味着受限场景下,在千万分位误报上,人类已经将机器的人脸识别能力推向 ...
- 《转载》工作5年左右的程序员如何在职业瓶颈期内快速提升自己的身价？提升后如何有效变现自己的高质量技能？...
工作5年左右的程序员如何在职业瓶颈期内快速提升自己的身价?提升后如何有效变现自己的高质量技能? 当一般的程序员工作5年左右后,往往会遇到事业上的一个瓶颈期:能力上已经达到高级开发,工资比上不足比下有余 ...
- 准确率不变 损失率下降_最新斯诺克排名奥沙利文排在第二，丁俊晖排第十，第一保持不变...
随着2020-2021赛季冠军联赛决赛落下战幕,世界斯诺克最新的排名也有所变动.目前英格兰选手贾德·特鲁姆普以1699500英镑依然占据第一位.而在冠军联赛决赛以3-1的比分击败贾德·特鲁姆普的凯伦· ...
- cnn 准确率无法提升_清华类脑芯片再登Nature: 全球首款基于忆阻器的CNN存算一体芯片...
传统计算架构中计算与存储在不同电路单元中完成,造成大量数据搬运功耗增加和额外延迟,被认为是冯·诺依曼计算架构的核心瓶颈. 人类的大脑却并非如此,而是直接在记忆体里计算.被认为具有「存算一体」潜力的忆阻 ...
- 准确率可提升50%以上，Facebook用迁移学习改进代码自动补全
视学算法报道 转载自:机器之心 编辑:陈萍.杜伟 来自 Facebook 的研究团队将迁移学习用于代码自动补全,提出的方法在非常小的微调数据集上提高 50% 以上的准确率,在 50k 标记示例上提高了 ...
最新文章
- java out.write ie8_整理一下最近遇到的ie8兼容问题
- python 将txt 表格转化为excel
- POJ 2653 Pick-up sticks 判断线段相交
- 数字图像处理技术详解程序_大学专业详解系列135——数字媒体技术（工学学士）...
- c++ 中extern C 及#ifdef __cplusplus的作用
- PMP读书笔记(第8章)
- 烂泥：mysql数据库使用的基本命令
- 数据结构之图：加权无向图与寻找最小生成树，Python——27
- java atd_Java字符串String详解
- iec60870-5-104通讯协议编程_三菱FX编程口通讯协议1——协议解读
- 阿里云三代掌门人首次同台，共叙云计算十年风云路！
- 浅谈==和equals
- 游戏对战平台--吃货大作战
- FGSM攻击机器学习模型
- 运筹学 $5约束极值
- Typora安装教程
- m227fdw恢复出厂设置_惠普M227fdw说明书
- 【每日力扣10】有效的数独
- Revit 项目基点和测量点
- ipad分屏功能怎么开启_iPad 重大更新！14个新功能，每个都很实用