神经网络：测试集的loss不降，杂乱无章解决方法

训练集的loss有下降，但测试集的loss杂乱无章。

试了很多种方法，包括调整参数batch_size，learning_rate，dropout随机失活层的比率，loss都没有任何改善。

！！！调整数据的排序。在抽取训练数据和测试数据时，要先将数据和标签对应打乱，再对其进行抽取，此时测试集的loss有下降。

下方附图为没有打乱数据，按比例直接抽取数据进行训练得到loss：

下方附图为打乱数据后再按比例抽取数据得到loss：

虽然效果不很好，但test的loss是下降的，后续继续找问题调程序！

神经网络：测试集的loss不降，杂乱无章解决方法相关推荐

深度学习 loss不下降的解决方法，最全
当我们训练一个神经网络模型的时候,我们经常会遇到这样的一个头疼的问题,那就是,神经网络模型的loss值不下降,以致我们无法训练,或者无法得到一个效果较好的模型.导致训练时loss不下降的原因有很多 ...
kafka集群中常见错误的解决方法：kafka.common.KafkaException: Should not set log end offset on partition
kafka集群中常见错误的解决方法:kafka.common.KafkaException: Should not set log end offset on partition 参考文章: (1)k ...
提示请插入多卷集的最后一张磁盘解决方法
今天插上U盘就弹出了一个窗口提示请插入多卷集的最后一张磁盘解决方法我点确定之后他继续弹出,点取消它也继续弹出,关掉一个又弹出来一个,有时候电脑硬盘读不出来,就是用着U盘的时候,过不久,硬盘全部不 ...
神经网络测试集loss不下降_【NLP高频面试题】神经网络及其优化
什么样的数据不适合用神经网络学习? 数据集太小,因为神经网络有效的关键就是大量的数据,有大量的参数需要训练,少量的数据不能充分训练参数. 数据集没有局部相关性.目前深度学习应用的领域主要是图像.语音. ...
神经网络中的过拟合的原因及解决方法、泛化能力、L2正则化
过拟合:训练好的神经网络对训练数据以及验证数据拟合的很好,accuracy很高,loss很低,但是在测试数据上效果很差,即出现了过拟合现象. 过拟合产生的原因: (1)数据集有噪声 (2)训练数据不足 ...
目标检测--RFBNet训练自己制作数据集出现loss=nan问题的解决方法
之前用RFBNet进行目标检测,采用的数据集是VOC2007和VOC2012.最近用在自己的数据集进行训练,由于我的数据集格式跟VOC格式不一样,根据网上的经验,我就开始将自己的数据集制作成VOC格式 ...
神经网络测试集loss不下降_代码实践 | 全连接神经网络回归---房价预测
学习目录阿力阿哩哩:深度学习 | 学习目录zhuanlan.zhihu.com 前面我们介绍了: 阿力阿哩哩:深度学习开端|全连接神经网络zhuanlan.zhihu.com 4.7代码实践 & ...
mysql 当前记录集不支持书签_关于使用视图进行分页时出现当前记录集不支持书签的错误解决方法及原因（asp）...
一般在使用视图进行查询时,视图中意般都关联了两个或者更多个表,一般在这种情况下才会使用视图,但是但我在使用视图来查询数据时没有问题,但是一旦在分页中使用到视图进行查询就会出现错误提示如下: ADODB ...
ping命令一直测试网络丢包原因及处理解决方法
所谓的网络丢包是我们在使用ping对目站进行询问时,数据包由于各种原因在信道中丢失的现象.ping 使用了ICMP 回送请求与回送回答报文.ICMP 回送请求报文是主机或路由器向一个特定的目的主机发出 ...

神经网络：测试集的loss不降，杂乱无章解决方法

神经网络：测试集的loss不降，杂乱无章解决方法相关推荐

最新文章

热门文章