tensorboard还是一个很好的工具，可以图形化看到训练模型相关的数据

SCALARS
一些指标数据的趋势图，比如accuracy，loss等
这个图比较直观，也简单易懂
下图为epoch accuracy趋势图样例
GRAPHS
model的计算图，基本反应出model中的各个layer和计算过程，

下图为model的graphs样例

HISTOGRAMS
直方图，它反馈的是每一轮batch中的参数分布情况
其中，
x轴为训练出的参数值范围，
y轴为分布出现的次数，次数越多，y轴就越高
z轴为时间轴，越往后时间越早，图上颜色就越深
DISTRIBUTIONS
分布图，它其实是直方图的俯视角度

过拟合的特征

如果对过拟合也设计一套特征，可能有如下几种

1. SCALARS双分歧

一般来说我们都会观测epoch accuracy和epoch loss，如果训练结果上这两个图的train和test存在了分歧，

epoch accuracy上validation明显低于train
epoch loss上validation明显高与train
那么可能存在了过拟合

2. HISTOGRAMS边缘化

如果从直方图来看，部分参数经过训练越发边缘化，可能也存在过拟合

【tensorboard】从tensorboard上看出模型是否存在过拟合相关推荐

如何判断LSTM模型中的过拟合和欠拟合 By 机器之心2017年10月02日 11:09 判断长短期记忆模型在序列预测问题上是否表现良好可能是一件困难的事。也许你会得到一个不错的模型技术得分，但了解
判断长短期记忆模型在序列预测问题上是否表现良好可能是一件困难的事.也许你会得到一个不错的模型技术得分,但了解模型是较好的拟合,还是欠拟合/过拟合,以及模型在不同的配置条件下能否实现更好的性能是非常重要 ...
目标检测——COCO数据集上SOTA模型的学习笔记
1 GitHub上SOTA模型(By 2020.04.22) GitHub上目前开源的SOTA模型是YOLOv5x6-TTA,:
HDRP UI上渲染模型的解决方式及常见问题
HDRP UI上渲染模型的解决方式及常见问题综述 1.RT+RawImage 2.CameraStacking/Compositor 综述这是个很常见的需求,在SRP中一般有两种方式,分别是Cam ...
yolov5-5.0训练模型+瑞芯微rv1126上实现模型部署
yolov5-5.0训练模型+瑞芯微rv1126上实现模型部署第一次接触模型训练和在开发板部署,过程曲折,从开始的一脸懵到最后模型部署成功,查阅了不少资料和学习了不少大佬的经验,在这里记录一下过 ...
不用下软件，上传模型就能直接在网页预览啦
相信很多接触过三维的小伙伴都清楚,目前大多数的三维模型网站基本都是以2D形式展示的,用户只能通过作者截取下来的不同角度视图,来观察模型. 如果用户想实现模型动态预览,就需要下载其模型文件,并拖到对应的 ...
GPT-4发布！史上最强大模型来了
Datawhale分享最新:GPT-4,来源:量子位一觉醒来,万众期待的GPT-4,它来了! OpenAI老板Sam Altman直接开门见山地介绍说: 这是我们迄今为止功能最强大的模型! 有多强 ...
【他山之石】GPT-4发布！史上最强大模型来了
来源:量子位 "他山之石,可以攻玉",站在巨人的肩膀才能看得更高,走得更远.在科研的道路上,更需借助东风才能更快前行.为此,我们特别搜集整理了一些实用的代码链接,数据集,软件,编程 ...
[pytorch、学习] - 3.11 模型选择、欠拟合和过拟合
参考 3.11 模型选择.欠拟合和过拟合 3.11.1 训练误差和泛化误差在解释上述现象之前,我们需要区分训练误差(training error)和泛化误差(generalization error ...
模型评估之过拟合与欠拟合
参考资料 <百面机器学习> 过拟合 v.s. 欠拟合过拟合是指模型对于训练数据拟合过当,就是在训练集上的表现很好,但在测试集和新数据上的表现较差. 欠拟合指的是模型在训练和预测时表现都不 ...

【tensorboard】从tensorboard上看出模型是否存在过拟合

过拟合的特征

1. SCALARS双分歧

2. HISTOGRAMS边缘化

【tensorboard】从tensorboard上看出模型是否存在过拟合相关推荐

最新文章

热门文章