网络训练结果无法复现

设置随机种子

应该为torch, numpy,以及Python设置随机种子，并提高torch卷积精度。

def set_seed(seed):random.seed(seed)np.random.seed(seed)os.environ['PYTHONHASHSEED'] = str(seed)torch.manual_seed(seed)torch.cuda.manual_seed(seed)torch.cuda.manual_seed_all(seed)torch.backends.cudnn.deterministic = Truetorch.backends.cudnn.benchmark = False

设置随机种子之后，仍然发现训练结果不同？考虑是数据采样的问题

背景：数据集需要对数据进行随机采样。从全体数据中随机sample得到部分作为训练测试数据。

踩坑：在DataLoader中，num_worker会影响在已经设置好的随机种子下，对数据的采样结果，导致每次拿到的数据均不同。

解决方法： 删除num_worker.

原始：相同seed下，每次提取的数据都不一致。

trainLoader = DataLoader(dataset, batch_size=10, shuffle=True, num_worker=1)

修改：相同seed下，每次随机得到的数据一致。

trainLoader = DataLoader(dataset, batch_size=10, shuffle=True)

实验对比发现，即使num_worker=1，仍然会导致无法复现。原因分析，num_worker是用于数据提取的多线程数，多线程情况下线程同步问题会导致随机种子在多次实验中波动。删除num_worker即可。

设置随机种子之后，网络训练结果仍然不同的解决方法（针对随机采样的数据集）torch设置随机种子，num_worker对数据采样的影响。相关推荐

Hyper-V虚拟机win7网络红叉，无法上网解决方法
之前一直都是玩Vmware虚拟机,后来win8之后的系统有Hyper-V虚拟机就开始接触了. Windows 中内置的Hyper-V管理器可以说是给很多人带来了惊喜!至少运行的流畅程度要比Vmware ...
笔记本网络计算机和设备不可见,xp电脑不显示无线网络的七种原因和解决方法...
xp纯净版系统电脑打开后发现桌面右下角不显示无线网络,如果要设置无线网络都不知道从哪里下手,这到底是怎么回事?造成xp系统不显示无线网络的原因有很多种,下面和大家讲解一下xp电脑不显示无线网络的七种原 ...
台式计算机突然连接不到网络,电脑突然网络感叹号导致不能上网的解决方法
相信平时使用电脑的时候都遇到过电脑突然网络感叹号导致不能上网的问题,对于新手的你肯定会不知所措了.那么我们要如何解决该问题呢?下面装机之家分享一下电脑突然网络感叹号导致不能上网的解决方法,如果你遇到相 ...
计算机到多重网络,windows7多重网络无法连接到internet最佳解决方法
我们在启动完win7系统之后,都是需要进行本地连接宽带之后才能够正常上网,然而在连接网络偶尔也会出现一些问题,例如有的用户就会出现多重网络无法连接到internet的情况,那么面对这种现象我们应该要怎 ...
Win10网络102错误代码该怎么办?360浏览器网络连接错误错误代码 102的解决方法
在WIn10系统中使用360安全浏览器的用户反应无法打开网页,提示网络连接错误错误代码 102 该怎么办?在我们使用360浏览器的时候遇到这样的问题可能是网卡亦有可能是网络需要重置或是spl出错所引 ...
xp系统总是弹出宽带连接服务器,windowsXP系统网络出现“正在连接”问题的解决方法...
windowsXP系统网络出现"正在连接"问题的解决方法发布时间:2013-06-17 10:10:06 作者:佚名我要评论 windowsXP下网络出现"正 ...
VMware安装windows 系统上提示网络上有重名的解决方法
VMware安装windows 系统上提示网络上有重名的解决方法标签: virtual pc 网络上有重名虚拟机 vpc nat共享连接杂谈分类: 电脑知识装了vmware 新建---添加一 ...
2008服务器看不见无线图标,Win7系统无线网络图标消失不见两种解决方法
Win7系统无线网络图标消失不见两种解决方法介绍给大家,随着无线网络的普及,家庭.公众场所都开始使用无线网络.使用过程中会遇到一些故障问题,最近有用户发现无线网络消失不见了,无法连接网络上网,遇到这样 ...
android系统应用网络不可用,华为mate30pro 5G版应用提示当前网络不可用的原因及解决方法...
华为mate30pro 5G版应用提示无网络连接什么原因?有网友反应,自己的华为mate30pro 5G版手机打开某些app后会提示"无网络连接"或者"当前网络不可用&q ...

设置随机种子之后，网络训练结果仍然不同的解决方法（针对随机采样的数据集）torch设置随机种子，num_worker对数据采样的影响。

网络训练结果无法复现

设置随机种子

设置随机种子之后，仍然发现训练结果不同？考虑是数据采样的问题

设置随机种子之后，网络训练结果仍然不同的解决方法（针对随机采样的数据集）torch设置随机种子，num_worker对数据采样的影响。相关推荐

最新文章

热门文章