Learning Without Forgetting的pytorch实现

最近看了关于Zhizhong Li, Derek Hoiem的Learning without Forgetting ，在网上找了许多此方面的python代码发现运行的时候会出错。所以想着对代码做些修改能够正常运行。至于能看到这篇文章应该是对LWF有一定了解的，所以我直接放上代码连接和实验后的一些分析（数据集是源代码中的CIFAR100数据）

实验后发现在不断的两类两类的学习后，测试正确率很低。能到百分之十几左右，因此我有几个猜想

1.训练集过拟合（代码使用的网络是RES-net）

2.由于模型是从0到2类再慢慢增加，因此前面的数据和后面的数据不成比例（原文似乎提到原数据远大于后数据集）所以会出现这么低的准确率。

至于什么问题导致，我现在也在探索。所以我就随便写写，新人轻喷。。。。。

解压码：7eme

Learning Without Forgetting的pytorch实现相关推荐

【论文翻译】PLOP: Learning without Forgetting for Continual Semantic Segmentation
论文地址:http://https://arxiv.org/abs/2011.11390 代码地址:GitHub - arthurdouillard/CVPR2021_PLOP: Official ...
Learning Without Forgetting 笔记及实现
Learning Without Forgetting LWF简介方法对比 LWF算法流程总结实现 LWF简介 LWF是结合知识蒸馏(KD)避免灾难性遗忘的经典持续学习方法.本质上是通过旧网络指 ...
Python深度学习：基于PyTorch [Deep Learning with Python and PyTorch]
作者:吴茂贵,郁明敏,杨本法,李涛,张粤磊著出版社:机械工业出版社品牌:机工出版出版时间:2019-11-01 Python深度学习:基于PyTorch [Deep Learning with ...
《Learning without Forgetting》论文阅读笔记
文章目录 1. 引言 2. 相关工作 2.1 方法对比 2.2 局部相关方法 2.3 同时期的方法 3. 不遗忘学习原文链接: Learning without Forgetting 1. 引言在 ...
Dynamic Few-Shot Visual Learning without Forgetting
摘要人类视觉系统有显著的能力去毫不费力的从零样本示例中学习新颖概念.机器学习视觉系统上模仿相同的行为是一个有趣的非常具有挑战性的研究问题,这些研究问题有许多实际的优势在真实世界视觉应用上.在这篇文章 ...
Learning without Forgetting 翻译
已弃坑,希望以前翻译的论文对感兴趣的人们有所帮助. 机翻+自己手动改一些内容. Learning without Forgetting 摘要在构建统一视觉系统或逐渐向系统添加新功能时,通常的假设是始 ...
小全读论文《Learning without Forgetting》TPAMI 2017
<Learning without Forgetting> 一.介绍这篇文章的论文版本发表于ECCV2016,会议版本发表于TPAMI2017,本文是针对会议版本进行展开. 本文关注的问 ...
[论文翻译] Learning Without Forgetting
https://link.springer.com/chapter/10.1007/978-3-319-46493-0_37 Learning Without Forgetting Abstract ...
Learning without Forgetting 论文阅读和对应代码详解
论文地址点这里一. 介绍基于终身学习思想,我们希望新任务可以分享旧任务的参数进行学习,同时不会出现灾难性遗忘.在这种场景下,需要开发一种简单有效的策略来解决各种分类任务.基于这种策略和单纯的想法, ...

Learning Without Forgetting的pytorch实现

实验后发现在不断的两类两类的学习后，测试正确率很低。能到百分之十几左右，因此我有几个猜想

1.训练集过拟合（代码使用的网络是RES-net）

2.由于模型是从0到2类再慢慢增加，因此前面的数据和后面的数据不成比例（原文似乎提到原数据远大于后数据集）所以会出现这么低的准确率。

至于什么问题导致，我现在也在探索。所以我就随便写写，新人轻喷。。。。。

Learning Without Forgetting的pytorch实现相关推荐

最新文章

热门文章