增量学习 (Incremental Learning)
语义分割中的增量学习
语义分割中的增量学习设置为:在第t个step,学习新的类别ct,ct的label仅包含当前学习的ct类别,所以在学习时要保证既学习到当前类别知识,又不能灾难性遗忘之前的类别知识。
在语义分割的增量学习任务中,要解决的重点问题是当前的ground truth的background 类别,可能既包含过去学习过的真实类别,又包括未来要学习的潜在类别。
1. 《Modeling the Background for Incremental Learning in Semantic Segmentation》 --CVPR 2020
总体思想是对当前类别的学习采用交叉熵loss,同时计算当前类别和过去类别的蒸馏loss避免遗忘。为了解决background的问题,对两个loss进行转换。
对于新类别的loss,背景部分的概率由(背景类别+过去类别)来表示,以此保留模型本身对过去类别的预测能力;对蒸馏loss,同样的思想,将背景部分概率表示为(当前新类别+背景类别),故蒸馏旧类别的同时不影响对当前新类别的预测。
2. 《PLOP: Learning without Forgetting for Continual Semantic Segmentation》
提出了多尺度的蒸馏和伪标签思想,重点是伪标签思想来实现对过去类别的保留,避免遗忘。
增量学习 (Incremental Learning)相关推荐
- 增量学习/Incremental learning
文章目录 简介 其他值得一看的论文 小样本类增量学习 开源代码与资料 简介 类别增量学习(Class-Incremental Learning)的前世今生.开源工具包 下图展示了一个形象的例子, 训练 ...
- incremental learning(增量学习是什么意思)
有时候真的从ai的理解反复横跳,从一个不明觉厉ai的概念的小白到初识neural network的科研菜鸡.概念上跟着吴恩达大佬刷新了一下,其实只是看上去nn和大脑神经相似而已,本质上就是让机器给我们 ...
- Incremental Learning vs Online Learning
目录 1. 前言 2. 有人认为两者就是同一概念 3. 有人认为在线学习包含了增量学习 4. Incremental Online Learning和Online Incremental Learni ...
- 深度自适应增量学习(Incremental Learning Through Deep Adaptation)
翻译论文:Incremental Learning Through Deep Adaptation 代码:https://github.com/rosenfeldamir/incremental_le ...
- 终身学习(LifeLong Learning)/ 增量学习(Incremental Learning)、在线学习(Online Learning)
1.在线学习 实时获得一个新样本就进行一次模型更新.显然,在线学习时增量学习的特例,而增量学习可视为"批模式"的在线/离线学习. online主要相对于offline或者说batc ...
- 论文浅尝 | Dynamic Weighted Majority for Incremental Learning
Yang Lu , Yiu-ming Cheung , Yuan Yan Tang. Dynamic Weighted Majority for Incremental Learning ofImba ...
- [论文阅读] Large Scale Incremental Learning
论文地址:https://openaccess.thecvf.com/content_CVPR_2019/html/Wu_Large_Scale_Incremental_Learning_CVPR_2 ...
- 【论文总结】Incremental Learning of Object Detectors without Catastrophic Forgetting(附翻译)
Incremental Learning of Object Detectors without Catastrophic Forgetting 无灾难性遗忘的增量学习目标检测器 论文地址:https ...
- Cognitively-Inspired Model for Incremental Learning Using a Few Examples(附翻译)
Cognitively-Inspired Model for Incremental Learning Using a Few Examples 2021年1月27日,来自留校儿童的心酸科研,冲鸭 文 ...
最新文章
- “TNS-03505:无法解析名称”问题解决一例
- python集合的并集、交集_Python 集合set()添加删除、交集、并集、集合操作详解
- 4个月高效备考信息系统项目管理师经验分享【57,49,49】
- Python Django 日期增减API
- Java数组与容器类分析资料--数组、List和Set、Map等
- 解决VMWARE安装macos系统找不到虚拟磁盘问题
- 让我们Core在一起:ASP.NET Core amp; .NET Core
- VNC Viewer连接成功后闪退的解决办法
- 数据结构与算法学习笔记02-单向链表
- 访问不了_etherscan访问不了的替代方案
- mysql 授权 失败_完美解决mysql客户端授权后连接失败的问题
- 如何在ant脚本中获得svn版本号
- eclipse 中System.out快捷键设定
- 39页第五题计算数列之和
- request.getContextPath()
- 【语音加密】基于matlab GUI语音信号加密解密【含Matlab源码 295期】
- windows+jdk 使用keytool工具
- 合并排序时间复杂度推导
- python实现 温度转换(嵩天老师)
- 个性签名html,个性签名短句8个字唯美(精选70句)