语义分割中的增量学习

语义分割中的增量学习设置为:在第t个step,学习新的类别ct,ct的label仅包含当前学习的ct类别,所以在学习时要保证既学习到当前类别知识,又不能灾难性遗忘之前的类别知识。
在语义分割的增量学习任务中,要解决的重点问题是当前的ground truth的background 类别,可能既包含过去学习过的真实类别,又包括未来要学习的潜在类别。

1. 《Modeling the Background for Incremental Learning in Semantic Segmentation》 --CVPR 2020


总体思想是对当前类别的学习采用交叉熵loss,同时计算当前类别和过去类别的蒸馏loss避免遗忘。为了解决background的问题,对两个loss进行转换。
对于新类别的loss,背景部分的概率由(背景类别+过去类别)来表示,以此保留模型本身对过去类别的预测能力;对蒸馏loss,同样的思想,将背景部分概率表示为(当前新类别+背景类别),故蒸馏旧类别的同时不影响对当前新类别的预测。

2. 《PLOP: Learning without Forgetting for Continual Semantic Segmentation》


提出了多尺度的蒸馏和伪标签思想,重点是伪标签思想来实现对过去类别的保留,避免遗忘。

增量学习 (Incremental Learning)相关推荐

  1. 增量学习/Incremental learning

    文章目录 简介 其他值得一看的论文 小样本类增量学习 开源代码与资料 简介 类别增量学习(Class-Incremental Learning)的前世今生.开源工具包 下图展示了一个形象的例子, 训练 ...

  2. incremental learning(增量学习是什么意思)

    有时候真的从ai的理解反复横跳,从一个不明觉厉ai的概念的小白到初识neural network的科研菜鸡.概念上跟着吴恩达大佬刷新了一下,其实只是看上去nn和大脑神经相似而已,本质上就是让机器给我们 ...

  3. Incremental Learning vs Online Learning

    目录 1. 前言 2. 有人认为两者就是同一概念 3. 有人认为在线学习包含了增量学习 4. Incremental Online Learning和Online Incremental Learni ...

  4. 深度自适应增量学习(Incremental Learning Through Deep Adaptation)

    翻译论文:Incremental Learning Through Deep Adaptation 代码:https://github.com/rosenfeldamir/incremental_le ...

  5. 终身学习(LifeLong Learning)/ 增量学习(Incremental Learning)、在线学习(Online Learning)

    1.在线学习 实时获得一个新样本就进行一次模型更新.显然,在线学习时增量学习的特例,而增量学习可视为"批模式"的在线/离线学习. online主要相对于offline或者说batc ...

  6. 论文浅尝 | Dynamic Weighted Majority for Incremental Learning

    Yang Lu , Yiu-ming Cheung , Yuan Yan Tang. Dynamic Weighted Majority for Incremental Learning ofImba ...

  7. [论文阅读] Large Scale Incremental Learning

    论文地址:https://openaccess.thecvf.com/content_CVPR_2019/html/Wu_Large_Scale_Incremental_Learning_CVPR_2 ...

  8. 【论文总结】Incremental Learning of Object Detectors without Catastrophic Forgetting(附翻译)

    Incremental Learning of Object Detectors without Catastrophic Forgetting 无灾难性遗忘的增量学习目标检测器 论文地址:https ...

  9. Cognitively-Inspired Model for Incremental Learning Using a Few Examples(附翻译)

    Cognitively-Inspired Model for Incremental Learning Using a Few Examples 2021年1月27日,来自留校儿童的心酸科研,冲鸭 文 ...

最新文章

  1. “TNS-03505:无法解析名称”问题解决一例
  2. python集合的并集、交集_Python 集合set()添加删除、交集、并集、集合操作详解
  3. 4个月高效备考信息系统项目管理师经验分享【57,49,49】
  4. Python Django 日期增减API
  5. Java数组与容器类分析资料--数组、List和Set、Map等
  6. 解决VMWARE安装macos系统找不到虚拟磁盘问题
  7. 让我们Core在一起:ASP.NET Core amp; .NET Core
  8. VNC Viewer连接成功后闪退的解决办法
  9. 数据结构与算法学习笔记02-单向链表
  10. 访问不了_etherscan访问不了的替代方案
  11. mysql 授权 失败_完美解决mysql客户端授权后连接失败的问题
  12. 如何在ant脚本中获得svn版本号
  13. eclipse 中System.out快捷键设定
  14. 39页第五题计算数列之和
  15. request.getContextPath()
  16. 【语音加密】基于matlab GUI语音信号加密解密【含Matlab源码 295期】
  17. windows+jdk 使用keytool工具
  18. 合并排序时间复杂度推导
  19. python实现 温度转换(嵩天老师)
  20. 个性签名html,个性签名短句8个字唯美(精选70句)

热门文章

  1. ER图练习(住院病人信息管理系统)
  2. 微信和淘宝扫码登录背后的实现原理
  3. vue porxy 解决跨域
  4. sql小数转换为百分数_这么齐全的数学单位换算表?寒假赶紧存下为孩子考试助力!...
  5. hdu2822(会双搜后再写次)
  6. 配置pcie网卡指示灯
  7. word2vec——训练自己的word2vec模型
  8. 为什么计算机关机慢,开机为什么慢?电脑开机速度慢的原因
  9. [Android系统开发]Launcher Hotseat图标居中排列
  10. 无U盘 安装纯净win7系统