迁移学习 --- 终身学习
C. 人工智能 — 迁移学习 - 终身学习
概述
- 别称
- Continuous Learning
- Never Ending Learning
- Incremental Learning
- 难点
- Knowledge Retention，but NOT Intransigence
- Knowledge Transfer
- Model Expansion，but Parameter Efficiency
- 其他
- 多任务学习，是终身学习的上限。LLL 的目标，是逼近多任务学习的效果
Knowledge Retention
- 相同网络结构，参数调整
- Elastic Weight Consolidation（EWC）
- 核心思想
- 通过正则化的方式，保留重要参数，只调整不重要的参数
- Guard的计算方法
- 例如：通过二次微分，查看对应参数所处的位置1. 平坦的地方，影响较小2. 在波谷，影响大
- 核心思想
- Gradient Episodic Memory（GEM）
- 特点
- 需要保存历史任务的少量资料
- 结合历史人物的梯度优化方向，和当前任务的梯度优化方向，取一个平衡点
- 特点
- Synaptic Intelligence(SI)
- Memory Aware Synapses（MAS）
- Elastic Weight Consolidation（EWC）
- multi-task
- 需要训练生成历史数据的模型
- 训练任务和测试任务的类别不一样（需要修改网络结构）
- Learning without forgetting(LwF)
- iCaRL：Incremental Classifier and Representation Learning
Knowledge Transfer
- 与Transfer Learning的区别
- Knowledge Transfer：需要关注task1的效果
- Transfer Learning：不需要关注task1的效果
Model Expansion
- 问题
- 任务太多，模型已经达到饱和状态
- 目标
- 算法
- Progressive Neural Networks
- Expert Gate
- 先对任务分类
- 把跟历史任务最相近的任务对应的模型，作为新任务的初始模型
- Net2Net
- 旧的Net，对Neural 进行分裂
- 添加 噪音
- PackNet
- 优先创建一个大的网络，每个任务，只使用一部分参数
- Compacting，Picking，and Growing（CPG）
任务排序
- 问题
- 学习任务的顺序，可能会影响到模型最终的效果
- 算法
扩展
- 论文：Three scenarios for continual learning
- task-incremental learning (Task-IL)：有明确的任务定义（抽头网络）。（每个任务单独测试，观察指标变化，最后的指标是那个 numpy 矩阵）
- domain-incremental learning (Domain-IL)：没有明确的任务 identifier，测试时需要同时解决所有 environments。（所有遇见过的任务放在一起进行测试，整体指标的变化，最后的指标是单独一个值在变化）
- class-incremental learning (Class-IL)：测试时没有 task identifier，而且需要模型进行 infer 现在是哪个 task。
迁移学习 --- 终身学习相关推荐
- 新概念0817：终身学习
新概念0817:终身学习 终身学习在刚毕业的时候就提,那个时候感觉很酷,但是自己从事的行业虽然没有外界所说的发展那么快但是技术更新确实很快,学习已经成为一种习惯. 随着中国人口老龄化的压力开始显现,医 ...
- 《神经网络与深度学习》—学习笔记
[nndl.github.io] [神经网络与深度学习] [nndl-book] 深度学习基础 深度学习是机器学习的一个分支,是指一类问题以及解决这类问题的方法. 深度学习问题是一个机器学习问题,指从 ...
- 最新8篇ICML2020投稿论文：自监督学习、联邦学习、图学习、数据隐私、语言模型、终身学习…...
关注上方"深度学习技术前沿",选择"星标公众号", 资源干货,第一时间送达! 机器学习顶会 ICML已经 结束了 2020 年的论文投稿,作为最"硬核 ...
- 最新8篇ICML2020投稿论文：自监督学习、联邦学习、图学习、数据隐私、语言模型、终身学习...
点上方蓝字计算机视觉联盟获取更多干货 在右上方 ··· 设为星标 ★,与你不见不散 编辑:Sophia 计算机视觉联盟 报道 | 公众号 CVLianMeng 转载于 :专知 AI博士笔记系列推荐 ...
- 盖茨、马斯克都遵循的终身学习法则：知识不是由学科划分的
比尔盖茨.乔布斯.巴菲特.拉里佩奇.贝佐斯--这些白手起家的亿万富豪如何持续学习?我们也能在生活中用到这些特质吗? 答案是肯定的.本文辟谣了学习和认知的三个谎言,教你如何适应快速变化的知识经济. 下面 ...
- 李宏毅——终身学习lifelong learning
李宏毅--终身学习lifelong learning 导读 要解决的问题 如何解决 遗忘问题 Elastic Weight Consolidation(EWC) 基本思想 理解 EWC的变形 其他方法 ...
- 什么是终身学习（Life Long Learning / Continuous Learning / Never Ending Learning / Incremental Learning）
文章目录 1. 概念区分 1.1 Life Long v.s. Multi task 1.2 Life Long v.s. Transfer 2. 终身学习 2.1 Selective Synapti ...
- Life-Long Learning（LLL）终身学习的理解
Life-Long Learning(LLL) 看了李宏毅老师的Life-Long Learning视频,以及粗略阅读了A continual learning survey:Defying forg ...
- 持续学习：持续协调是终身学习的现实场景
题目:Continuous Coordination As a Realistic Scenario for Lifelong Learning 出处:International Conference ...
最新文章
- 从 AlphaGo 到具有人类智慧的 AI 究竟有多远？François Chollet 有了一些新想法
- 如何设计一门语言（七）——闭包、lambda和interface
- linux系统下对磁盘的,学会在Linux下对硬盘分区
- 剑破冰山—Oracle开发艺术 前言
- 每输入四个字符添加一个中划线
- 电脑卡顿，最先升级这个硬件，运行速度可快速提升！
- bootstrap悬停下拉导航的实现
- OpenCV windows 上安装
- 人人开源之代码生成器(renren-generator)
- pandas数据合并与重塑_PANDAS 数据合并与重塑（concat篇）
- arcengine二次开发 获取当前的坐标系统（C++）
- 记录一次es商品模糊查询
- 网站的pv、uv、ip分别是什么意思
- php图片png转APNG,APNG\WEBP图片格式转换器
- Could not autowire. No beans of ‘UserMapper‘ type found.
- 为OneFlow添加新的前端语言
- 微信公众平台对接C#-普通消息接收
- 脚踏实地小组的实验一
- linux系统编程之管道（三）：命名管道FIFO和mkfifo函数
- 基因组选择的几个概念