14 篇论文为你呈现「迁移学习」研究全貌 | 论文集精选 #04
PaperWeekly 是一个 AI 学术分享社区。这里聚集了大批一线 AI 学者,他们用精炼妙语推荐各自发现的优质论文。点击本文底部的「阅读原文」即刻加入社区,创建属于你的论文集。
这里是第 4 期论文集精选。
迁移学习对于人类来说,就是掌握举一反三的学习能力。对于计算机而言,所谓迁移学习,就是从一个或多个源任务(source task)中抽取知识和经验,然后将其应用于一个有相关性的目标领域(target domain)。
本期我们带来的是由 PaperWeekly 社区用户 @jindongwang 创建的迁移学习专题论文集,通过 14 篇最新和经典论文,带大家了解迁移学习的发展和现状。如果有合你心意的论文,复制链接到浏览器即可查看原文。
Domain adaptation via transfer component analysis
@jindongwang 推荐
#Transfer Learning
迁移学习领域公认的经典工作,作者团队来自香港科技大学 Qiang Yang 教授团队,推荐所有做迁移学习研究的同学都看一看。
论文链接
http://www.paperweekly.site/papers/793
Geodesic flow kernel for unsupervised domain adaptation
@jindongwang 推荐
#Unsupervised Learning
迁移学习领域代表性文章——GFK(Geodesic flow kernel)。GFK 方法首先解决 SGF 的问题:如何确定 source 和 target 路径上中间点的个数。它通过提出一种 kernel 方法,利用路径上的所有点的积分,把这个问题解决了。这是第一个贡献。然后,它又解决了第二个问题:当有多个 source 的时候,我们如何决定使用哪个 source 跟 target 进行迁移?GFK 通过提出 Rank of Domain 度量,度量出跟 target 最近的 source,来解决这个问题。
论文链接
http://www.paperweekly.site/papers/794
Transfer feature learning with joint distribution adaptation
@jindongwang 推荐
#Domain Adaptation
迁移学习领域又一经典文章,是 TCA 的增强版本,推荐读。JDA 方法比较巧妙,同时适配两个分布,然后非常精巧地规到了一个优化目标里。用弱分类器迭代,最后达到了很好的效果,值得我们去学习。
论文链接
http://www.paperweekly.site/papers/795
Unsupervised Domain Adaptation by Backpropagation
@jindongwang 推荐
#Transfer Learning
深度迁移学习经典文章。
论文链接
http://www.paperweekly.site/papers/1035
代码链接
https://github.com/shucunt/domain_adaptation
How transferable are features in deep neural networks?
@jindongwang 推荐
#CNN
探究深度网络的可迁移性质,非常值得读。虽然该论文并没有提出一个创新方法,但是通过实验得到了以下几个结论,对以后的深度学习和深度迁移学习都有着非常高的指导意义。
神经网络的前 3 层基本都是 general feature,进行迁移的效果会比较好;深度迁移网络中加入 fine-tune,效果会提升比较大,可能会比原网络效果还好;Fine-tune 可以比较好地克服数据之间的差异性;深度迁移网络要比随机初始化权重效果好;网络层数的迁移可以加速网络的学习和优化。
论文链接
http://www.paperweekly.site/papers/796
代码链接
https://github.com/yosinski/convnet_transfer
Deep Domain Confusion: Maximizing for Domain Invariance
@jindongwang 推荐
#Deep Learning
深度迁移学习最早期的代表性文章,虽然至今为止不知道发在哪里(一直只是在 arXiv 上),但是引用量很大,算是比较基础性的工作。值得一读。
论文链接
http://www.paperweekly.site/papers/1038
Learning Transferable Features with Deep Adaptation Networks
@jindongwang 推荐
#Transfer Learning
深度适配网络(Deep Adaptation Netowrk,DAN)是清华大学龙明盛提出来的深度迁移学习方法,最初发表于 2015 年的机器学习领域顶级会议 ICML 上。DAN 解决的也是迁移学习和机器学习中经典的 domain adaptation 问题,只不过是以深度网络为载体来进行适配迁移。
论文链接
http://www.paperweekly.site/papers/797
Simultaneous Deep Transfer Across Domains and Tasks
@jindongwang 推荐
#Transfer Learning
传统的深度迁移学习方法只进行 domain confusion,这个文章加入了 task transfer,也就是说,充分考虑到类别之间的相似性。
论文链接
http://www.paperweekly.site/papers/1040
A Unified Framework for Metric Transfer Learning
@jindongwang 推荐
#Transfer Learning
这篇文章的作者团队来自新加坡南洋理工大学,主要老板是 Sinno Jialin Pan,他是迁移学习大牛杨强的学生,《A survey on transfer learning》的第一作者。文章比较新,值得一读。
论文链接
http://www.paperweekly.site/papers/1039
Adversarial Discriminative Domain Adaptation
@corenel 推荐
#Domain Adaptation
ADDA 总结了 DA 领域的总体架构,提纲挈领。
论文链接
http://www.paperweekly.site/papers/690
代码链接
https://github.com/erictzeng/adda
https://github.com/corenel/pytorch-adda
Correlation Alignment by Riemannian Metric for Domain Adaptation
@jindongwang 推荐
#Domain Adaptation
一个比较新的工作,但是创新性比较小:只是将现有的 CoRAL 工作中的距离度量换成了在黎曼空间下的度量。
论文链接
http://www.paperweekly.site/papers/1042
Understanding How Feature Structure Transfers in Transfer Learning
@jindongwang 推荐
#Representation Learning
IJCAI-17 最新文章,理解迁移学习中 feature 是如何进行 transfer 的。有两个大牛 Qiang Yang 和 Dacheng Tao 坐镇,文章肯定不差。
论文链接
http://www.paperweekly.site/papers/1044
Associative Domain Adaptation
@corenel 推荐
#Deep Learning Processor
相比较 ADDA 而言,从很大程度上提升了 DA 的性能,值得一读。
论文链接
http://www.paperweekly.site/papers/686
代码链接
https://github.com/haeusser/learning_by_association
Learning to Transfer
@jindongwang 推荐
#Transfer Learning
迁移学习领域比较新的研究方向,将迁移学习与增量学习结合起来,是开创性的工作。建议一读。
论文链接
http://www.paperweekly.site/papers/1041
本文由 AI 学术社区 PaperWeekly 精选推荐,社区目前已覆盖自然语言处理、计算机视觉、人工智能、机器学习、数据挖掘和信息检索等研究方向,点击「阅读原文」即刻加入社区!
关于PaperWeekly
PaperWeekly 是一个推荐、解读、讨论、报道人工智能前沿论文成果的学术平台。如果你研究或从事 AI 领域,欢迎在公众号后台点击「交流群」,小助手将把你带入 PaperWeekly 的交流群里。
▽ 点击 | 阅读原文 | 收藏论文集
14 篇论文为你呈现「迁移学习」研究全貌 | 论文集精选 #04相关推荐
- 斯坦福大学「黑盒学习」研究:使用神经变分推理的无向图模型,可替代「采样」 | 附NIPS 2017论文
来源:雷克世界 编译:嗯~阿童木呀.多啦A亮 概要:机器学习中的许多问题可以自然地用无向图模型的语言表达.在这里,我们提出了无向模型的黑箱学习和推理算法,优化了模型的对数似然的变分近似.我们的方法的核 ...
- 多源迁移学习相关研究回顾
©PaperWeekly 原创 · 作者|张玮玮 学校|东北大学硕士 研究方向|情绪识别 迁移学习中大多数工作在研究单个源域到单个目标域的学习,在实际生活中,应用的时候会碰到很多有标注样本的不是来自单 ...
- 14篇论文拿捏Diffusion
本文转载于底部链接,只作为学习使用 扩散模型自2020年的DDPM以来,以其种种优异的特性(如训练简便,对数据分布拟合效果极好,本身的构造体系使得性质调控更加优雅直接等),在两年来横扫整个学术界,甚至 ...
- 如何看待和评价浙江大学18级硕士研究生齐俏两年发14篇论文,获浙大最高层次奖学金?...
点击上方,选择星标或置顶,不定期资源大放送! 阅读大概需要10分钟 Follow小博主,每天更新前沿干货 链接:https://www.zhihu.com/question/430862162 转自: ...
- 硕士生两年发14篇论文!获浙大最高层次奖学金!
点击上方,选择星标或置顶,不定期资源大放送! 阅读大概需要8分钟 Follow小博主,每天更新前沿干货 转自 | 科研干货 文本来源 | 大木虫综合整理自学术会议资讯.浙江大学 两年发表14篇论文,其 ...
- 两年发表14篇论文,其中10篇一作,这是她的科研进阶攻略
全世界只有3.14 % 的人关注了 爆炸吧知识 本文来源:浙江大学 两年发表14篇论文,其中一作10篇, 包括4篇Top SCI,2篇SCI和4篇EI: 持有2项发明专利,出版1部英文专著, 斩获20 ...
- 进击的美少女!浙大学姐两年发14篇论文! 一作10篇,顶刊4篇!
嗨喽,大家好呀!我叫齐俏,一个可可爱爱的美少女(嘿嘿.有点不好意思呢),是浙江大学信息与电子工程学院2018级硕士研究生,也是2020年竺可桢奖学金获得者. 我嘛,一直跟随着无线通信的发展历程,在科研 ...
- 科大讯飞独家Founding赞助国际语音顶会,14篇论文被收录
(原标题:科大讯飞独家Founding赞助国际语音顶会,14篇论文被收录) 今年是国际语音顶会INTERSPEECH 第二次来到中国. INTERSPEECH 是国际语音通讯协会(Internatio ...
- ECCV 2020 实例分割+全景分割论文大盘点(14篇论文)
前言 计算机视觉Daily 正式系列整理 ECCV 2020的大盘点工作,本文为第三篇:实例分割和全景分割方向. 前两篇详见: ECCV 2020 目标检测论文大盘点(49篇论文) ECCV 2020 ...
最新文章
- 看职场老人教你如何平稳度过职场“更年期”
- AC日记——行程长度编码 openjudge 1.7 32
- CCF真题 201312-1 出现次数最多的数
- 前端学习(2366):条件编译跨端兼容
- 推荐几个配色和图标网站
- 【pycharm】pycharm上安装tensorflow,报错:AttributeError: module ‘pip‘ has no attribute ‘main‘ 解决方法
- Java中sleep()与wait()的区别
- 图解 | 什么是缓存系统“三座大山”?
- 博图在线升级 gsd_增值税发票开票软件(金税盘版)升级开票指南
- mysql dateofweek_日历表-月的周数
- 计算机科学与技术总体培养目标,计算机科学与技术专业培养目标
- League of Demacia(平面几何)
- 网站统计系统内容分析
- Android中高级面试必知必会,绝对干货
- Java 使用redis 设计一个每天重新开始计数的计数器
- django mezzanine添加多语言支持
- CSS中hover出现不生效的几个原因 ?
- 【分享】在小米实习到SP+转正
- steam服务器错误修改器,吞食孔明传 v4.1二十四项修改器(感谢游侠会员peizhaochen原创制作)[支持STEAM/凤凰游戏平台/Wegame][更新4]...
- python倍数怎么表示_什么是python倍数生成器
热门文章
- 基于pythonselect.select模块通信的实例讲解
- 大白鱼备考云笔记冲刺周期第一天
- 通过Windows Azure Connect ,实现本地机器与Windows Azure 虚拟机的相互连接(转+译)...
- java nep_Java 9 揭秘(1. 入门介绍)
- java 转账 锁_Java多线程 多个人转账发生死锁
- aop springboot 传入参数_Spring、SpringMVC和SpringBoot看这一篇就够了!
- python语言format用法_python基础_格式化输出(%用法和format用法)
- 概率假设密度滤波 matlab,高斯混合概率假设密度滤波器
- java编写科赫曲线_分形——科赫曲线
- 6 MyBatis基于Mapper接口CURD