PaperWeekly 是一个 AI 学术分享社区。这里聚集了大批一线 AI 学者,他们用精炼妙语推荐各自发现的优质论文。点击本文底部的「阅读原文」即刻加入社区,创建属于你的论文集。

这里是第 4 期论文集精选。

迁移学习对于人类来说,就是掌握举一反三的学习能力。对于计算机而言,所谓迁移学习,就是从一个或多个源任务(source task)中抽取知识和经验,然后将其应用于一个有相关性的目标领域(target domain)

本期我们带来的是由 PaperWeekly 社区用户 @jindongwang 创建的迁移学习专题论文集,通过 14 篇最新和经典论文,带大家了解迁移学习的发展和现状。如果有合你心意的论文,复制链接到浏览器即可查看原文。

Domain adaptation via transfer component analysis

@jindongwang 推荐

#Transfer Learning

迁移学习领域公认的经典工作,作者团队来自香港科技大学 Qiang Yang 教授团队,推荐所有做迁移学习研究的同学都看一看。

论文链接

http://www.paperweekly.site/papers/793

Geodesic flow kernel for unsupervised domain adaptation

@jindongwang 推荐

#Unsupervised Learning

迁移学习领域代表性文章——GFK(Geodesic flow kernel)。GFK 方法首先解决 SGF 的问题:如何确定 source 和 target 路径上中间点的个数。它通过提出一种 kernel 方法,利用路径上的所有点的积分,把这个问题解决了。这是第一个贡献。然后,它又解决了第二个问题:当有多个 source 的时候,我们如何决定使用哪个 source 跟 target 进行迁移?GFK 通过提出 Rank of Domain 度量,度量出跟 target 最近的 source,来解决这个问题。

论文链接

http://www.paperweekly.site/papers/794

Transfer feature learning with joint distribution adaptation

@jindongwang 推荐

#Domain Adaptation

迁移学习领域又一经典文章,是 TCA 的增强版本,推荐读。JDA 方法比较巧妙,同时适配两个分布,然后非常精巧地规到了一个优化目标里。用弱分类器迭代,最后达到了很好的效果,值得我们去学习。

论文链接

http://www.paperweekly.site/papers/795

Unsupervised Domain Adaptation by Backpropagation

@jindongwang 推荐

#Transfer Learning

深度迁移学习经典文章。

论文链接

http://www.paperweekly.site/papers/1035

代码链接

https://github.com/shucunt/domain_adaptation

How transferable are features in deep neural networks?

@jindongwang 推荐

#CNN

探究深度网络的可迁移性质,非常值得读。虽然该论文并没有提出一个创新方法,但是通过实验得到了以下几个结论,对以后的深度学习和深度迁移学习都有着非常高的指导意义。

神经网络的前 3 层基本都是 general feature,进行迁移的效果会比较好;深度迁移网络中加入 fine-tune,效果会提升比较大,可能会比原网络效果还好;Fine-tune 可以比较好地克服数据之间的差异性;深度迁移网络要比随机初始化权重效果好;网络层数的迁移可以加速网络的学习和优化。

论文链接

http://www.paperweekly.site/papers/796

代码链接

https://github.com/yosinski/convnet_transfer

Deep Domain Confusion: Maximizing for Domain Invariance

@jindongwang 推荐

#Deep Learning

深度迁移学习最早期的代表性文章,虽然至今为止不知道发在哪里(一直只是在 arXiv 上),但是引用量很大,算是比较基础性的工作。值得一读。

论文链接

http://www.paperweekly.site/papers/1038

Learning Transferable Features with Deep Adaptation Networks

@jindongwang 推荐

#Transfer Learning

深度适配网络(Deep Adaptation Netowrk,DAN)是清华大学龙明盛提出来的深度迁移学习方法,最初发表于 2015 年的机器学习领域顶级会议 ICML 上。DAN 解决的也是迁移学习和机器学习中经典的 domain adaptation 问题,只不过是以深度网络为载体来进行适配迁移。

论文链接

http://www.paperweekly.site/papers/797

Simultaneous Deep Transfer Across Domains and Tasks

@jindongwang 推荐

#Transfer Learning

传统的深度迁移学习方法只进行 domain confusion,这个文章加入了 task transfer,也就是说,充分考虑到类别之间的相似性。

论文链接

http://www.paperweekly.site/papers/1040

A Unified Framework for Metric Transfer Learning

@jindongwang 推荐

#Transfer Learning

这篇文章的作者团队来自新加坡南洋理工大学,主要老板是 Sinno Jialin Pan,他是迁移学习大牛杨强的学生,《A survey on transfer learning》的第一作者。文章比较新,值得一读。

论文链接

http://www.paperweekly.site/papers/1039

Adversarial Discriminative Domain Adaptation

@corenel 推荐

#Domain Adaptation

ADDA 总结了 DA 领域的总体架构,提纲挈领。

论文链接

http://www.paperweekly.site/papers/690

代码链接

https://github.com/erictzeng/adda

https://github.com/corenel/pytorch-adda

Correlation Alignment by Riemannian Metric for Domain Adaptation

@jindongwang 推荐

#Domain Adaptation

一个比较新的工作,但是创新性比较小:只是将现有的 CoRAL 工作中的距离度量换成了在黎曼空间下的度量。

论文链接

http://www.paperweekly.site/papers/1042

Understanding How Feature Structure Transfers in Transfer Learning

@jindongwang 推荐

#Representation Learning

IJCAI-17 最新文章,理解迁移学习中 feature 是如何进行 transfer 的。有两个大牛 Qiang Yang 和 Dacheng Tao 坐镇,文章肯定不差。

论文链接

http://www.paperweekly.site/papers/1044

Associative Domain Adaptation

@corenel 推荐

#Deep Learning Processor

相比较 ADDA 而言,从很大程度上提升了 DA 的性能,值得一读。

论文链接

http://www.paperweekly.site/papers/686

代码链接

https://github.com/haeusser/learning_by_association

Learning to Transfer

@jindongwang 推荐

#Transfer Learning

迁移学习领域比较新的研究方向,将迁移学习与增量学习结合起来,是开创性的工作。建议一读。

论文链接

http://www.paperweekly.site/papers/1041

本文由 AI 学术社区 PaperWeekly 精选推荐,社区目前已覆盖自然语言处理、计算机视觉、人工智能、机器学习、数据挖掘和信息检索等研究方向,点击「阅读原文」即刻加入社区!

关于PaperWeekly

PaperWeekly 是一个推荐、解读、讨论、报道人工智能前沿论文成果的学术平台。如果你研究或从事 AI 领域,欢迎在公众号后台点击「交流群」,小助手将把你带入 PaperWeekly 的交流群里。

▽ 点击 | 阅读原文 | 收藏论文集

14 篇论文为你呈现「迁移学习」研究全貌 | 论文集精选 #04相关推荐

  1. 斯坦福大学「黑盒学习」研究:使用神经变分推理的无向图模型,可替代「采样」 | 附NIPS 2017论文

    来源:雷克世界 编译:嗯~阿童木呀.多啦A亮 概要:机器学习中的许多问题可以自然地用无向图模型的语言表达.在这里,我们提出了无向模型的黑箱学习和推理算法,优化了模型的对数似然的变分近似.我们的方法的核 ...

  2. 多源迁移学习相关研究回顾

    ©PaperWeekly 原创 · 作者|张玮玮 学校|东北大学硕士 研究方向|情绪识别 迁移学习中大多数工作在研究单个源域到单个目标域的学习,在实际生活中,应用的时候会碰到很多有标注样本的不是来自单 ...

  3. 14篇论文拿捏Diffusion

    本文转载于底部链接,只作为学习使用 扩散模型自2020年的DDPM以来,以其种种优异的特性(如训练简便,对数据分布拟合效果极好,本身的构造体系使得性质调控更加优雅直接等),在两年来横扫整个学术界,甚至 ...

  4. 如何看待和评价浙江大学18级硕士研究生齐俏两年发14篇论文,获浙大最高层次奖学金?...

    点击上方,选择星标或置顶,不定期资源大放送! 阅读大概需要10分钟 Follow小博主,每天更新前沿干货 链接:https://www.zhihu.com/question/430862162 转自: ...

  5. 硕士生两年发14篇论文!获浙大最高层次奖学金!

    点击上方,选择星标或置顶,不定期资源大放送! 阅读大概需要8分钟 Follow小博主,每天更新前沿干货 转自 | 科研干货 文本来源 | 大木虫综合整理自学术会议资讯.浙江大学 两年发表14篇论文,其 ...

  6. 两年发表14篇论文,其中10篇一作,这是她的科研进阶攻略

    全世界只有3.14 % 的人关注了 爆炸吧知识 本文来源:浙江大学 两年发表14篇论文,其中一作10篇, 包括4篇Top SCI,2篇SCI和4篇EI: 持有2项发明专利,出版1部英文专著, 斩获20 ...

  7. 进击的美少女!浙大学姐两年发14篇论文! 一作10篇,顶刊4篇!

    嗨喽,大家好呀!我叫齐俏,一个可可爱爱的美少女(嘿嘿.有点不好意思呢),是浙江大学信息与电子工程学院2018级硕士研究生,也是2020年竺可桢奖学金获得者. 我嘛,一直跟随着无线通信的发展历程,在科研 ...

  8. 科大讯飞独家Founding赞助国际语音顶会,14篇论文被收录

    (原标题:科大讯飞独家Founding赞助国际语音顶会,14篇论文被收录) 今年是国际语音顶会INTERSPEECH 第二次来到中国. INTERSPEECH 是国际语音通讯协会(Internatio ...

  9. ECCV 2020 实例分割+全景分割论文大盘点(14篇论文)

    前言 计算机视觉Daily 正式系列整理 ECCV 2020的大盘点工作,本文为第三篇:实例分割和全景分割方向. 前两篇详见: ECCV 2020 目标检测论文大盘点(49篇论文) ECCV 2020 ...

最新文章

  1. 看职场老人教你如何平稳度过职场“更年期”
  2. AC日记——行程长度编码 openjudge 1.7 32
  3. CCF真题 201312-1 出现次数最多的数
  4. 前端学习(2366):条件编译跨端兼容
  5. 推荐几个配色和图标网站
  6. 【pycharm】pycharm上安装tensorflow,报错:AttributeError: module ‘pip‘ has no attribute ‘main‘ 解决方法
  7. Java中sleep()与wait()的区别
  8. 图解 | 什么是缓存系统“三座大山”?
  9. 博图在线升级 gsd_增值税发票开票软件(金税盘版)升级开票指南
  10. mysql dateofweek_日历表-月的周数
  11. 计算机科学与技术总体培养目标,计算机科学与技术专业培养目标
  12. League of Demacia(平面几何)
  13. 网站统计系统内容分析
  14. Android中高级面试必知必会,绝对干货
  15. Java 使用redis 设计一个每天重新开始计数的计数器
  16. django mezzanine添加多语言支持
  17. CSS中hover出现不生效的几个原因 ?
  18. 【分享】在小米实习到SP+转正
  19. steam服务器错误修改器,吞食孔明传 v4.1二十四项修改器(感谢游侠会员peizhaochen原创制作)[支持STEAM/凤凰游戏平台/Wegame][更新4]...
  20. python倍数怎么表示_什么是python倍数生成器

热门文章

  1. 基于pythonselect.select模块通信的实例讲解
  2. 大白鱼备考云笔记冲刺周期第一天
  3. 通过Windows Azure Connect ,实现本地机器与Windows Azure 虚拟机的相互连接(转+译)...
  4. java nep_Java 9 揭秘(1. 入门介绍)
  5. java 转账 锁_Java多线程 多个人转账发生死锁
  6. aop springboot 传入参数_Spring、SpringMVC和SpringBoot看这一篇就够了!
  7. python语言format用法_python基础_格式化输出(%用法和format用法)
  8. 概率假设密度滤波 matlab,高斯混合概率假设密度滤波器
  9. java编写科赫曲线_分形——科赫曲线
  10. 6 MyBatis基于Mapper接口CURD