ICLR 2020论文投稿2600篇，GNN、BERT、Transformer领跑热门研究方向

（图片由AI科技大本营付费下载自视觉中国）

出品 | AI科技大本营（ID：rgznai100）

2019 年 4，ICLR 2020 论文征集活动开始，截止 9 月 25 日，大会共收到近 2600 篇投稿，相比 ICLR 2019 的 1580 篇论文投稿，今年增幅约为 62.5%。

近四年的数据统计：

论文主题方面

数据统计显示，根据今年的论文投稿主题来看，虽然深度学习、GAN 等领域依旧是热门，但其投稿数量呈下降趋势。值得注意的是， GNN、BERT 和 Transformer这三大领域，成为今年引人注目的新方向。

在 ICLR 2019 会议中，有两篇论文被评为最佳论文，一篇是由蒙特利尔大学、微软研究院共同研究发表的在 NLP 领域中深度学习模型工作：《Ordered Neurons: Integrating Tree Structures into Recurrent Neural Networks》，他们在 RNN 网络中集成树结构，提出一种神经元排序策略；另一篇是 MIT CSAIL 的关于神经网络压缩方面的研究成果《The Lottery Ticket Hypothesis: Finding Spare, Trainable Neural Networks》

对于今年的投稿，有网友已经开始在网上翻阅待盲审的论文，目前有哪些值得关注的研究呢？

近日，引发大家热议的一篇论文是《ARTIFICIAL DESIGN: MODELING ARTIFICIAL SUPER INTELLIGENCE WITH EXTENDED GENERAL RELATIVITY AND UNIVERSAL DARWINISM VIA GEOMETRIZATION FOR UNIVERSAL DESIGN AUTOMATION (FAR FROM THE MADDING CROWD: HOW TO BE SHALLOW TO AVOID GOT LOST IN DEEP FOREST?)》，网友们表示“亮瞎了眼睛”。

文中提出了个一个 Artificial Super Intelligence (ASI) ，用广义相对论(General Relativity)和广义达尔文主义(Universal Darwinism)来建模多智能体深度学习（Multi-Agent RL）。究竟好不好，有没有道理，感兴趣的小伙伴可以研究一下。

论文地址：

https://openreview.net/pdf?id=SyxQ_TEFwS

除了这篇“新颖的论文”，还有其他网友推荐的不同方向论文，如基于BERT提出的 ALBERT，通过减少参数来减少内存的消耗；关于 GNN 和 GCN 的论文《GraphSAINT: Graph Sampling Based Inductive Learning Method》、《Demystifying Graph Neural Network Via Graph Filter Assessment》；NAS 也是近两年的热点，研究者们推荐了多篇论文，优化（Optimization/Adam）的研究工作也有很多。

最后给出待盲审投稿论文的列表，欢迎对有价值的论文留言评论。

待审阅论文列表：

https://openreview.net/group?id=ICLR.cc/2020/Conference

（*本文为 AI科技大本营整理文章，转载请联系原作者）

◆

精彩推荐

◆

2019 中国大数据技术大会（BDTC）历经十一载，再度火热来袭！豪华主席阵容及百位技术专家齐聚，15 场精选专题技术和行业论坛，超强干货+技术剖析+行业实践立体解读，深入解析热门技术在行业中的实践落地。【早鸟票】与【特惠学生票】限时抢购，扫码了解详情！

ICLR 2020论文投稿2600篇，GNN、BERT、Transformer领跑热门研究方向相关推荐

ICLR 2019论文投稿近1600篇，强化学习最热门
作者 | 非主流出品 | AI科技大本营(公众号ID:rgznai100) ICLR 2019 的论文提交已经截止.根据官方消息,本届大会共收到近 1600 篇投稿,相比 ICLR 2018 的 9 ...
组合求解器 + 深度学习 =？这篇ICLR 2020论文告诉你答案
2020-01-26 20:17:46 选自TowadsDataScience 作者:Marin Vlastelica Pogančić 机器之心编译参与:郭元晨.魔王如何将组合求解器无缝融入深度 ...
阿里巴巴达摩院ICLR 2020论文：从群体动态中认知个体
2020-01-21 16:17:16 人工智能顶会 ICLR 2020 将于 4 月 26 日于埃塞俄比亚首都亚的斯亚贝巴举行.据了解,本次大会共有 687 篇论文被收录,其中,阿里巴巴达摩院提交的 ...
CVPR 2020商汤斩获3冠！62篇论文入选，“算法工厂”凭什么领跑行业？
鱼羊发自凹非寺量子位报道 | 公众号 QbitAI "视觉实力秀",CVPR 2020 正在线上举办中. 本届 CVPR 号称十年来最难的一届,共接收 6656 篇论文,中 ...
2020年，你读到印象最深的论文是哪篇？
文末互动话题参与有礼记得看到最后哦上周,我们在智源社区内发起了话题征集,邀请大家分享今年读过的印象最深的论文. https://hub.baai.ac.cn/view/5106 复制链接至浏览器即 ...
ICLR最高分论文揭秘模型泛化，GNN是潜力股
文 | Jerry Qiu 编 | 小轶我们都知道,人类在很多任务上都可以很好地完成"外推",例如: 啊不--我是说--例如,我们学会两位数的加减乘除后,就可以轻松将其推广至任意 ...
华为诺亚ICLR 2020满分论文：基于强化学习的因果发现算法
2019-12-30 13:04:12 人工智能顶会 ICLR 2020 将于明年 4 月 26 日于埃塞俄比亚首都亚的斯亚贝巴举行,不久之前,大会官方公布论文接收结果:在最终提交的 2594 篇论文 ...
【论文解读 ICLR 2020 | DropEdge】TOWARDS DEEP GRAPH CONVOLU-TIONAL NETWORKS ON NODE CLASSIFICATION
论文题目:DROPEDGE: TOWARDS DEEP GRAPH CONVOLU-TIONAL NETWORKS ON NODE CLASSIFICATION 论文来源:ICLR 2020 论文链接 ...
从ACL 2020和ICLR 2020看知识图谱嵌入的近期研究进展
©PaperWeekly 原创 · 作者|舒意恒学校|南京大学硕士生研究方向|知识图谱本文介绍三篇发表于 ACL 2020 或 ICLR 2020 关于知识图谱嵌入的近期研究进展. 1. ACL ...

ICLR 2020论文投稿2600篇，GNN、BERT、Transformer领跑热门研究方向

推荐阅读

王霸之路：从0.1到2.0，一文看尽TensorFlow“奋斗史”

伯克利人工智能研究院开源深度学习数据压缩方法Bit-Swap，性能创新高

NLP被英语统治？打破成见，英语不应是「自然语言」同义词

TensorFlow2.0正式版发布，极简安装TF2.0（CPU&GPU）教程

肖仰华：知识图谱构建的三要素、三原则和九大策略 | AI ProCon 2019

微软语音AI技术与微软听听文档小程序实践 | AI ProCon 2019

AI落地遭“卡脖子”困境：为什么说联邦学习是解决良方？

10分钟搭建你的第一个图像识别模型 | 附完整代码

限时早鸟票 | 2019 中国大数据技术大会（BDTC）超豪华盛宴抢先看！

ICLR 2020论文投稿2600篇，GNN、BERT、Transformer领跑热门研究方向相关推荐

最新文章

热门文章