【学术相关】近5年十大最具影响力的 AI 论文，你知道几个？

每年世界各地的科学家都会在AI领域发表数千篇研究论文，但是只有少数文章受到广泛大家的青睐，并在全球范围内产生影响力。在本文中我将分享过去5年在顶级AI会议上发表的十大最具影响力的研究论文，排名基于AI会议和期刊的引用次数。

10 解释和利用对抗性示例

论文地址：https://arxiv.org/abs/1412.6572

该论文是神经网络生成对抗性示例，引入对抗训练作为一种正则化技术的最快速方法之一。

它反应了一个非常有趣的现象，即攻击者对输入进行微小的修改就会大大降低任何精确的机器学习模型的性能。在其他任务（例如文本和视频）中也观察到了这种现象，并导致大量的研究工作，重新考虑ML在现实世界中的关键任务的适用性。

9 半监督学习卷积神经网络

论文地址：https://arxiv.org/abs/1609.02907

在图上实现半监督节点分类的一个简单但有效的图卷积网络。

图卷积网络将深度学习带入了图域，显示了它较以前主导该领域的手工启发式方法优越性。

8 DCGAN:深度学习生成对抗卷积神经网络

论文地址：https://arxiv.org/abs/1511.06434

提出了DCGAN，一种用于GAN模型生成器的深层CNN架构，可获取以前不存在的自然图像。

GAN是能够生成人，动物或物体的新图像的机器学习模型，在照片编辑和设计应用程序中获得广泛认可。该方法对于生成新逼真的图像的所有现代GAN模型都至关重要。

7 用深度神经网络和树搜索掌握围棋游戏

论文地址：https://www.nature.com/articles/nature16961

引入AlphaGo，它是深度强化学习与蒙特卡洛树搜索算法的结合，在围棋游戏中击败了其他程序和专业人类玩家。

历史上第一次，计算机程序赢得人类被认为是不可能至少再过十年。

这是史上第一次计算机程序赢得了人类最强大的玩家之一，李塞多尔。这是AI的一个重要里程碑，在此之前，人们认为需要至少十年才会达到这个壮举。

6 通过深度学习掌握人类级别操控力

论文地址：https://www.nature.com/articles/nature14236

引入强化学习算法DQN，该算法性能可在许多Atari游戏中达到人类专业玩家的水平。

制造业、机器人技术和物流等背后的算法已从硬编码规则转变为强化学习模型。DQN是最流行的深度强化学习算法之一，它在各种应用程序中均表现出卓越的性能，而无需将手动设计的策略融入其中。

5 基于联合学习对齐和翻译的神经机器翻译

论文地址：https://arxiv.org/abs/1409.0473

神经网络首次使用注意力机制进行机器翻译。注意力是模型只关注源句中的特定单词而不是整个句子的一种方式。

在机器翻译中，传统模型（例如RNN）试图将有关源语句的所有信息压缩为单个向量。模型可以有效地将每个词表示为向量，然后关注每个词，不仅可以在NLP中而且可以在ML的所有其他领域中有效地构建神经网络。

4 Attention Is All You Need

论文地址：https://arxiv.org/abs/1706.03762

Transformer 是一个有效的神经网络，它完全基于注意力机制，在机器翻译中具有出色的性能。

Transformer模型是另一种流行的语言模型BERT的一部分，它取代了RNN和CNN作为许多处理文本和图像的应用程序的默认模型，只需要attention机制就能解决Seq-Seq的问题，并且能够一步到位获取了全局信息。

3 Faster R-CNN: 通过Region Proposal网络实现实时目标检测

论文地址：https://arxiv.org/abs/1506.01497

高效的端到端卷积神经网络，用于图像和视频中的目标检测。

影响：Faster R-CNN是工业环境中CV应用蓬勃发展的原因。它在安全摄像头、自动驾驶汽车和移动应用程序中的使用极大地影响了我们今天对机器的看法。

2 批归一化：通过减少内部协变量偏移来加速深度网络训练

论文地址：https://arxiv.org/abs/1502.03167

通过对输入特征进行归一化，使神经网络训练更快，更稳定的一种简单方法。

批归一化（Batch normalization）是如今几乎所有神经网络的主流趋势，批归一的存在是深度神经网络目前取得先进成果的原因之一。

批归一化

1 Adam:一种随机优化方法

论文地址：https://arxiv.org/abs/1412.6980

Adam是一种基于一阶梯度的随机优化算法，它提供了神经网络的快速收敛，已被用作当今人们训练的数百万个神经网络的默认优化算法。


往期精彩回顾适合初学者入门人工智能的路线及资料下载机器学习及深度学习笔记等资料打印机器学习在线手册深度学习笔记专辑《统计学习方法》的代码复现专辑
AI基础下载机器学习的数学基础专辑
本站qq群851320808，加入微信群请扫码：