点击蓝字

关注我们

AI TIME欢迎每一位AI爱好者的加入！

来自 DBLP、ArXiv、STM 等多家学术出版机构和平台的数据表明，在过去 20 年间，计算机科学、物理学、统计学等研究领域的出版物总量都有大幅增加。像 CVPR、AAAI 等有关人工智能等新兴领域的顶级会议，每年的论文接受量也已经高达上千篇。面对雨后春笋一样涌现的学术出版物和千上万篇学术论文，任何一名研究者都不可能了解所有新领域，即使这一领域和自己的研究方向近似。

如果有一种工具，可以把一篇论文的源头梳理清楚，就能极大地减少无效检索的时间，快速了解一个新领域的发展脉络。

在以往的研究中，计算机领域的相关学者提出了很多数据挖掘技术，比如概念抽取、主题演变、算法图谱等。但是，这些数据挖掘技术更多是着眼于提炼学术文献中的关键术语信息，研究它们之间的关系与变化，却很少关注学术出版物本身较深层次的内容以及关联关系。

近日，AMiner 团队的硕士生殷达等人提出一种新方法——论文溯源树（https://mrt.aminer.cn/），通过刻画学术文献的发展演变脉络，来帮助科研人员了解前沿论文是如何演变而来的。相关研究论文“MRT: Tracingthe Evolution of Scientific Publications”已被 TKDE 2021 接收。

“MRT 溯源树”是一个通过构建论文演变图帮助学者研究论文发展的工具，目标是研究论文中各种思路方法的演变过程。

以知名 NLP 研究论文“BERT:Pre-training of Deep Bidirectional Transformers for Language Understanding”为例，BERT 对于预训练模型、文本向量、序列编码等方法的使用来源于语言模型这一方向上的 ELMo、Word2vec、LSTM 等工作中，而 MLM、Transformer 等内容则可以追溯到机器翻译领域中的 MaskGAN、Attention is all you need 等文章。

图：BERT 论文溯源（部分）

为了生成关于 BERT 的“论文溯源树”，研究团队采用了检索，阅读，构图，推理等若干步骤。

MRT 溯源树技术原理

首先，算法将目标论文放入诸如 SemanticScholar 或是 AMiner 这样的开放数据源中进行检索，获取其论文标题、摘要及其引用信息，再根据引用信息扩展出多层引用网络，并采用 PageRank 算法进行排序，筛选与目标论文较为相关的文献。

然后，算法采用 TF-IDF、Sentence-BERT 以及 ProNE 等文本编码以及图特征编码方法对检索得到的论文网络进行编码计算，为每一篇论文生成表示向量。其中，TF-IDF 可以提取论文中表层的关键词信息；Sentence-BERT 则能够捕获到论文中较深层的语义信息；ProNE 则将文本信息放在论文引用网络中，用谱传播的方式将邻居节点论文之间的关联性融入论文表示向量中，从而最终得到兼顾文本信息和引用结构信息的论文向量。

另外，在此基础上，算法采用了 Kernel K-means 等方法，根据生成的论文向量进行聚类排列，连接成带有多条“溯源路径”的树状结构；同时，针对每一类（每一条溯源路径）中的论文，算法还采用了自动化标注算法为其生成标签来概括描述这些论文的主题。Kernel K-means 算法中的核函数除了用来进行聚类外，还被应用于计算论文及溯源路径对于目标论文演变的重要性。

到这里，一棵论文溯源树便就出生了。

图｜论文溯源树（Demo 地址：https://mrt.aminer.cn/5dd3de98e07b013b38cf3399）

最后，在线上用户交互过程中，为了方便用户在阅读溯源树过程中可以快速定位当前感兴趣的相关论文，算法还应用强化学习设计出在线推荐模块，根据用户的阅读点击事件动态推荐相关论文。

此外，研究团队还针对上述各个步骤设计了一系列相关实验进行验证。考虑到由于缺少标注数据而难以直接进行评估的问题，研究团队还采用了若干种间接的衡量方法从多个角度对提出方法的有效性进行验证评估，并与基线算法进行比较，最终验证了算法的优越性。

目前，该算法已集成在 AMiner 学术信息挖掘系统中（https://mrt.aminer.cn/）。

（来源：https://mrt.aminer.cn/）

在 AMiner 网站上，你可以通过点击想要生成溯源树的论文右侧的按钮来提交生成申请，在排队过后系统会自动搜集相关引用论文并计算生成溯源树。

快来点击文末【阅读原文】尝试一下吧～

AI TIME欢迎AI领域学者投稿，期待大家剖析学科历史发展和前沿技术。针对热门话题，我们将邀请专家一起论道。同时，我们也长期招募优质的撰稿人，顶级的平台需要顶级的你！

请将简历等信息发至yun.he@aminer.cn！

微信联系:AITIME_HY

AI TIME是清华大学计算机系一群关注人工智能发展，并有思想情怀的青年学者们创办的圈子,旨在发扬科学思辨精神，邀请各界人士对人工智能理论、算法、场景、应用的本质问题进行探索，加强思想碰撞，打造一个知识分享的聚集地。

更多资讯请扫码关注

点击 阅读原味 体验！