刘知远:NLP研究入门之道(三)如何通过文献掌握学术动态
点击上方,选择星标或置顶,每天给你送干货!
阅读大概需要9分钟
跟随小博主,每天进步一丢丢
作者 刘知远
编辑 zenRRan
地址 https://github.com/zibuyu/research_tao
要成为自然语言处理某个领域合格研究者的基本要求就是,掌握坚实的基础知识和了解全面的学术动态。基础知识,如高等数学、概率论、人工智能、机器学习、语言学等,这一般是在大学本科或研究生期间通过选修相关课程和教材自学来完成;现在大规模在线教育(MOOC)风靡全球,国内外著名高校的课程资料在线唾手可得,是自学成才的重要资源,然而从统计来看,能够坚持完成在线课程的同学比例并不高,可见学习氛围也是很重要的成才因素。这里,主要面向在校学生(包括本科生或研究生),介绍如何阅读学术文献、了解学术动态,努力站到巨人的肩膀上,为创新研究做好准备。
阅读学术文献是掌握学术动态的主要方式。计算机技术日新月异,科技文献也汗牛充栋,如何查阅和选择领域重要文献,是需要在实践中不断磨练的技巧;即使精心选择,NLP每个课题也都至少有几十篇论文需要读,实际没有必要平均用力,可以泛读和精读相结合,快速掌握课题的学术脉络。接下来,分别介绍在这些方面的一些建议。
如何选择文献
研究者应该具备"T"型知识体系,一方面要有对NLP和机器学习学术动态有全面及时的了解,主要是保持知识更新,为创新思想做好知识储备;另一方面要对从事的研究课题已有代表工作有地毯式的掌握。面向这两种不同的目标,有不同的选择文献的技巧。
面向特定主题的文献选择
有时候,导师突然找到你,说xx课题很有前景,让你调研一下看有没有研究的价值;有时候,你参加学术会议或听学术报告,突然听到xx课题,觉得很有意思;或者某门课程或某项实习工作给你安排了一个课题,需要你尽快调研相关工作,了解来龙去脉。这时候你会发现,搜索引擎是面向特定主题查阅文献的重要工具,尤其是谷歌提供的Google Scholar,由于其庞大的索引量,是我们披荆斩棘的利器。Google Scholar不仅可以查阅学者学术信息、被引用情况,还提供引用格式文件。
Google Scholar还提供高级检索功能,我比较常见的功能包括:
按作者搜索:author:"DM Blei",可以搜索指定作者的相关论文;
按发表期刊/会议搜索:source:"Nature",可以搜索发表在指定期刊/会议的相关论文;
按标题出现关键词搜索:allintitle:"latent dirichlet allocation",可以搜索在标题出现某些关键词的论文;
搜索引擎常用的and、or和""均支持,其中""表示按引号中的字符串完整搜索。
特别是按标题出现关键词的搜索功能,对于确定某个研究思想是否已经有发表工作,非常有效。例如,假设你在从事自动问答课题研究,某天想到是否可以将Transformer技术用于该任务,那你最好先用Google Scholar搜一下 allintitle:"question answering" and "transformer" 来确认是否已经有其他研究者发表了类似想法的成果。千万不要等到做完实验开始写论文了,才想起做这个确认工作,会非常被动。
为了了解某个课题,如果能找到一篇该领域的最新研究综述,就省劲多了。最方便的方法,是首先在维基百科等权威在线百科全书中查询该主题的科普综述介绍。在此基础上,可以在中文知网(CNKI)中搜索"课题名称+综述"或在Google Scholar中搜索“课题名称 + survey / review / tutorial / 综述”来查找。也有一些出版社专门出版各领域的综述文章,例如NOW Publisher出版的Foundations and Trends系列,Morgan & Claypool Publisher出版的Synthesis Lectures on Human Language Technologies系列等。它们发表了很多热门方向的综述,如文档摘要、情感分析和意见挖掘、学习排序、语言模型等。
一般而言,热门的研究方向总会有比较及时的综述论文。如果方向太新,还没有相关综述,一般还可以查找该方向发表的最新论文,阅读它们的“相关工作”章节,顺着列出的参考文献,就基本能够了解相关研究脉络了。当然,还有很多其他办法,例如去各大学术会议或暑期学校上找Tutorial报告,或者直接咨询该领域的研究者,都是比较有效的办法。
面向知识更新的文献选择
在除了面向特定主题的文献查阅外,研究生(特别是博士生)需要锻炼的重要能力,就是常年坚持对最新学术动态及时全面的了解。为了实现这一点,需要同学建立全面且及时更新的信息源,我理解一般有以下几个方面:
arXiv.org 上定期发布的论文;
相关国际顶级会议每年发表的论文集;
相关国际顶级期刊定期发表的论文;
国际顶尖高校研究组或企业研究机构发布的新闻或学术报告;
科技媒体和社交媒体集中报道或讨论的学术成果;等等。
一般而言,研究生可以通过订阅相关RSS Feed或者邮件列表来保持更新。另外值得一提的信息来源是,Google Scholar支持学者建立个人学术主页,不仅可以查阅最新的发表论文列表,还有最全的引用计数。而在访问著名学者的Google Scholar学术主页时,同学可以通过右上角的Following来关注该学者的最新发表论文情况。例如,下面就是著名学者Geoffrey Hinton的学术主页:https://scholar.google.com/citations?user=JicYPdAAAAAJ
一般,为了建立对NLP全面的了解,我们监测的信息来源提供的论文每年以数千计。近年来由于深度学习技术火爆异常,arXiv.org几个频道下每隔几天就有几十篇论文发布。面对如此众多的论文,很难通读,如果学会遴选论文和快速泛读,找出最值得关注的重要论文,是提高效率的重要手段。一般可由以下几个信号大致判断一篇工作是否值得关注:
论文的作者是否为该领域的著名学者,研究机构是否来自业内顶尖。
论文是否发表在顶级期刊/会议上。
论文社会关注度如何,是否获得最佳论文,引用情况如何。
当然,以上也都只是模糊信号,并不能一概而论,论文好坏还要由成果自己来判定。只是说,以上这些信号可以帮助同学加快筛选和判断。此外,论文题目等方面也会提供丰富的判定信号。例如我的经验之一是,论文题目越短其创新价值更高的概率会更大,越值得关注,等等,不一而足,还需要同学在实践中不断总结和精进。
如何阅读文献
阅读论文也不必需要每篇都从头到尾看完。一篇学术论文通常包括以下结构,我们用序号来标记建议的阅读顺序:
题目(1)
摘要(2)
正文:导论(3)、相关工作(6)、本文工作(5)、实验结果(4)、结论(7)
参考文献(6)
附录
按照这个顺序,基本在读完题目和摘要后,大致可以判断这篇论文与自己研究课题的相关性,然后就可以决定是否要精读导论和实验结果判断学术价值,是否阅读本文工作了解方法细节。此外,如果希望了解相关工作和未来工作,则可以有针对性地阅读“相关工作”和“结论”等部分。
善用社交媒体和科技媒体
这几年社会媒体的发展,越来越多学者转战微博和知乎,有浓厚的交流氛围。如何找到这些学者呢?一个简单的方法就是在微博或知乎中的用户搜索中检索“自然语言处理”、“计算语言学”、“信息检索”、“机器学习”等字样,马上就能跟过去只在论文中看到名字的老师同学们近距离交流了。值得一提的是,很多在国外任教的老师和求学的同学也活跃在微博和知乎上,经常发布重要的业内新闻,值得关注。学术研究既需要苦练内功,也需要与人交流。所谓言者无意、听者有心,也许其他人的一句话就能点醒你苦思良久的问题。毫无疑问,微博和知乎等社交媒体提供了很好的交流平台,但也要注意不宜沉迷。
由于AI火爆异常,国内也兴起了以机器之心、雷锋网/AI科技评论、PaperWeekly、DeepTech、新智元为代表的技术媒体。这些媒体非常关注英文世界的最新技术动态,经常能够几乎同步发布相关中文新闻,值得关注。当然,求快就难免经常出现翻译错误,而且为了吸引阅读也会经常使用“重磅”等吸睛的字眼,不过从积极意义来看,与2010年前中英文世界相对隔离的状况相比,这些媒体的出现和兴起无疑有着非常积极的意义。总体来看,这些科技媒体是很好的把握和了解科技动态的入口,但到底媒体介绍的这些技术突破是否货真价实,还需要更深入地阅读相关文献和实验验证才能确认。
相关系列:
刘知远:NLP研究入门之道(一)
刘知远:NLP研究入门之道(二)走近NLP学术界
学术 | 如何写一篇合格的NLP论文
推荐阅读:
一大批历史精彩文章啦
详解Transition-based Dependency parser基于转移的依存句法解析器
干货 | 找工作的经验总结(一)
经验 | 初入NLP领域的一些小建议
学术 | 如何写一篇合格的NLP论文
干货 | 那些高产的学者都是怎样工作的?
是时候研读一波导师的论文--一个简单有效的联合模型
近年来NLP在法律领域的相关研究工作
好文!我在看!
刘知远:NLP研究入门之道(三)如何通过文献掌握学术动态相关推荐
- 刘知远:NLP研究入门之道(一)
点击上方,选择星标或置顶,每天给你送干货! 阅读大概需要21分钟 跟随小博主,每天进步一丢丢 作者 刘知远 编辑 zenRRan 地址 https://github.com/zibuyu/resear ...
- 2018 年,NLP 研究与应用进展到什么水平了?
AI 前线导读: 随着人工智能的再次兴起,尤其是深度学习的成功应用,自然语言处理(NLP)也逐渐受到了科研研所.高校以及相关企业的关注,也成为了人工智能重点研究的课题之一.NLP 的主要目标是解决人机 ...
- 自然语言处理NLP快速入门
自然语言处理NLP快速入门 https://www.cnblogs.com/DicksonJYL/p/9809760.html [导读]自然语言处理已经成为人工智能领域一个重要的分支,它研究能实现人与 ...
- Cordova入门系列(三)Cordova插件调用 转发 https://www.cnblogs.com/lishuxue/p/6018416.html...
Cordova入门系列(三)Cordova插件调用 版权声明:本文为博主原创文章,转载请注明出处 上一章我们介绍了cordova android项目是如何运行的,这一章我们介绍cordova的核心内容 ...
- Python程序设计入门32道基础编程题目与参考代码
声明 本文仅在CSDN发布,其他均为盗版.请支持正版! 正版链接: https://blog.csdn.net/meenr/article/details/107095894 目录 概述 1.简单数值 ...
- ArcEngine C# GIS开发入门作业 (三)Ex04——实现地图的简单渲染和唯一值渲染
文章评论 写评论 sinat_37432938: 可以说非常有参考的意义,谢谢分享 4周前 #2楼 举报回复查看回复(1) domen_dragon 回复 sinat_37432938: 哈哈,谢谢夸 ...
- 回望2017,基于深度学习的NLP研究大盘点
回望2017,基于深度学习的NLP研究大盘点 雷锋网 百家号01-0110:31 雷锋网 AI 科技评论按:本文是一篇发布于 tryolabs 的文章,作者 Javier Couto 针对 2017 ...
- 《自然语言处理实战入门》 第三章 :中文分词原理及相关组件简介 ---- 语言学与分词技术简介
文章大纲 0.内容梗概 1. 汉语语言学简介 1.1 汉语与汉字的起源 1.2 汉字的统一与演变 1.3 印欧语系与汉藏语系 1.4 语言区别对于NLP 的影响 2. 词汇与分词技术简介 2.1 汉语 ...
- 神经网络 和 NLP —— 神经网络入门
前段时间一口气读完了 NN4NLP,很是畅快,非常喜欢作者行文讲解的口吻和逻辑.大概两周读完,每页都有收获,读完后反而担心有所疏漏,知识太多留不住,索性从头来一遍,把学习过程的知识点和思考记录下来,也 ...
最新文章
- 重磅!2017年度互联网转型企业TOP5发布 | 2017极客大奖年度评选
- 禁止鼠标右键的代码(转)
- GPUImage简单说明
- 【转】排序算法复习(Java实现) (二): 归并排序,堆排序,桶式排序,基数排序...
- MySQL 存储过程的基本用法
- windowsserver服务器维护,Windows Server服务器日常管理技巧
- 三相滤波器怎么接线_数字滤波器设计的一般套路
- Golang:无惧makefile
- 三星Galaxy Note20新旗舰发布会官宣:8月5日线上见
- 云知声今年要量产三款芯片,还公布了多模态AI芯片规划
- ironbot智能编程机器人_小小工程师启蒙教练就选IronBot机器人套件
- 关于pc手机端自适应开发的一些记录
- 教你轻松理解Go Ticker的用法和实现原理
- PySpark | RDD持久化 | 共享变量 | Spark内核调度
- windows 安装metis_Metis 5.1.0 安裝心得 in Win10
- flash读写导致死机问题分析
- python - 啃书 第七章 模块、包和库 (二)
- mac 工作生活常用快捷键
- [代码审计]蝉知企业门户系统v7.7存在命令执行漏洞
- 零售业无线技术应用--IP导航
热门文章
- B树、B+树、B-树特点整合
- 6.C语言 二维数组
- 2021.11.25 小组加分制度的破绽
- html添加用户与删除吗,HTML页面元素的添加与删除
- consul注册报错 connectex: No connection could be made because the target machine actively refused it.
- MySQL 错误. Packet for query is too large (*** 4194304). You can change......
- Audio的谐波失真
- 南京三只松鼠java_又出新模式?三只松鼠南京首家品牌集合店开业
- 薪酬 | 2020年 DBA薪资报告:你的待遇是否受到疫情影响?
- Android Platform Architecture 安卓平台架构