来源:机器之心

编辑:陈萍、杜伟

布朗大学计算机科学系教授、机器学习研究者、2018 年 ACM Fellow 迈克尔 · 利特曼(Michael L. Littman)在 ACM 通讯上发文斥责「部分学者正在威胁计算机科学研究的诚实性」。他在文章中指出了同行评审中可能普遍存在却无人注意到的学术道德乱象:论文作者串通一气,不择手段使自己的论文被接收。

简单来说,几位作者将各自的论文提交至顶会,相互告知论文标题,故意违反盲审规则,造成重大未披露的利益冲突。接着,他们努力成为这些论文的审稿人,并给出正面的评审意见,甚至在其他审稿人不知情的情况下游说领域主席。更过分的是,如果其他审稿人可能会影响到论文评审结果,他们会发送威胁性电子邮件。这也太可怕了,研究者为了使自己的论文被接收,竟然做到了这种地步。

Michael 教授虽未明确点名哪些会议、期刊或者哪些学者采用了这些方法,但指出了这种现象普遍存在,并且已经威胁到了学术研究的公平性和诚实性。

图左:Michael L. Littman。

Michael L. Littman 的观点获得了众多其他学者的赞同。奥地利林茨大学计算机科学系网络与安全研究所负责人、谷歌安卓平台安全主管 René Mayrhofer 表示:「很多研究文化都以诚实为准则,所以同行评审中论文作者的抱团现象令人不安。一想到我们要在积极对抗(actively adversarial setting)的环境中做研究,就感到不寒而栗。」

全栈数据科学家、机器学习工程师 Dr. T 则被学术界的抱团现象深深地震惊到了。

AI 爆火,顶会论文接收难上加难

一直以来,计算机科学学科充分且高效地利用同行评审会议论文,并将同行评审作为传播具有时效性和影响力的研究成果的重要机制。但近来,学术界试图「玩弄」评审制度的做法将破坏这种机制,并且不利于研究成果的高效分享。

Michael 教授想要提醒社区的是,一种日益严重的学术道德乱象——论文作者串通一气,正一步步蚕食计算机科学所依仗的的同行评审制度。更有甚者,造成的影响已经远远超出了计算机科学领域。

首先来看评审过程具有的几个显著特征,它们并不是某一学术会议所特有,但 Michael 教授曾参与组织的三至四个会议都具备这些特征:

  • 同行评审过程中通常会设有一个程序委员会,由一至两名程序主席、数百名领域主席以及数千名审稿人组成。评审过程中要求审稿人说明是否有利益冲突情况,力求论文审核的公正性;

  • 作者提交其论文时会被要求隐去姓名,俗称「盲审」;

  • 审稿人对提交论文的标题和摘要进行评估,判断是否符合自身评审要求。若符合,则进行投标(bid)。以近年来的 ACL 会议为例,审稿人投标过程中会对论文给出 yes/no/maybe 的选择;

  • 审稿人审核哪篇文章则由程序主席决定,在分配论文时,他们会充分尊重审稿人的投标结果并尽量避免出现公开的利益冲突;

  • 审稿人审阅分配给自己的论文并提交评审意见,并可以与「共同负责」某篇论文的其他审稿人分享各自的看法,并就接受或者拒绝论文达成一致。领域主席和程序主席也会根据评审意见做出规划。

一般来说,顶级学术会议的接收率在 15%–25% 之间,并且一篇论文在某个会议上发表的机会只有一次,所以论文被拒的概率还是非常高的。论文被接收往往能够提高研究者的声誉,对他们的职业生涯发展也有影响。学术地位的竞争也非常激烈,特别是对于研究生而言,论文被拒会对未来的职业前景造成影响。此外,在一些国家,学术会议和期刊上发表论文的数量往往与学者的职位晋升和薪资调整挂钩。

在种种压力下,研究者尽可能地把自己的工作做到最好。通常,会议截止日期前的一两个星期压力异常大,计算机满负荷运行,睡眠时间也很少。即便如此,投入再多也似乎并不足以保证成功,因为评审过程充满了随机性。2014 年的 NIPS 大会(现已更名为 NeurIPS)将会议评审分组成了两个独立的评审委员会,并让他们负责审查 10% 提交的论文。结果是,一个程序委员会接受的论文中有近 60% 被另一个程序委员会拒绝。

这表明许多论文的命运由审稿人掌握,论文本身的价值并不足以保证其被接收。为了提高论文被接收的几率,多数研究者选择更努力地创新和充实论文内容,但不可避免地,也有一些学者则选择投机取巧,甚至作弊。

重压之下,论文作者选择串通抱团

Michael 教授在文章中揭露了自己知道的一种作弊方式:论文作者串通起来。他表示:「虽然还没有公开披露细节,但调查人长时间的详细调查和分析,让我没有理由怀疑他得出的结论。」

以下是具体的作弊步骤

  • 几位作者提前串通好,将论文提交至顶会;

  • 共享彼此论文的标题,故意违反盲审原则,造成重大的未披露的利益冲突;

  • 隐瞒利益冲突,投标审核这些论文,努力成为这些论文的审稿人;

  • 对这些论文做出非常正面的评论,甚至在其他审稿人不知情的情况下,通过秘密渠道游说领域主席;

  • 如果审核到了这些论文,但是其他审稿人可能会影响结果,所以有时会发送威胁电子邮件给这些审稿人;

  • 在讨论论文过程中,临时在网上会议管理系统上改名,这或许是为了避免因支持质量较差的论文而影响自身名声。

如果这种行径没有被发现并且成功了,其结果就是一些作者会通过非常不道德的行为使论文被顶会接收。鉴于许多会议限制论文接收数量,这就意味着很多质量高的论文被拒绝。因此,会议的含金量以及整个社区的诚信会受到影响。

学术界必须对这些行为做出强有力的回应,向行为不端的论文作者和审稿人发出一个明确的信息:他们的所作所为是不可接受的。然而,除了警告他们之外,目前还没有更有效的干预措施来打击作弊者。

顶会组织者正在权衡数十项提案,但这些提案都存在一些缺陷。更好的论文分配技术将有助于弥补正在被利用的漏洞。但是,如果没有更好的调查工具,我们可能永远也无法追究这些人的责任。

目前,同行评审过程主要还是由「诚实」的参与者组成。但是,一旦不道德的行为非常普遍,「诚实」的同行评审过程将会崩溃。作弊者冒着破坏其职业成功所依赖的系统的风险。现在是时候仔细研究同行评审过程并调整激励措施了,以便每个人都能共享最佳的研究成果。

参考链接:

https://github.com/ymcui/ACL2020-PC-Blogs-Chinese/blob/master/post/5-conflict-of-interest.zh.md

https://cacm.acm.org/magazines/2021/6/252840-collusion-rings-threaten-the-integrity-of-computer-science-research/fulltext

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

论文作者串通抱团、威胁审稿人,ACM Fellow炮轰「同行评审」作弊相关推荐

  1. ACM Fellow发文抨击「同行评审」作弊:有「门道」的作者带飞,垃圾论文也能轻松中顶会...

    贾浩楠 发自 凹非寺 量子位 报道 | 公众号 QbitAI 美国知名AI学术大牛,在ACM官网刊文,直指AI学术界最尖锐的问题: 论文盲审,存在严重作弊行为. 措辞之严厉,揭露之详细,学术圈罕见. ...

  2. 论文投稿必看,审稿人意见互相矛盾,作者该怎么办?

    审稿过程中,根据各自的专业背景和研究方向的侧重点不同,不同审稿人在评审同一篇稿件时采用的视角或标准也各不相同,因此很有可能会出现审稿意见不一致甚至互相矛盾的情况.出现这种互相冲突甚至矛盾的情况时,作者 ...

  3. 整理:学术论文发表过程中的审稿人意见答复技巧

    整理:学术论文发表过程中的审稿人意见答复技巧 更新历史 20200613: 首次发布 科技论文投稿后,通常都需要答复审稿人的意见.对于审稿人的意见,不能随便敷衍,因为这会让审稿人感到不高兴,说不定转头 ...

  4. 学术圈要炸锅:论文作者和审稿人串通欺骗盲审,ACM Fellow发文痛斥!顶会“想中就中”...

    作者 | 琰琰.维克多 近日,ACM Fellow.美国里普罗维登斯布朗大学计算机科学卓越教学的罗伊斯家族教授迈克尔·利特曼(Michael L. Littman)在ACM通讯上发文,痛斥部分学者威胁 ...

  5. ACM Fellow发文抨击【同行评审】作弊轻松中顶会

    点上方计算机视觉联盟获取更多干货 仅作学术分享,不代表本公众号立场,侵权联系删除 转载于:量子位 AI博士笔记系列推荐 周志华<机器学习>手推笔记正式开源!可打印版本附pdf下载链接 美国 ...

  6. 广西专业技术人员职称个人版_「职称评审」机械工程专业技术人员如何写职称论文?...

    机械工程专业技术人员不单要掌握好相关专业技能,还有学会发现并分析解决专业问题. 职称论文可以很好的体现大家掌握和运用专业知识的能力,同时也是获评职称中不可或缺的环节. 很多完成的并不理想,出现这样或那 ...

  7. 关于期刊审稿与同行评审,论文“不为所知”的拒稿秘密在这里

    一.学术论文一般发表流程: 学术期刊的编辑在收到投稿文章之后,首先会进行编辑初审,初步审查投稿文章是否符合期刊的相关主题内容.特定质量标准与具体格式规范.如果文章大体符合期刊的各类要求,则编辑将决定进 ...

  8. 论文修 5 次后,大佬怼翻审稿人:我要改吐了,这篇怼人回复竟发了一区 SCI !(转载)

    声明:以下文章来源于生物学霸,作者Neikon 论文之于朝八晚十一辛勤工作的科研人的分量,不亚于孩子之于后宫嫔妃. 然而当你闻鸡起舞.披星戴月,用最后为数不多的珍贵发量置换成新鲜出炉的论文准备投稿,它 ...

  9. CVPR和ICLR双榜公布,最离谱审稿人竟然没读论文!

    点击上方"3D视觉工坊",选择"星标" 干货第一时间送达 来源丨新智元 随着顶会论文越收越多,审稿人手又不够,所以分配到的审稿人也是良莠不齐.最近CVPR 20 ...

最新文章

  1. Qt地址簿-加个信号及槽
  2. 类的成员函数指针和mem_fun适配器的用法
  3. ES6里的修饰器Decorator
  4. Laravel自定义验证规则的实例与框架使用正则实例
  5. html(1)基本组成
  6. php wula,PHP老师没教过你的那些知识点
  7. (5)ISE软件开发流程(第1天)
  8. 由于BOM头导致的Json解析出错
  9. 改动Xmodem/Zmodem上传下载路径
  10. Qt调用工业相机之映美精相机
  11. 计算机英语背诵发音,联想法巧记英语单词5000发音记忆法背单词
  12. 易语言打开摄像头_api摄像头拍照源代码 调用API函数创建视频设备
  13. Docker(9) 安装Oracle18c
  14. 虚拟机DEDECMS织梦建站
  15. Windows10鼠标右键增加新项
  16. 服务器硬盘sas和sata有什么区别
  17. php 豆瓣api_想调用豆瓣电影 api,谁开发过整套的 php 开源吗?或者指点下
  18. SpringBoot时区问题解决,彻底解决时差问题
  19. Vue2.0之H5元素Audio属性currentTime、duration应用
  20. 南科之旅(南方科技大学夏令营)

热门文章

  1. Face Model Compression by Distilling Knowledge from Neurons 论文理解
  2. 硬件Pythia:将现实世界桥接到区块链
  3. 谷歌新发布的分布式数据库服务,是要打破CAP定理了吗?
  4. 牛津大学最新《计算代数拓扑》笔记书
  5. 美团外卖美食知识图谱的迭代及应用
  6. GNN、RL强势崛起,CNN初现疲态?这是ICLR 2021最全论文主题分析
  7. 基金委新规:填写论文成果,不再标注通讯和一作!影响有多大?
  8. 2021美国科学天才奖发榜!16名华裔高中生入围「少年诺奖」
  9. 那些年,我们一起追过的恺明大神!
  10. iis7 文件服务器搭建,iis7 ftp服务器搭建