“所有的真理都经历了三个阶段:第一,被嘲笑; 第二,被强烈反对;第三,被不证自明地接受。“Gary Marcus引用叔本华的这段话为自己的另一篇万字长文进行了开篇,以回应他近期面对的“推特上的成千上万条质疑”。

1月初,一直对深度学习持质疑态度的纽约大学教授、人工智能创业者Gary Marcus在arxiv上发布了一篇长文,列举十大理由,质疑深度学习的局限性,在AI学术圈又掀起了一轮波澜。

Gary Marcus文章地址:

https://arxiv.org/ftp/arxiv/papers/1801/1801.00631.pdf

今天凌晨,针对学术圈(推特圈)对这篇文章的质疑(查看大数据文摘相关报道《Marcus十大理由质疑深度学习?LeCun说大部分错了》), Marcus又发了一篇长文,他总结了这次论战中14个常见的问题,并一一给出答案,来回应各种挑战。

无监督学习更适合哪些领域?

为什么我不会谬赞深度学习?

为什么我最有权讨论这件事?

Gary Marcus是被Uber收购的人工智能初创公司 Geometric Intelligence 的创始人兼CEO,同时是纽约大学心理学及神经科学教授。大数据文摘对这些问题进行了摘要,以下为精华内容:

质疑1. 什么是通用人工智能(general intelligence)?

机器学习的著名教授、迄今为止最佳评论家Thomas Dietterich教授给出了一个很好的答案,我很满意:

“通用人工智能”是一个广泛目标和环境下的智能系统。例如,参见Russell和Norvig的教科书,以及他们对“智能“的定义——“理性行事”。

质疑2. Marcus对深度学习不够友好,他没有提及深度学习的各种成绩,并低估了其他人(的研究)。

上面提到的Dietterich提出了这两点:

@GaryMarcus的文章令人失望。他几乎没有谈到深度学习的成就(如NL翻译),并低估了其成绩(例如有1000个类别的ImageNet依然很有限)。

关于深度学习的成绩,我确实可以说得更多,但我不是没有说,我在第一页提到了深度学习的成就:“自那时以来,深度学习在语音识别,图像识别和语言翻译等领域取得了许多成就,并在当前广泛的AI应用中发挥着重要作用。”

并且,在文章最后我引用了几个文本和博客,提及了很多例子。不过,这些大部分并不算是通用人工智能,这是我的论文的主要论点。 (例如,Google翻译做得很棒,但其并不是通用的,例如,它不能像人类翻译员那样,回答关于翻译内容的问题。)

质疑的第二部分更具实质性。 1,000个类别真的非常有限吗?与认知的灵活性相比,我认为是的。认知科学家通常认为,每个人认知的元素概念大概有5万个数量级,我们可以很容易将这些概念组合,获得更多的复杂想法。

你可以在谷歌图像上搜索的“宠物鱼”,给出的图片还不错;但是,再试一下“佩戴护目镜的宠物鱼”,你会搜到大量带护目镜的狗的图片,误报率超过80%。在辨认狗的种类这种问题上,机器会比人类更强,但是在描述复杂场景的时候,人类更有利。

在我看来,把机器学习问题集中在1000个类别块上,也限制了其解决更开放的问题(比如场景和句子理解)。

质疑3. Marcus说深度学习是无用的,但深度学习对很多问题都很有用。

深度学习当然是有用的,我的观点是:

在目前的监督学习形式下,深度学习可能正在接近其极限,

这些极限将使通用人工智能不能完全实现。

我的结论的核心是这样的:

尽管我勾勒了许多问题,但我不认为我们需要放弃深度学习。

相反,我们需要对其进行重新概念化:不是作为一种普遍的溶剂,而是作为众多工具中的一种。如果深度学习比喻为电动螺丝刀,那么我们还需要锤子、扳手和钳子。

质疑4. Marcus说DL对分层结构不好,但LeCun的《自然》综述中说,其特别适合于这样的层次结构。

阅读原文

Gary Marcus再发万字长文,列14个QA回应机器学习批判言论相关推荐

  1. Hinton,Lecun和Bengio三巨头联手再发万字长文:深度学习的昨天、今天和明天

    来源:ACM 编辑:Priscilla Emil 转自:新智元 2018年,ACM(国际计算机学会)决定将计算机领域的最高奖项图灵奖颁给Yoshua Bengio.Yann LeCun 和 Geoff ...

  2. 「我是可微分编程的粉丝」,Gary Marcus再回应深度学习批判言论

    近日,Gary Marcus 针对各研究者与开发者的评论作出了回应,他从什么是通用人工智能开始回应了常见的 14 个质疑或问题,其中就包括 LeCun 所说的「mostly wrong」.此外,Mar ...

  3. 女友问粉丝过万如何庆祝,我发万字长文《保姆级大数据入门篇》感恩粉丝们支持,学姐|学妹|学弟|小白看了就懂

    2021大数据领域优质创作博客,带你从入门到精通,该博客每天更新,逐渐完善大数据各个知识体系的文章,帮助大家更高效学习. 有对大数据感兴趣的可以关注微信公众号:三帮大数据 目录 粉丝破万了 新星计划申 ...

  4. V神全面回应币安下架BSV:万字长文、4大要点 (全文)

    "下架不会让人们无法交易BSV,但确实引发了社会对BSV的强烈谴责,这是有用且必要的." 来源 | 火星财经 作者 | 杜会堂 褚杏娟 梁雨山 "完全同意并支持下架BSV ...

  5. 火遍AI圈的万字长文,Lecun却说“标题太好笑,作者发推宣战:欢迎来辩!

    明敏 发自 凹非寺 量子位 | 公众号 QbitAI Lecun一句话,恐怕又要引来一场唇枪舌战了. 这个标题错得太荒谬了,太搞笑了. 他所说的这篇文章不是别的,正是最近在圈内引起了一波讨论热潮的&l ...

  6. uiautomation遍历windows所有窗口_万字长文!滑动窗口看这篇就够了!

    大家好,我是小浩.今天是小浩算法 "365刷题计划" 滑动窗口系列 - 整合篇.之前给大家讲解过一些滑动窗口的题目,但未作系统整理. 所以我就出了这个整合合集,整合工作中除了保留原 ...

  7. OpenAI“单手解魔方”被公开质疑,Gary Marcus称七大问题涉嫌误导

    全世界只有3.14 % 的人关注了 青少年数学之旅 近日,"OpenAI的机器手在4分钟内单手成功还原魔方"引起刷屏,然而,这一成就被著名机器学习怀疑论者马库斯质疑了,马库斯逐条列 ...

  8. transformer模型_【预训练模型】万字长文梳理NLP预训练模型!从transformer到albert...

    公众号关注 "ML_NLP"设为 "星标",重磅干货,第一时间送达! " 万字长文梳理NLP预训练模型的发展历程,从transformer到alber ...

  9. c++ ftp服务端_重磅干货||五万字长文总结:C/C++ 知识(下篇)

    结识更多同行,共同讨论"嵌入式"技术.欢迎添加社区客服微信,备注发送"电源+公司名(学校)+职位(专业)"拉您入群. 回顾上篇:五万字长文总结:C/C++ 知识 ...

  10. Jeaf Dean万字长文回顾2020谷歌技术发展(上)

    转载自:新智元 编辑:QJP,小匀   [导读]2021年已经度过十余天,谷歌Jeff Dean也在酝酿后在Google Blog发表了一篇万字长文,回顾了谷歌AI2020年的发展与成就,同时,也展望 ...

最新文章

  1. JS 设计模式 四(单例)
  2. sts引入lombok_Spring Boot中lombok的安装与使用详解
  3. delphi libeay32 各版本_Zbrush各版本合集
  4. 单例设计模式-饿汉式
  5. 王爽汇编第二册:将每个单词的前四位改为大写字母
  6. linux模式匹配,sed的模式匹配用法探讨
  7. 【转】nginx+iis实现负载均衡
  8. 水松纸缺陷在线检测系统
  9. java8 131下载_jdk 8u131下载
  10. 1080i和1080p区别
  11. Android中的占位符
  12. linux中mv、cp、rm分别是什么意思
  13. 新华三HCL链路聚合
  14. bootstrap 轮播插件
  15. 斑马打印机gk888t的安装和使用
  16. 浅谈变压器(主要是电子高频变压器)
  17. Array和Arrays
  18. 新想法 | 按需视觉识别:愿景和初步方案
  19. 【机器学习-K近邻算法】
  20. 摄像机标定_张正友标定算法原理详解

热门文章

  1. 浅析 HLS 流媒体协议
  2. 贵州省计算机职称考试时间2015年,关于2015年8月份贵州贵阳职称计算机考试安排通知...
  3. 移植NES模拟器到STM32G431 详细移植教程 CubeMX HAL库
  4. 读 Robert C. Solomon 之 《世界哲学简史》
  5. [luogu] P1682 过家家 并查集
  6. 基于OpenSSL,实现C语言SM2的PKCS10的证书请求
  7. Spring实战学习笔记整理(4)-AOP(面向切面编程)
  8. 双机互联攻略之超强、完全篇!
  9. Unity3D插件之FingerGestures:手势插件
  10. 人均劳动生产率的单位_生产率的单位是什么?