在Hinton看来是“宇宙答案”GPT-3,到LeCun这里却“对世界一无所知”
萧箫 发自 凹非寺
量子位 报道 | 公众号 QbitAI
“有些人对大型语言模型(类似于GPT-3)能做的事,有着不切实际的幻想……GPT-3对于这世界的运作方式一无所知。”
近日,LeCun忽然在脸书上发表了对GPT-3的看法。
LeCun表示,他的朋友已经进行了一些研究,打破了人们对“大型语言模型能被用于医疗保健行业中”的期待。
他认为,GPT-3“具有娱乐性质”,对于创造性工作来说,也许能起到一定作用。
但除此之外,LeCun指出:“指望用做大型语言模型的方式建智能机器,就跟努力造高原飞机、并期待它能登月一样不切实际。”
对此,网友炸开了锅。
到底怎么理解LeCun的评价
LeCun认为,GPT-3有一定作用,但不是以“理解”文本的方式运转。
它收集了许多文本,但当被要求预测接下来的文本时,它实际上是根据“词汇出现的概率”,而不是“世界运转的方式”来进行的工作。
获取知识vs理解语言
一部分网友的讨论,集中在GPT-3到底有没有理解世界上。
他们中的一部分认为,“获取知识”和“理解语言”是两种不同的能力。
网友leftyted认为,对于GPT-3到底有没有理解能力,其实是个哲学问题,毕竟知识和语言是两码事。
他认为,如果语言里没有各种各样的隐喻,那么GPT-3在掌握知识这方面,与人类有同样的能力。
△理解本身就很困难
但网友babesh认为,要是将语言和知识分开讨论,那么GPT-3更无法获得世界的全部知识。因为很多东西能用感官感觉到,但如果没有想象力的话,这种感官上的“知识”根本无法存在。
GPT-3真的能用吗?
另一些网友则认为,LeCun所说的“GPT-3无论是对话、还是问答能力都不太行”这个观点,其实不太正确。
事实上,好些用过GPT-3网友表示,它的能力还是超乎想象的。
网友neuro_thing认为,LeCun能得出这样的结论,说明他的团队肯定做过相关研究了。
但就他使用GPT-3的情况来看,它很方便、且效果出色。不仅如此,这位网友还表示,就他所知,GPT-3已经取代了两位机器学习工程师的工作。
当然,也有人反驳这样的观点。
网友confuseshrink认为,即使认为GPT-3很有用,但只要不信任它的输出,甚至需要手动检查结果,那它的确没有想象中那么有用。
“别对GPT-3上限有期待”
也有一些网友认为,LeCun真正想表达的,其实不是GPT-3有没有作用,而是它的上限究竟有多高。
网友moultano认为,LeCun本意并不是“GPT-3没什么特别的”,只是他认为,继续堆叠大型语言模型的做法,没有前途。
△“房子再高,也登不上太空”
但无论如何,对于像GPT-3这样的AGI(通用人工智能)到底能走到哪一步,大神们都已经表达过自己的看法。
GPT-3:Hinton赞叹,Bengio和LeCun都不看好
三位图灵奖获得者,Geoffrey Hinton、Yoshua Bengio和Yann LeCun,对关于GPT-3这类通用人工智能,给出了不同的看法。
Hinton表示,从GPT-3出色的性能可以推断,生命、宇宙和万物的答案“不过是4.398万亿个参数而已”。
不过,相比于Hinton的观点,LeCun对于AGI这一类模型都不看好。
LeCun认为,无论是自监督学习、还是神经生物学,也不足以实现通用人工智能(AGI),即使是任何具有“理解”能力的智能机器,也不可能实现。
“AGI不存在——根本就没有通用智能这种东西。”LeCun认为,“可以说机器拥有老鼠级别的智力、猫级别的智力、狗级别的智力、人类级别的智力,但这些都不是AGI。”
相比之下,Bengio则认为,如果不从“理解”的角度去谈论通用人工智能,它或许也会有自己的作用。
Bengio觉得,机器最后的确可以获得、并使用关于世界的所有知识,但不是以“理解”语言的方式,而是以类似于“口述”的方式。
不过,Bengio仍然期待机器拥有“理解”能力。
“我认为,文化是人类如此聪明且能够解决问题的一个重要原因……如果真的希望AI有点用,那么机器不仅需要翻译能力,更需要理解语言的能力。”
Yann LeCun脸书主页:
https://www.facebook.com/yann.lecun
参考链接:
https://twitter.com/geoffreyhinton
https://news.ycombinator.com/item?id=24907318&fbclid=IwAR2mN_6HoLeEumQzYmvDGJrE7SldBFhB98PHp0oaWAWugBx6xmYhBTCGKbA
https://venturebeat.com/2020/05/02/yann-lecun-and-yoshua-bengio-self-supervised-learning-is-the-key-to-human-level-intelligence/
https://venturebeat.com/2020/06/01/ai-machine-learning-openai-gpt-3-size-isnt-everything/
— 完 —
本文系网易新闻•网易号特色内容激励计划签约账号【量子位】原创内容,未经账号授权,禁止随意转载。
「百度AI开发系列课」免费报名!
11月4日,百度资深工程师带你0代码定制企业级NLP模型!扫码添加量子位小助手(qbitbot12)、加入课程直播群吧~▽
p.s.参与群互动、完成课堂任务还有机会获得100元京东卡、《智能经济》图书等礼品哦~
量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追踪AI技术和产品新动态
一键三连「分享」、「点赞」和「在看」
科技前沿进展日日相见~
在Hinton看来是“宇宙答案”GPT-3,到LeCun这里却“对世界一无所知”相关推荐
- “星际穿越”观后感(宇宙只是界面,科技永远触摸不到世界的本原)
今天刚看完诺兰的"星际穿越",三个小时的电影确实给人一种震憾的感觉.看完后总有"一种声音"催促自己写上几行. 现在流行各类PAD.智能手机.当阅读长文时,在灵敏 ...
- Hinton口中破解宇宙终极秘密的GPT-3厉害在哪?这有篇涂鸦详解
大数据文摘出品 编译:王绍宇. Andy GPT-3最近又开始火起一阵,关于GPT-3的各种精彩文章现在也很多,其中不光有展示了它生成结果的,也有对结果一些思考的,还有可视化其工作原理的. 由于GPT ...
- 元宇宙研讨会-空间设计与交互技术构造的叙事世界
前言 本月开始我们开启了沉浸式行业教育研究系列的内容,旨在给想要从事沉浸式体验设计相关职业的学生提供选校和职业规划方面的指导与支持.从而唤起教育行业对沉浸式体验设计的关注,让更多的教育工作者.从业者. ...
- 元宇宙「虚拟世界」,构建身临其境的社交世界
创建一个虚拟身份,进入到"虚拟世界"与其他玩家产生更真实的互动,这一更具沉浸感的社交方式让人们无限遐想. 面对此次社交方式的升维,凭借着多年在实时互动领域的技术积累,和多次与客户的 ...
- 浅析 Hinton 最近提出的 Capsule 计划
http://blog.csdn.net/omnispace/article/details/78061776 这有可能也是知乎上面分析介绍深度学习最为全面的文章之一.希望做物理的,做数学的,做生物的 ...
- Hinton努力推翻自己积累了30年的学术成果,我才知道什么叫生命力!
源|图灵人工智能 Hinton,这个以"深度学习之父"和"神经网络先驱"响彻AI领域的名字,他的一举一动,都是热点导向. 当我们远望一位顶级人物时,除了他的学术 ...
- 【转载】Hinton“深度学习之父”和“神经网络先驱”,新论文Capsule
Hinton"深度学习之父"和"神经网络先驱",新论文Capsule将推翻自己积累了30年的学术成果时 Hinton"深度学习之父"和&qu ...
- Hinton“深度学习之父”和“神经网络先驱”,新论文Capsule将推翻自己积累了30年的学术成果时...
Hinton"深度学习之父"和"神经网络先驱",新论文Capsule将推翻自己积累了30年的学术成果时 在论文中,Capsule被Hinton大神定义为这样一组 ...
- Arm收购进展、元宇宙、GPU涨价……听听黄仁勋怎么说
今年的台北国际电脑展 (Computex) 于 6 月 1-5 日在线上召开,期间 NVIDIA CEO 黄仁勋接受了媒体的线上群访,本文对采访内容进行了翻译与整理. 对厨房情有独钟的黄教主,走出了厨 ...
最新文章
- redis灵魂拷问:如何使用stream实现消息队列
- Java Socket实现WebSocket服务器
- python怎么识别拼音-python获取一组汉字拼音首字母的方法
- 多路 IO 转接 :poll 函数
- 《图解服务器网络架构》 学习笔记
- SI,PI,EMC/EMI和RF-电路设计名词讲解
- Kali Linux 网络扫描秘籍 第七章 Web 应用扫描(二)
- 【Express】—get传递参数
- 罗永浩回应“鲨鱼皮技术遭质疑”;消息称马蜂窝开启裁员;Dart 2.7 发布 | 极客头条...
- HSQL之窗口-聚合-分析函数
- 广义表详解(C语言版)
- 静态图片怎么做成gif图?如何将静态图做成动态图
- c++字符串转换为数字(stoi, stol, stoul, stoull, stof, stod, stold)
- socketDemo套接字
- 转 给SSD(固态硬盘)编程
- Java 套接字(Socket)
- Python 中5种下划线的含义都是什么?
- 地下城英雄 java_用java开发dota英雄最华丽的技能(实例讲解)
- java计算乘地铁费用_蓝桥杯-地铁换乘
- 为什么英语学习得不到我们想要的效果?
热门文章
- 如何在ImageView中缩放图像以保持纵横比
- Alpha冲刺总结随笔
- Linux命令学习记录(六)
- 最新蓝牙版本助力实现“无连接式” 物联网
- 将Doc或者Docx文档处理成html的代码逻辑;统计word中的字数,段数,句数,读取word中文档内容的代码逻辑...
- 如何基于MySQL及Redis搭建统一的kv存储服务 | 秦波
- js字符串转化为方法调用
- 使用ISDN和DDR技术改善远程连接性能
- MyBatis框架学习 DAY_02:使用XML配置文件/多参数问题 / FOREACH /IF / #{}和${} / 创建SSM框架流程
- java hellowordk_Rhythmk 一步一步学 JAVA(4):Spring3 MVC 之 Hello Word