大型神经网络可能初具意识:OpenAI首席科学家引争议,众大佬吵成一团
边策 萧箫 发自 凹非寺
量子位 | 公众号 QbitAI
“今天的大型神经网络可能已经初具意识了。”
OpenAI首席科学家Ilya Sutskever在Twitter上撂下这句话,可谓语不惊人死不休。
这下可让AI圈炸开了锅,人工智能、神经科学领域专家的回复滚滚而来。
反击最激烈的就是图灵奖得主、Meta AI首席科学家Yann LeCun。
LeCun当场回击,学界大佬纷纷下场
LeCun对此的第一条回复是这样的:
不同意!(目前的AI)没有达到“稍微有意识”的下限,甚至还没有达到“大型神经网络”的上限。
他还说,如果非要给现阶段的AI下定义,那么:
我认为你需要一种当前网络都不具备的特定类型的宏架构。
见到自家员工和当初创业伙伴被怼,OpenAI联合创始人Sam Altman也亲自下场评论:
OpenAI的首席科学家表达了对一个神秘想法的好奇心和开放性,用的是“可能”一词做前提。
而Meta的首席AI科学家却斩钉截铁地说“不”。
下面这句语气略有些嘲讽,似乎是在暗示OpenAI因开放的态度取得了更多成果。
这可能解释了过去5年的很多情况。
推文结尾处,Sam Altman还不忘挖竞争对手墙脚:
尊敬的Meta AI研究人员:我的电子邮件地址是 sama@openai.com。我们正在招聘!
接着,LeCun还拉上了OpenAI另一位联合创始人马斯克,以后者航空与航天技术差异做对比。
一个人可以建造更快的飞机,并打破高度纪录。
但如果一个人的目标是进入太空轨道,就必须研究低温罐、涡轮泵等。
不要那么华而不实。你可以去问问马斯克。
除LeCun外,其他AI界人士也对OpenAI此番言论口诛笔伐。
知名AI专家、新南威尔士大学教授Toby Walsh插话说:
每次有这种投机性言论放出,我们都需要花好几个月的努力,才能让人们消除疑虑。
DeepMind高级研究科学家这样嘲讽道:
如果这种观点成立的话,那么大片麦田里可能也有一点意大利面。
虽然在Twitter上批评占据了多数,但仍有一些支持OpenAI的言论。
一位来自MIT CSAIL的研究员Tamay Besiroglu表示:
看到这么多著名的机器学习人士嘲笑这个想法,真是令人失望。
这让我对他们能够解决未来几十年一些重要问题的能力降低了希望。
他认为,像OpenAI而不是Meta这样的实验室更有可能解决在不久的将来在该领域出现的深刻、奇怪和重要的问题。
另外,这次吵架还有个意外的收获,那就是Sam Altman透露了GPT-4的最新消息。
从他的表述来看,GPT-4很可能是GPT-3的延续。
去年,为OpenAI提供超大型AI芯片WSE-2的公司Cerebras透露,GPT-4约有100万亿个参数,而且还要等上好几年。
回到这场争论风暴的“核心”来看,究竟是什么让Ilya Sutskever发出这样的感慨?
或许从他的经历中可以窥见一斑。
从最初的AlexNet,到后来的AlphaGo,再到见证GPT-3和Codex等模型的横空出世,几乎每一次AI领域的“破圈”技术,都有他参与其中。
在AGI道路上“越走越远”
Ilya Sutskever本硕博毕业于多伦多大学,曾经是Geoffrey Hinton的学生。
事实上,Sutskever正是AlexNet的作者之一。
2012年,在Hinton老爷子的指导下,他和Alex Krizhevsky共同设计了这个架构,在当年ImageNet挑战赛上夺冠,比第二名错误率低10.8%。
Hinton创办的DNNResearch被谷歌收购后,Sutskever加入谷歌大脑任研究科学家。
他曾经参与开发著名的AlphaGo,成为众多论文作者之一,后者在2016年的围棋比赛中4比1击败了李世乭。
在谷歌期间,他还与谷歌大脑的另外两名科学家合作,提出了NLP经典框架之一seq2seq算法。
2015年末,Sutskever离开谷歌,与马斯克、Sam Altman等人共同创立OpenAI。
2018年,在干了两年多研究主管(research director)之后,他成为OpenAI的首席科学家(chief scientist)。
可以说OpenAI从GPT-2研发到GPT-3,从击败DOTA2冠军战队的Rerun到会写代码做游戏的Codex,他都是亲身参与其中的见证者之一。
在他的引领下,OpenAI正在逐渐走向AGI(通用人工智能)的道路。
2021年年初,多模态模型DALL·E和CLIP出现,打通了文字和图像之间的连接道路。
当时OpenAI就提出研究表示,CLIP与人类的思维方式非常相像,让网友直呼AGI的到来比想象中要快更多。
同样是去年,GitHub和OpenAI合作推出自动补全代码工具GitHub Copilot,AI开始get到部分程序员的技能。
而就在今年年初,OpenAI研究的数学AI模型Lean再进一步,加上神经定理证明器后成功解出了两道国际奥数题。
如今OpenAI正在研究百万亿参数大模型GPT-4,或许这也与Sutskever发出的这句感慨有关。
“200亿参数AI连加减法都搞不定”
但其实,AGI的道路看起来也没有那么明朗。
至少就在最近,纽约大学助理教授Brendan Dolan-Gavitt发现,200亿参数的大模型GPT-NeoX连最基础的整数算术题都做不对。
GPT-NeoX并非OpenAI官方的模型,而是一个名叫EleutherAI的机器学习小组搞出来的开源大模型(因为GPT-3没开源)。
△部分结果展示
在Brendan出的100道题目整数加法、减法和乘法中,AI只算对了10道题,虽然其他的答案与正确答案也“差不多”,但毕竟还都是算错了。可见AI并没有真正理解四则运算。
至于“神经网络到底有没有自我意识”这场讨论,网友们同样发表了自己的看法。
有网友认为,这些大佬与其说是在讨论AI有没有意识,不如说是他们在讨论定义是什么:
也有人调侃,深度神经网络进入“玄学”深水区了:
还有网友在这场讨论的评论区放了个机器人的魔性表情包,“AI眉头一皱,意识到事情并不简单”:
对于“神经网络初具意识”这个观点,你认为呢?
参考链接:
[1]https://futurism.com/conscious-ai-backlash
[2]https://weibo.com/5124470749/LfhTasFiP
[3]https://www.linkedin.com/in/ilya-sutskever/
[4]https://twitter.com/ilyasut/status/1491554478243258368
[5]https://twitter.com/sama/status/1492645047585570816
[6]https://en.wikipedia.org/wiki/Ilya_Sutskever
[7]https://openai.com/blog/authors/ilya/
[8]https://gist.github.com/moyix/267d122f9d92268e3432b05f08976816
大型神经网络可能初具意识:OpenAI首席科学家引争议,众大佬吵成一团相关推荐
- 独家|GPT-4重要缔造者、OpenAI 首席科学家:人工智能不吃人
在荷马的史诗巨作<奥德赛>中,独眼巨人赛库斯·波吕斐摩斯将奥德修斯和他的船员困在他的洞穴里,意图将他们吃掉.但奥德修斯设法弄瞎了巨人的眼睛并成功逃脱. 人工智能不会吃掉我们. 文 | Cr ...
- ChatGPT背后真正的英雄:OpenAI首席科学家Ilya Sutskever的信仰之跃
导读 ChatGPT的横空出世万众瞩目,但我们不应忘记在它背后默默无闻的天才.Ilya Sutskever是OpenAI的联合创始人和首席科学家.正是在他的领导下,OpenAI在开发尖端技术和推动人工 ...
- 英伟达CEO黄仁勋对话OpenAI首席科学家,谈GPT-4及未来大模型
来源:机器之心 在今年的 GTC 上,NVIDIA 创始人兼首席执行官黄仁勋与 OpenAI 联合创始人.首席科学家 Ilya Sutskever 进行了一场深度对话,讨论了 GPT-4.ChatGP ...
- 大型AI已有自主意识了?LeCun开喷Open AI首席科学家
点击上方"视学算法",选择加"星标"或"置顶" 重磅干货,第一时间送达 来源丨新智元 编辑丨极市平台 导读 作为AI界的明星研究所,老是搞事 ...
- Google谷歌首席科学家:神经网络的奇妙特性与应用
文/董飞 2016年3月7日,谷歌首席科学家,MapReduce.BigTable等系统的创造者,Jeff Dean受邀韩国大学,演讲主题<大规模深度学习>,这里部分来自highscal ...
- 融云首席科学家任杰:数字游民和意识体,疫情将如何影响人类社会进化
杰说 解说通信.代码与科技 融云首席科学家任杰 第一视角行业观察 前阵子居家,大家都在家办公.学习.我跟孩子一人对着一个屏幕,我开视频会议,他上网课. 我观察,一节 45 分钟的课,小朋友最多能集 ...
- 一周AI看点 | 北航设立全国首个人工智能专业,前IBM沃森首席科学家任京东副总裁
本期一周AI看点包括AI行业要闻.投融资.技术应用.业界观点以及技术前沿. 行业 [北航设立全国首个人工智能专业:与百度合作办学] 近日北京航空航天大学宣布该校软件学院将设立全国首个人工智能专业,并与 ...
- 【财富空间】卡耐基梅隆首席科学家大卫·伯恩:机器人学与商业机遇
本文转载自中国人工智能学会(ID:CAAI-1981) 2017年12月11日,国际知名机器人专家.美国卡耐基梅隆大学机器人研究所所长马歇尔·赫伯特(Martial Hebert)教授和首席科学家大卫 ...
- WAIC | 时识科技首席科学家:低功耗人工智能计算系统中的类脑策略
在 WAIC 2021 AI 开发者论坛上,苏黎世大学与苏黎世联邦理工学院终身教授.苏黎世神经信息研究所 INI 所长.SynSense 时识科技联合创始人 & 首席科学家 Giacomo I ...
最新文章
- Struts 2:處理一個form多個submit
- 2020年全球数据中心基础设施收入1650亿美元
- 如何查他人【思科CCIE证书真伪、有效期】
- 全球及中国生物柴油行业产量规模及市场消费需求预测报告2021-2027年
- 丑憨批的爬虫笔记1(导学+requests))
- 保证全对——2015年第六届蓝桥杯C/C++ B组部分解题报告
- 《终身成长》读书笔记(part8)--努力的过程并不只包含努力本身
- system v共享内存
- Linux Futex的设计与实现(转)
- 传统量化与ai量化对比_量化AI偏差的风险
- 微信小程序列表局部(单条)刷新
- [原创工具] SangoExplorer - 《三国群英传》全系列资源浏览器
- mysql 异常码1903_Mysql 异常。 寻求帮助
- 一次业务逻辑优化,竟然解决了MySQL CPU消耗800%的性能问题!
- ant 中文手册--下载安装
- Coding 配置SSH凭据
- sanity测试_Sanity.io入门-您可以自定义的无头CMS
- 金融衍生工具考前最后一练
- 如何彻底卸载SQL Server 2008
- xshell选项卡不见了