来源:云头条

据深度学习界的领军人物Yann LeCun声称,AI的下一个发展阶段可能是摈弃深度学习的所有概率技巧,改而掌握不断转变的能量值。

据说工程师(以及一些科学家,但以工程师为主)早在坐到板凳上搞设计之前就能够在头脑中构思尚不存在的东西。

Facebook的AI负责人Yann LeCun似乎再符合这个形象不过了。

他在《当机器学习时》(When the Machine Learns)一书中写道:“我主要凭直觉来工作。”周三出版的这本新书既是一本传记,又是科学讲座,还是AI历史,法语版书名是《Quand la machine apprend》。

LeCun写道:“我在脑海里勾勒出那些不大合乎标准的情况,爱因斯坦称之为‘思想实验’。”

LeCun在台上神情激昂,试图向听众介绍AI领域来自其思想实验的新知

工程师和创新者的标志就是能够构思不存在的东西,也许是在通常认为可行的极限内。LeCun是AI界的罕见天才,这位科学家不仅精通算法设计,还在计算机工程领域颇有建树。

LeCun今年因其对计算机科学的杰出贡献获得了ACM图灵奖,他最出名的是在1990年代改进和完善了卷积神经网络(即CNN),并使其具有实用性。他并没有从头开始发明CNN,却使CNN具有实用性和可行性。前人奠定了机器学习革命的基础,从而让LeCun以及另外两位获得图灵奖的Geoffrey Hinton和Yoshua Bengio在过去十年脱颖而出。

周三,LeCun在新泽西州普林斯顿高等研究所上台解释听起来如直觉的理论,但实际上是很完善的直觉。这次会议是为期三天的深度学习研讨会,具体来说主题是深度学习理论。活动由高等研究所的数学教授Sanjeev Arora组织,吸引了AI界的诸多大咖,包括英伟达的AI研究负责人Anima Anandkumar和与LeCun同为Facebook学者的Léon Bottou。

LeCun的幻灯片演示文稿阐述了他最近多次出席讲座所探讨的主题:如何超越传统深度学习的标记训练例子。他对听众说:“在监督或多任务学习方面,我们不会获得像人类那样强大的智能。我们将不得不另辟蹊径。”

LeCun认为,这条另外的蹊径就是无监督学习。为了使无监督学习成为可能,整个AI界可能需要在基于能量的学习(energy-based learning)这种方法上做更多的工作。

能量函数(energy function)在AI界已经存在了数十年。生物学家John Hopfield于1980年代以后来所谓的Hopfield网络(Hopfield Network),首次普及了这种方法。这在当时的机器学习界是一大突破,它催生出了其他类型的学习算法以处理能量场中有待优化的概念,比如Hinton研究的“玻尔兹曼机”。

LeCun说:“基于能量的学习问世已有一段时日;由于需要做的监督工作较少,最近它回到了我的脑海中。”

细节很快变得深奥起来,但是其基本思想是,只要拿来一些丰富的原始数据,比如许多YouTube视频片段,然后馈送给机器,而不是创建大量的标记数据集(比如猫和狗的图片),或者像DeepMind的AlphaZero那样花数千个小时下国际象棋。

LeCun说:“使机器真正很庞大,让它整天看YouTube或Facebook Live。”

可以训练机器以预测每帧视频之后的下一步。预测与现实之间的兼容性就是所谓的能量级。能量级越低越好、越兼容,这意味着越准确,因此神经网络试图达到理想的低能量状态。

LeCun在台上讲起细节之处兴致盎然。他向观众演示了不确定性,笔直注视,来回摆动双臂。LeCun说:“你现在看着我,你在拍我的视频,背景没有变,摄像头没有动。”

“唯一发生的事情是,我可以朝一个方向或另一个方向移动头部,可以以不同的方式移动肌肉,眼下我在这次演讲中我头部的所有图片就是低维流形,以我头部的肌肉数量为上界。”

LeCun传达的讯息在机器学习方面可以说相当激进。按照LeCun的看法,能量函数摈弃概率预测。他说:“我认为,这方面的正确框架就是实际摈弃概率框架,因为它是错误的。”他说,典型的神经网络势必会有“无限权重”,而这“完全是错误的,也没有用。”

很显然,LeCun在设想尚未设计的东西,并试图告知众人。但是其中一些还需假以时日。LeCun随后搭飞机去巴黎与新闻记者会面讨论这本书。本周他上了法国杂志《新观察家》的封面,畅谈AI的希望和危险。他是人人都为之激动或不安的一场运动的领头羊。几十年来,LeCun及其他人士能预见到它,但方法不管用。现在看来新方法效果很好,得由某人来担任监察员,那人就是LeCun。

未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

前方高能!AI 大牛 LeCun 设想下一个新前沿:摈弃深度学习的所有概率技巧,改而掌握不断转变的能量值...相关推荐

  1. 周伯文对话斯坦福AI实验室负责人:下一个NLP前沿是什么?

    出品 | AI科技大本营(ID:rgznai100) 10 月 31 日,在北京智源大会上,京东集团副总裁兼人工智能事业部总裁.智源-京东联合实验室主任周伯文,斯坦福人工智能实验室负责人(SAIL)C ...

  2. 神州数码云业务:奔向下一个新百亿

    在2018年,神州数码云业务获得了近200%左右的增长. 之前,我看到来自第三方分析机构的报告显示,到2020年,全球云计算市场规模年复合增长率也就超过20%左右,中国云计算整体市场规模年复合增长率也 ...

  3. 如何判断一个面试者的深度学习水平?| 文末送书

    来源:https://www.zhihu.com/question/41233373/answer/255954147 编辑:深度学习与计算机视觉 声明:仅做学术分享,侵删 在深度学习方面你是否也像下 ...

  4. 百度 AI Studio——《高层API助你快速上手深度学习》课程学习1

    百度 AI Studio--<高层API助你快速上手深度学习>课程学习1 该系列文章系个人读书笔记及总结性内容,任何组织和个人不得转载进行商业活动! 相关链接: 飞桨:飞桨开源框架(Pad ...

  5. 论文合集 | 李飞飞新论文:深度学习代码搜索综述;Adobe用GAN生成动画(附地址)...

    来源:机器之心 本文约3200字,建议阅读7分钟. 本文介绍了李飞飞新论文,深度学习代码搜索综述,Adobe用GAN生成动画. 本周有李飞飞.朱玉可等的图像因果推理和吴恩达等的 NGBoost 新论文 ...

  6. 推荐一个好用的深度学习云平台--Floyd

    前些天在逛知乎的时候发现了一个好东西,一个非常好用的深度学习云平台--Floyd.它是一个非常便捷的深度学习云计算平台,虽然我前面已经搭建过了GPU版本的tensorflow,但是在速度上还是比不上在 ...

  7. 推荐 | 一个统计硕士的深度学习算法工程师的成长之路

    公众号推荐 推荐人/文文 俗话说,一个人走得快,但一群人可以走的远.在数据科学和机器学习的道路上,相信每个人都不是闭门造车的人.技术学习除了在个人努力外,交流和分享也是很重要的一部分. 今天给大家推荐 ...

  8. 如何去判断一个面试者的深度学习水平?

    点击上方"视学算法",选择加"星标"或"置顶" 重磅干货,第一时间送达 编辑:Amusi  |  来源:知乎 https://www.zhi ...

  9. OpenCV4.0-alpha发布!新增多个深度学习特性

    OpenCV4.0-alpha发布!新增多个深度学习特性 (欢迎关注"我爱计算机视觉"公众号,一个有价值有深度的公众号~) 本定于2018年7月发布的OpenCV4.0再次跳票,昨 ...

最新文章

  1. 松翰松翰c语言编程指导,松翰C程序检单例程代码下载
  2. PHP支持http2,swoole-1.8.2 已发布,支持Http2.0协议
  3. MIT谷歌大脑用AI破解失传的古代文字,被称“现代版罗塞塔石碑”丨ACL 2019
  4. 修改initrd做miniLinux
  5. python爬虫代码实例-Python爬虫爬取百度搜索内容代码实例
  6. C++的沉迷与爱恋——侯捷
  7. JZOJ 3648. 【GDOI2014】beyond
  8. 安装SQL SERVER 2000时提示:以前的某个程序安装已在安装计算机上创建挂起的文件操作。...
  9. ext中引用ux_Ext.ux.form.SearchField使用方法
  10. 普通一维数组、二维数组、字符串及其指针类型
  11. c++ 门面模式(Facade)
  12. java数据库编程——执行查询操作(一)
  13. 实时计算无线数据分析
  14. google的一些秘密入口
  15. Codeforces Round #524 (Div. 2) Masha and two friends
  16. matlab 的 legend 用法
  17. CDOJ 1330 柱爷与远古法阵(高斯消元)
  18. 说到正版软件方面,留意下,其实还是蛮多的
  19. 超好用的两行java代码能获取几乎所有文件的contentType,返回前端能在浏览器上直接打开
  20. 每日一篇系列---CSS3实现下雨动效

热门文章

  1. 统计学常犯的18个错误,请务必跳过这些坑!
  2. Yarn已过时!Kubeflow实现机器学习调度平台才是未来
  3. PyTorch 源码解读之即时编译篇
  4. 加拿大阿尔伯塔大学韩杰教授招收电子与计算机专业博士/博后
  5. 学术新星畅谈计算机视觉科研之路:视觉研究已经成熟,跨学科方法成为趋势...
  6. SAP MM 库存地点权限控制
  7. GPT-4参数将达10兆!此表格预测全新语言模型参数将是GPT-3的57倍
  8. 人脸识别技术在法国:质疑声中的先行者
  9. AI 渗透应用程序开发的七种趋势及方法
  10. 欧盟开始推进人工智能立法, 先出台了一份指导草案