原作 Carlos E. Perez
李杉 编译自 Intuition Machine博客
量子位 出品 | 公众号 QbitAI

2018年,一切可能都会发生戏剧性的变化。

深度学习在2017年取得的那些不可思议的突破,将在2018年全面爆发。去年大量研究工作将转移到日常的软件应用中。

跟去年一样,我也将对2018年的深度学习发展方向展开预测。

1、多数深度学习硬件创业公司都将失败

许多深度学习硬件创业公司将在2018年最终交付他们的芯片。这些都是半成品,因为他们会忘记提供优秀的软件来支持这些新解决方案。这些公司的DNA都在于硬件。不幸的是,在深度学习领域,软件同样重要。这些创业公司大多不懂软件,也不了解开发软件的成本。这些公司可能会提供芯片,但却没有任何东西会在这些芯片上运行。

采用收缩阵列解决方案是一种较易达成的目标,目前已经被采用,所以我们不会像在2017年那样看到很多10倍规模的性能升级。研究人员不仅会用这些Tensor Core进行推理,还可以加快训练速度。

英特尔的解决方案将继续推迟,可能会令人失望。记录表明,英特尔无法在2017年年中发布这款产品,谁也无法预测该公司何时能推出这款产品。如果为时已晚,那就只能变成一颗哑弹。

谷歌将继续凭借TPU的开发给世界带来惊喜。谷歌或许会进入硬件业务,将其知识产权授权给其他半导体厂商。如果它继续成为除了英伟达以外唯一一个真正的参与者,这种做法将很有意义。

2、元学习将成为新的SGD

2017年,元学习领域涌现出很多意义重大的研究。随着研究界对元学习的理解整体得到提升,传统的随机梯度下降法(SGD)将被边缘化,转向更有效的方法,将更具爆发性和探索性的搜索方法结合起来。

无监督学习的进步将会逐步加快,但主要将受到元学习算法的推动。

3、生成模型推动新型建模

生成模型将具备更多的科学探索意义。目前的多数研究都是生成图像和语音。然而,我们应该看到这种方法融合到一些工具之中,用来为复杂的系统建模。其中一个领域是用深度学习建立经济模型。

4、通过自我对局来自动化创建知识

能够从头自学的AlphaGo Zero和AlphaZero是一场巨大的飞跃。在我看来,这跟深度学习的出现拥有同等程度的影响力。深度学习发现了通用函数近似器。而自学则发现了通用的知识创造。

预计自学式机器学习还将取得很多进展。

5、有直觉的机器将填补语义鸿沟

这是我最大胆的一项预测。我们将填补有直觉的机器与理性机器之间的语义鸿沟。对偶过程理论(包括两个认知机器,一个没有模型,另外一个有模型)将在我们开发新的人工智能的过程中成为更加流行的概念。人工直觉的概念不再是一个边缘概念,而是会在2018年成为更为人普遍接受的理念。

6、可解释性无法实现——我们只能伪造

可解释性有两个问题。较为人所知的问题在于,解释有很多规则,人类不可能全部掌握。第二个问题不太为人所知,那就是机器会创造很多人类完全陌生且无法解释的概念。我们已经在AlphaGo Zero和AlphaZero的策略中看到这种现象。人类认为这种举动超出常规,但它们或许只是没有能力理解这种行为背后的逻辑而已。

我认为,这是个无法解决的问题。相反,机器将很擅长“伪造解释”。简单来说,可解释的机器的目标是理解人类感到舒适的那些解释,或者人类在直觉层面能够理解的解释。然而,在多数情况下,都无法对人类完全解释清楚。

我们需要通过“伪造解释”来提高深度学习的可解释性。

7、深度学习研究信息将会大量减少

2017年,人们已经很难跟上深度学习研究进度。ICLR 2018大会上提交的论文约有4000篇。研究人员需要一天阅读10篇论文才能跟上这次大会的进度。

该问题在这一领域还在恶化,因为理论框架在这一过程中都很管用。要在理论上取得进步,就需要找到更先进的数学方法,让我们能够更好地展开分析。这并不容易,原因在于多数深度学习研究人员都没有合适的数学背景,无法理解这些系统的复杂性。深度学习需要研究人员拥有复杂的理论基础,但这种研究人员实际上却很少。

由于论文数量太多,加之糟糕的理论层出不穷,导致我们陷入了如今这个令人不悦的状态。

通用人工智能的通用路线图也有所缺失。理论很薄弱,因此我们能做的就是创造一份路线图,上面配有很多与人类认知有关的里程碑。我们只有一个来自认知心理学的纯理论框架。这种情况很糟糕,因为这些领域的实践证据很匮乏。

深度学习研究论文的数量可能在2018年增长三四倍。

8、通过教学环境实现工业化

想要让深度学习的发展更可预测、更易控制,就需要发展更加具体的教学环境。我之前有过详细阐述。如果你想知道教学技术最为粗糙的表现形式,只需要看看深度学习网络是如何训练的即可。我们都会在这一领域看到更多进步。

预计将有更多公司披露他们的内部基础架构,从而揭示他们是如何大规模部署深度学习的。

9、对话式认知崛起

我们评估通用人工智能的方法过于陈旧。需要通过一种新的范式来解决现实世界的复杂动态。我们未来一年应该看到这一领域出现更多进展。我将在3月1日和2日在阿姆斯特丹的Information Energy 2018大会上探讨这种新的对话式认知范式。

10、我们要求对人工智能的使用符合道德标准。

将有越来越多的人要求人工智能的使用遵守道德标准。人们目前越发意识到自动化失控后产生的恶劣后果。Facebook、Twitter、谷歌、亚马逊等平台上使用的简单的自动化技术都会产生意想不到的社会影响。

在部署那些能够预测人类行为的机器时,我们需要理解其中的伦理道德问题。面部识别就是一项比较危险的功能。能够生成以假乱真的媒体资料的算法会成为大问题。整个社会都应该要求人工智能为社会的整体利益考虑,而不能加剧社会的不平等。

预计未来一年将看到更多关于人工智能伦理问题的讨论。然而,应该不会有新的监管措施出台。政策制定者还需要再过几年才能真正理解人工智能对社会的影响。我不认为他们会停止斗争,解决社会面临的真正问题。美国人口受到很多安全问题的影响,但我们并没有看到新的立法来解决这些严重问题。所以,不要奢望这些问题一夜之间得到解决。

为影响做好准备

2018年很重要,我们都应该系好安全带,迎接即将到来的重大影响。

加入社群

量子位AI社群13群开始招募啦,欢迎对AI感兴趣的同学,加小助手微信qbitbot5入群;

此外,量子位专业细分群(自动驾驶、CV、NLP、机器学习等)正在招募,面向正在从事相关领域的工程师及研究人员。

进群请加小助手微信号qbitbot5,并务必备注相应群的关键词~通过审核后我们将邀请进群。(专业群审核较严,敬请谅解)

诚挚招聘

量子位正在招募编辑/记者,工作地点在北京中关村。期待有才气、有热情的同学加入我们!相关细节,请在量子位公众号(QbitAI)对话界面,回复“招聘”两个字。


量子位 QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技术和产品新动态


2018深度学习十大趋势:元学习成新SGD,多数硬件创企将失败相关推荐

  1. 重磅丨中国信通院发布ICT深度观察十大趋势

    近日,在"2021中国信通院ICT深度观察报告会"上,中国信息通信研究院副院长余晓晖发布ICT深度观察十大趋势. 趋势一 数字经济融合创新,助力经济体系优化升级 党的"十 ...

  2. 业界丨2018深度学习十大趋势:元学习成新SGD,多数硬件创企将失败

    2018年,一切可能都会发生戏剧性的变化. 深度学习在2017年取得的那些不可思议的突破,将在2018年全面爆发.去年大量研究工作将转移到日常的软件应用中. 跟去年一样,我也将对2018年的深度学习发 ...

  3. 深度学习未来十大趋势

    深度学习未来十大趋势 [日期:2015-12-22] 来源: 作者:张巨岩 [字体:大 中 小] 本周,我在加拿大蒙特利尔参加了NIPS(Neural Information Processing S ...

  4. 2016深度学习统治人工智能?深度学习十大框架

    2019独角兽企业重金招聘Python工程师标准>>> 2015 年结束了,是时候看看 2016 年的技术趋势,尤其是关于深度学习方面. 新智元在 2015 年底发过一篇文章< ...

  5. 图说2016深度学习十大指数级增长

    转自:https://www.52ml.net/21402.html http://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=26519906 ...

  6. 2017年深度学习十大趋势预测

    2017年深度学习十大趋势预测 本文作者曾经多次预测了技术发展的趋势,最近的一次预测是"2011年软件发展的趋势与预测".10项预言中,准确地命中了6项,比如JavaScript ...

  7. 权威预测:2018年这十大数字化转型趋势要火!

    在2018年,企业将如何利用开发流程,业务实践,IT基础设施,人工智能和物联网等技术来推动数字化转型?虽然许多企业开始走下坡路,但有时着眼于用户体验(UX)就可能有所改善.不同行业之间乃至各个公司之间 ...

  8. 2018年教育技术十大趋势

    展望2018年,在国内教育技术领域,究竟会有哪些技术趋势值得期待? 华南师范大学教育信息技术学院焦建利教授给出了他的相关预测: 2018国内教育技术十大趋势 1. 教育信息化相关企业将从销售硬件和产品 ...

  9. 中国移动互联网2018年度报告:八大关键词总结与十大趋势

    中国移动互联网2018年度报告:八大关键词总结与十大趋势 2019年1月22日,中国商业智能服务商QuestMobile发布<中国移动互联网2018年度大报告>.在这份报告中,QuestM ...

最新文章

  1. linux创建sftp用户并指定访问目录,linux – 创建SFTP用户只能访问一个目录.
  2. 如何从旧提交创建新的Git分支? [重复]
  3. 【Vue学习第三天】组件的使用
  4. c++冒泡排序代码_C/C++基础之冒泡排序
  5. u盘文件看得见却打不开_【U盘】国产开源U盘启动制作工具
  6. 摆渡车(noip2018 pj t3)
  7. opencv复杂变换cvPyrDown [6]
  8. c语言ax2bxc0,c语言程序用函数怎么输出ax2bxc=0?用C语言编号一个程序, 爱问知识人...
  9. 找不出破绽!斯坦福等新研究:随意输入文本,改变视频人物对白,逼真到让作者害怕...
  10. Visdom:Python可视化神器
  11. Ansi,UTF8,Unicode,ASCII编码的差别
  12. 海康VisionMaster算法平台介绍
  13. 计算机功能室设备器材清单,办公用品清单
  14. [xctf] 江苏工匠杯easyphp
  15. 看aps高级排产如何实现生产计划智能排产
  16. 解密微信电脑版image文件夹下缓存的用户图片
  17. stm32与驱动器AS1106驱动数码管显示
  18. 安装ubuntu系统16.04版本
  19. android app 运行时提示 应用专为旧版 Android 打造
  20. 小学计算机社团活动总结,小学科技社团活动总结

热门文章

  1. 如何用 Python 从 0 开始创建一个区块链?
  2. Python 崛起、JavaScript 制霸 —— GitHub 2017 年度开源报告里的语言之争
  3. 字节面试官:javaword转pdf乱码
  4. 第 16 章 模板方法模式
  5. 凉山州计算机等级考试时间,2020年四川凉山中考考试时间及科目安排(已公布)...
  6. 林肯android auto,林肯mkz仪表盘怎么设置中文
  7. JavaScript内存那点事
  8. mysql视图什么时候用_Mysql为什么要使用视图?
  9. 框架 php_PHP四大主流框架的优缺点总结
  10. 氩焊机器人编程_谈一谈铝合金的脉冲MIG焊