未来人工智能发展面临的问题
人工智能发展到今天，硕果累累。但是，我们必须清晰地认识到，人工智能技术今天依然面临着许多根本性的问题，一言以蔽之就是：它缺乏知识。现阶段，我们的机器并没有掌握总结知识、积累知识、应用知识、传承知识和建立组织管理知识体系的能力。人工智能在知识上的缺乏，可以用佛学的“五明”理论来阐释。佛学把世间的一切学问归结为五种学问，称为“五明”：即语文学的“声明”、工艺学的“工巧明”、医药学的“医方明”、科学的“因明”、哲学的“内明”。“五明”被视为道行者的基本功，是佛教对人间知识的总结，行道要从“五明”入手，来传播佛法普度众生。用“五明”来观察人工智能今天面临的知识匮乏问题，实际上是很贴切的。我们可以把佛学“五明”的涵义加以扩展：“声明”指的是人类智能对自己行为的解释以及和世界交流的能力；“工巧明”指的是人类智能对行为的指导；“医方明”指的是人类智能的系统观；“因明”指的是人类智能的因果推理能力；“内明”指的是人类智能的主观能动性。今天的机器智能，恰恰缺乏的就是这“五明”！
缺乏“声明”：今天的机器智能与人交流的根本障碍。机器智能作为一个与人共存的智能体，和人的交流是一项根本的要求，这样的交流不是指今天的Siri或“度秘”以及智能手机或智能音箱的这种简单的人机对话，而是在学习层面上，人可以准确地告诉机器学习的目的、学习的环境、学习的要求，而机器也可以与人交流学习的过程、学习的结果和得到结果的缘由。也就是说机器学习目标的正确性、合理性是可以表达的，而学习结果和学习目标的一致性是可以论证的。只有这样的人工智能才是可信的，才能形成构造于人类共生、共存的智能体的基础。今天所进行的人工智能的可解释性、可论证性的研究，正反映了人工智能在今天所面临的巨大挑战。目前的深度学习技术，说到底就是对一个由神经元网络所构成的非线性函数在大数据上做拟合，这种学习行为使得它在应用的普适性上有很大的优势，满足了我们对让机器“做得多”的要求，但是，它的结果的合理性、可靠性无法得以完备的验证，因为我们无法完全理解机器学习结果生成的逻辑，无法完美解释学习的认知行为。所以它的稳定性分析和可靠性验证都是有待解决的难题。我们可以在许多应用中用到深度学习的技术，但我们无法对这样的智能加以“对或错”的评价。这个问题在“大模型”中尤为突出。从这个意义上来讲，我们离图灵对智能的期望还很远，因为当我们向人和机器共处的黑屋提问，并无法区分得到的回答是从人还是机器来的时候，我们可以再加上一句：请告知你是如何得到这个问题的答案？人是能回答这个问题的，而今天的机器对此则往往茫然无措。
缺乏“因明”：无法揭示和演绎因果关系。人类可以在自然界和社会中发现规律，并抽象出规律之间的逻辑联系，这样的归纳和演绎的能力是人类智能的一个重要的特征，也是人类文明发展的一个伟大结晶。作为一个人类社会中与人共存的智能体——人工智能，应当也必须具备这种对因果的发现和演绎能力。而今天在数据驱动的学习系统中，我们还只能发现事物之间的相关关系。这样的相关性对于组成一个知识体系来理解世界是远远不够的，在大数据发展之初，曾有“因果无用，相关万能”的说法，现在看来，如果一个智能体仅仅具备了对相关性的理解，那么它对于这个世界的认识将远远低于一个一般的儿童，所以，如何让智能体具有发现因果关系的“因明”，是人工智能今天的又一个大难题。
缺乏“内明”：智能体没有主观能动性。人是有主观能动性的，人的思想是人对于客观世界的主观认识，而人又是通过这样的主观认识来指导自己的行动，从而对客观世界作出改变。著名认知神经学和理论物理学家弗雷斯顿曾提出过一个机器智能的认知学模型，在这个模型中，人的知识形成一个主观的世界模型，而这样的模型和观察之间的一致性衡量决定了对世界的认识和对世界本身的改变，这个模型具有相当的普遍性。今天基于神经元网络的机器学习系统中被视为金律的“反向传播”，正是这种宏观认知模型中对模型修正的一个简单的实现方法，而模型和观察一致性衡量恰恰又是机器学习中常用的“损失函数”提出的基础，更进一步，今天的强化学习也是在模型和观察上一致性的推动，在策略模型的驱动下，针对环境观察作出相应行动，以求达到回报激励机制下的一种有益的状态。但从总体而言，今天的智能体依然没有形成主观意志的能力。这也是为什么今天人工智能虽然可以完成一些艺术创作，但是，这些创作也仅仅在于对人类已有的作品和形式的模仿、形变和叠加，尚无法在艺术美学和表达意义层面上进行真正的创作。
人工智能研究中，有一个以机器人学家莫拉韦茨命名的悖论：机器对于那些人做起来非常困难的任务，往往可以驾轻就熟，而对于一些对人来说非常简单的事情，却无能为力。莫拉韦茨这样解释这一悖论：“人类经历了上亿年的进化，大脑中深深烙印着一些原始的生存技能，其中包含了高度进化的感官和运动机制，这些都是人类关于世界本质以及如何在其中生存的上亿年的经验。
综上所述，新一代人工智能的硬核是交互学习和记忆。记忆的本质不是存储，而是对知识的不断凝炼而形成主观意志（或称为知识）。在贝叶斯理论框架中，这个主观意志是认知的先验，而观察就是在这个先验下，产生对认知的可信度的修正（后验概率），如何在这样的一个认知体系中，实现对主观意志的组织、进化和有效作用？在今天的人工智能研究中，这还是一个处女地。执行这种需要深思熟虑的思考过程是人类最外在的表现，而其背后深层次和有效的推动力，则是源于这种更古老和更强大的感知和运动能力的本能反应。而这种本能反应通常是无意识的。换句话说，因为我们祖先的强大进化，我们每个人都是感性理解、人情世故和运动领域的杰出运动员，我们实在是太优秀了，以至于我们在面对实际上十分困难的任务时还能驾轻就熟。”
未来人工智能发展面临的问题相关推荐
- 核心算法缺位，人工智能发展面临“卡脖子”窘境
http://www.xinhuanet.com/politics/2019-04/30/c_1124435131.htm "徐匡迪之问"引发业界共鸣-- 核心算法缺位,人工智能发 ...
- 没中、美这么大的统一市场，欧盟人工智能发展面临双重挑战
来源:澎湃新闻 作者:胡逸涵 为在人工智能领域追赶中美两国,近日,欧盟将2020年前对人工智能(AI)的投资额增加约70%,至15亿欧元. 欧盟希望到2020年底,整个欧盟在AI技术领域(包括私人 ...
- 大智能时代，未来人工智能发展新趋势
1.行业垂直领域应用 人工智能市场在零售.交通运输和自动化.制造业及农业等各行业垂直领域具有巨大的潜力.而驱动市场的主要因素,是人工智能技术在各种终端用户垂直领域的应用数量不断增加,尤其是改善对终端消 ...
- 各方评论《面向儿童的人工智能北京共识》：这是中国人工智能发展轨迹中的一份关键文件...
近日,智源研究院联合北京大学人工智能研究院.清华大学人工智能研究院.清华大学人工智能国际治理研究院.中科院自动化所.中科院计算所.中科院心理所等高校院所,以及小米.旷视.奇虎360.好未来.爱学习.极 ...
- 综述丨七场高端报告，带你大视角看人工智能发展
文章来源:雷锋网 2018 年 3 月 30 日,AITech 峰会在深圳龙岗区正式召开. 本次会议以配合国家新一代人工智能发展规划实施,支撑人工智能产业技术协同创新,加强人工智能领域的国内外技术交流 ...
- 蒲慕明院士：脑机融合技术或许会成为未来人工智能的一个热门方向
来源:中国经济大讲堂 [导读]当前,以人工智能为代表的新技术,成为推动第四次工业革命走向深入的重要力量,会给经济.社会.文化等多领域的发展带来深刻变革.但是,因为对大脑工作方式的了解有限,人工智能的开 ...
- 人工智能发展中面临的问题有哪些？
目前世界各国都在投入大量的人力物力资源,对人工智能进行研究,我国人工智能研究从国家的"863项目"开始,加大研究力度,缩短了我国人工智能技术与世界先进水平的差距,也为未来的发展奠定 ...
- 顾小清：人工智能何以促进未来教育发展
自工业革命以来,人类社会的发展总是在技术与教育的角逐互动中前行.技术作为推动人类历史发展的核心推进力,与教育这一"人力资本发动机"竞相成为推动经济社会发展的主力.人工智能作为第四次 ...
- 人工智能创业指南：AI 产品未来的发展模式及策略
来源:36氪 概要:未来,AI会成为一种基础服务,同时,这种服务会像电力一样通过网络进行传输. 有观点认为,未来,AI会成为一种基础服务,同时,这种服务会像电力一样通过网络进行传输.吴恩达也表达过&q ...
最新文章
- Markdown语法整理
- python上下条形图-Python之多变量叠加条形图
- 【C language】C语言感悟之const
- 给产品经理背景的朋友介绍SAP C4C
- /etc/fstab文件出错,无法进入Linux系统
- linux udp 端口映射,Linux下的UDP/TCP端口映射（netcat and socat）
- python configure函数 循环_使用python统计git仓库中频繁修改的热点函数
- TCP/IP参考模型与5层参考模型
- iostream， istream 和 ostream的区别
- 洛谷——P4053 [JSOI2007]建筑抢修
- 我的超休闲游戏作品集
- python画航线图_数据可视化：python调用pyecharts库绘制航线专题图
- Arcgis将圆任意等分思路(附python实现代码）
- 小时候的蓝精灵,大家还记得木有哇?
- 针对Linux系统主机，进入修复模式，解决开机报错问题
- SQL实战45.将titles_test表名修改为titles_2017
- 人生没有白读的书，每一本都算数～
- 误删除系统libselinux.so.1之后
- 【DX-BT24蓝牙模块连接Arduino与手机透传教程】
- Oracle中用system存数据,【学习笔记】Oracle表空间 数据存放system表空间影响数据库性能...