图灵奖得主Yoshua Bengio:用因果打开AI的黑盒
点击上方蓝色字体,关注:决策智能与机器学习,聚焦AI干货
编者按:打开AI的黑盒是人工智能落地产业界面临的越来越迫切的问题,如同人类对世界因果关系的认知支撑了种种复杂的预测和决策。概率论的提出为数学描述现实世界充满不确定性的因果关系给出了可能性,那么在AI可解释性、因果建模方面可以如何利用?2019年的图灵奖得主Yoshua Bengio为我们带来了最新成果和讲座。
今年3月,Yoshua Bengio因对深度学习的发展做出的贡献而获得了计算机科学领域的最高荣誉:图灵奖。深度学习技术引发了人工智能的复兴,推动了自动驾驶汽车、实时语音翻译和面部识别等技术的应用。
现在,Bengio表示深度学习技术需要修复和完善。他认为,如果深度学习技术不能跨出模式识别之外,不能实现对因果关系等更多信息的了解,就无法实现全部潜力,也不会带来真正的AI革命。换句话说,深度学习不仅需要弄清“是什么”,更需要开始问“为什么”。
他说,深度学习在理想的情况下效果很好,但是如果不能推理因果关系,就无法接近复现人类智力的水平。Bengio说:“如何将因果关系集成到AI技术中是一件大事。” “当前的机器学习方法假定,经过训练的AI系统将与训练数据应用于相同类型的数据。在现实生活中,情况往往并非如此。”
包括深度学习在内的机器学习系统是高度特定化的,这些针对特定化任务进行训练,比如识别图像中的猫或音频中的口头命令。自深度学习技术于2012年左右问世以来,展现出了令人印象深刻的识别数据模式的能力。从医学成像中发现癌症,到发现财务数据欺诈的迹象,深度学习技术落地越来越广泛。
但是在因果关系上,深度学习从根本上说是无能为力的。与真正的医生不同,深度学习算法无法解释为什么某些特定图像模式可能代表着疾病。这意味着在危急情况下必须谨慎使用深度学习。
了解因果关系将使现有的AI系统更智能,更高效。如果机器人知道东西掉在地上会摔坏,就不需要将几十个花瓶扔到地板上来进行训练了。自动驾驶汽车也是如此。他说:“人类无需经历很多事故,就可以谨慎驾驶。”我们只是可以想象事故的场景,就能为发生的实际情况做好心理准备。”
问题是如何赋予AI系统这种能力。
如何让AI懂得“前因后果”
Bengio在他的研究实验室中正在研究一种能够识别简单因果关系的深度学习模型。他和他的同事最近发表了一篇研究论文,概述了该方法。研究人员使用了一个数据集,以概率的形式绘制了诸如吸烟和肺癌等现实世界现象之间的因果关系,还生成了因果关系的综合数据集。
论文中的算法本质上形成了关于哪些变量具有因果关系的假设,然后测试了对不同变量的变化。例如,即使癌症与其他因素(比如去医院就诊的行为)相关,吸烟不仅与癌症有关,而且实际上会导致癌症的事实仍然应该是显而易见的。
这样,AI机器人最终可能会使用这种方法来形成关于当物体掉落时会发生什么的假设,然后看到几件东西砸在地板被摔坏,从而确认这种因果关系的假设。
目前,利用深度学习可以将训练数据(图像或音频)被馈送到神经网络,经过调整,直到以正确的方式做出响应为止。只要能够提供大量训练图像,并具备足够的算力,就可以训练深度学习程序就能够实现高精度地识别照片中的目标。
但是,深度学习算法并不善于概括,也不善于将一种情况下学习到的知识用在另一种情况中。深度学习可以捕获相关现象,例如公鸡啼叫和太阳升起,但并不知晓这两件事情之间的因果关系。
Bengio北大演讲:通过深度学习理解世界的构成
实际上,Bengio不仅致力于研究机器学习技术与因果关系的理论和模型,更致力于应用这一重要理论和模型的应用和传播。
近日,他来到北京大学前沿计算研究中心做了一个在线报告,题为《通过深度学习来理解世界的构成》(Towards Compositional Understanding of the World by Deep Learning)。
Bengio的演讲主要内容包括:
在处理out-of-distribution方面,人类比现有的AI系统更擅长。AI怎样能更接近人类的能力水平呢?Bengio在讲座中提出四种组合:
元学习:端到端地学习以推广到修改后的分布,从分布中采样;
设计模块化的架构,其中模块彼此相互独立,稀疏交互,同时易于以新的方式组成;
捕获因果结构分解成独立的机制,从而正确地推断智能体修改数据分布干预的效果,以及利用学习者与其环境之间的相互作用来学习语义高级变量及其相互作用,即,采用agent的学习视角,有利于抽象表象的深度学习。
这意味着单纯从文本中学习是不够的,我们需要努力寻找建立世界模型的学习主体,语言标签可以与之关联。虽然这种agent视角让人联想到深度强化学习,但重点不是深度学习如何帮助强化学习,而是在强化学习中常见的agent视角如何帮助深度学习发现更好的知识表示。
深度学习与因果关系,前人早有关注
实际上,关于因果关系的问题,AI之外其他领域已经进行了长期研究,近几十年来,陆续出现了探索因果关系的数学技术,彻底改变了包括社会科学,经济学和流行病学在内的各个领域的研究状态。现在,研究人员正在努力将因果关系和机器学习结合起来。
因因果推理研究工作在2011年获得图灵奖的朱迪亚·珀尔(Judea Pearl)说,他对Bengio的想法印象深刻。他最近与他人合著一本书《因果的新科学》(The Book of Why:The New Science of Cause and Effect)提出了从根本上限制AI而没有某种因果推理能力的情况。
Judea Pearl
认知科学实验还表明,了解因果关系对人类的发展和智力研究至关重要,虽然我们还不清楚人类如何形成这种知识的。
Bengio关于因果关系的研究可能是向回答这一问题迈出的一小步,但它也反映了深度学习方面的更多现实主义。即使随着该技术的应用成倍增加,越来越多的专家也指出了该技术在诸如语言理解之类的关键领域中的局限性。
Bengio还对目前企业过分夸大AI和深度学习的能力的现象表示担忧。他表示:“我认为,商业世界中最好能改正这种现象,因为那都是炒作。”
Gary Marcus
其他人则认为,专注于深度学习可能是问题的一部分。纽约大学名誉教授加里·马库斯(Gary Marcus)最近的著作着重介绍了深度学习的局限性。他在书中表示说:“太多的深度学习侧重于没有因果关系的关联性,这常常使深度学习系统在运行条件变化的测试时会出现性能下降。”
Bengio这篇论文对机器学习因果推理的兴趣可能预示着研究界的观点开始出现了有益的变化。
在这一点上,来自人类的经验是显而易见的。“当孩子问‘为什么?’时,他们实际上问的是因果关系。而当机器开始问‘为什么’时,它们会变得更加智能。”马库斯说。
Bengio讲座视频地址:http://www.iqiyi.com/w_19sb9oym0l.html
Bengio论文链接:
https://arxiv.org/pdf/1901.10912.pdf
作者 | Yoshua Bengio
报道 | 新智元(ID:AI_era)
编辑 | 大明、小芹
原文 | https://www.wired.com/story/ai-pioneer-algorithms-understand-why/
交流合作
商务合作以及加入微信群,请添加微信号:yan_kylin_phenix
注意:请务必说明您的意向,注明姓名+单位+从业方向+地点,否则不予通过,请多谅解。
图灵奖得主Yoshua Bengio:用因果打开AI的黑盒相关推荐
- 70页论文,图灵奖得主Yoshua Bengio一作:“生成流网络”拓展深度学习领域
来源:机器之心 本文约2800字,建议阅读10分钟 GFlowNet会成为新的深度学习技术吗? 近日,一篇名为<GFlowNet Foundations>的论文引发了人们的关注,这是一篇图 ...
- 70页论文,图灵奖得主Yoshua Bengio一作:「生成流网络」拓展深度学习领域
来源:机器学习研究组订阅 GFlowNet 会成为新的深度学习技术吗? 近日,一篇名为<GFlowNet Foundations>的论文引发了人们的关注,这是一篇图灵奖得主 Yoshua ...
- 图灵奖得主Yoshua Bengio的一生!
文 | 智商掉了一地 2018 年图灵奖获得者.AI 先驱.深度学习三巨头之一.对抗生成网络 GAN.标志性的银灰卷发和浓眉,如果还没猜到的话,当你看到这个封面,一定就会意识到自己在学习的路上,已经或 ...
- 图灵奖得主Judea Pearl:因果推断论文本周推荐(2022.8.8)
刚刚,图灵奖得主.因果科学之父Judea Pearl 在推特上推荐了本周值得一读的10篇近期发表的因果推断相关论文(推荐列表下载).他评价道,他看到了人们对于"公平"." ...
- 图灵奖得主华人高徒发布首款AI芯片!64位RISC-V、高度可编程,低功耗
李根 发自 凹非寺 量子位 报道 | 公众号 QbitAI 还记得OURS吗? 没错,就是那家简写自Optical Universal RISC Systems,基于RISC-V指令集设计AI芯片的 ...
- 图灵奖得主Jack Dongarra:高性能计算与AI大融合,如何颠覆科学计算
导读:浩瀚的宇宙中两个星云不断彼此接近.融合.再爆炸,这样奇幻的天文景观正是采用高性能计算(HPC)进行建模仿真生成的. 在过去的三十年间,高性能计算(HPC)取得了突飞猛进的进展,在科学计算等领域发 ...
- 深度学习后,图灵奖得主Bengio研究核心是什么?因果表示学习
点击上方,选择星标或置顶,不定期资源大放送! 阅读大概需要15分钟 Follow小博主,每天更新前沿干货 转载自:机器之心 在近日发表的一篇论文中,图灵奖得主 Yoshua Bengio 等详细介绍了 ...
- 图灵奖得主Bengio:深度学习让AI得以推理和想象,不会被取代
导读:机器会有意识吗?深度学习能否知道事情发生的因果关系?12月11日,图灵奖得主Yoshua Bengio在NeurIPS 2019大会上发表演讲,题目是<从系统1深度学习到系统2深度学习&g ...
- 深度学习后时代,图灵奖得主Bengio研究核心是什么?
点上方蓝字计算机视觉联盟获取更多干货 在右上方 ··· 设为星标 ★,与你不见不散 仅作学术分享,不代表本公众号立场,侵权联系删除 转载于:机器之心 AI博士笔记系列推荐 周志华<机器学习> ...
最新文章
- 三代纠错软件LoRDEC安装和使用(0.6版本)
- python爬虫可以爬哪些山_从python爬虫,到更爱这个世界
- CTFshow php特性 web109
- Bit-Z推出去中心化多链钱包CoinU 打造资产价值生态体系
- html+单选+回显,VUE+elementUI表格多选框实现单选以及数据回显时toggleRowSelection失效问题...
- 最早的齿轮计算机,世界最古老“计算机”出土后110年,科学家终于解开它的秘密...
- Seeing that the girl he likes actually married his third uncle
- 内链接和外连接的区别
- 二、Spring AOP 切面的定义
- Burp Suite CA证书下载及导入教程
- Hibernate使用手册(官网)
- 电脑怎么用计算机打开指令,命令提示符怎么用 命令提示符快捷键打开使用技巧详解...
- python学习 Day08 字符串和正则表达式
- 【Halcon 计算点到直线和点到直线延长线的距离】
- 蓝桥杯C++B组2017决赛铺瓷砖
- 小技巧-如何在任何一个文件夹中打开cmd
- UVA 11134 Fabled Rook 枚举 multiset加速
- jbpm 历史查询笔记
- 338页网易Java面试真题解析火爆全网,面试真题解析
- AsyncTask实例