对话AI大师Bengio：AI不应变成军备竞赛

http://blog.sina.com.cn/s/blog_cfa68e330102z9t1.html

人工神经网络和深度学习领域的大牛、加拿大计算机科学家Yoshua Bengio日前在MIT的一次活动中接受采访时表示，希望停止有关人工智能军备竞赛的讨论，并让发展中国家更容易获得这项技术。

Yoshua Bengio是现代人工智能的大师，与Geoff Hinton和Yan LeCun一起并称“深度学习三巨头”，Bengio以倡导“深度学习”技术而闻名，近年来，这一技术已经从学术届的尝试转变成了目前全世界最强大的技术之一。

深度学习包括将数据输入到大型神经网络中，这些神经网络简略地模拟人类的大脑，它在各种实际任务中都被证明是非常强大和有效的——从语音识别、图像分类到控制自动驾驶汽车和自动化商业决策。

Bengio并没有选择加入任何大型科技公司。虽然Hinton和LeCun分别加入了谷歌和Facebook，但Bengio仍然是蒙特利尔大学的全职教授。他在2016年成立了Element AI，并创立了一个非常成功的项目，帮助大公司探索人工智能研究的商业应用。

以下为Yoshua Bengio教授采访实录：

问：你如何看待各个国家之间的人工智能竞赛

Bengio：我认为这是不正确的做法。我们可以共同参与一场竞赛，但作为一名科学家，我认为我们应当考虑人类的共同利益，应该更多地去思考如何建造出更智能的机器，并确保人工智能为更多的人谋福祉。

问：那么是否有办法促进各国之间的合作？

Bengio：我们可以让发展中国家的人们更容易进入这一领域。这是一个很大的问题，因为在欧洲、美国或加拿大，一个非洲研究人员很难获得签证。申请签证就像彩票，他们会用任何借口拒绝申请。这是完全不公平的。发展中国家用很少的资源做研究已经很困难了，但是如果他们还不能接触到人工智能社区，我认为这是非常不公平的。作为补偿这一问题的一种方式，我们将于2020年在非洲举办一个大型的人工智能会议——ICLR（International Conference on Learning Representations,国际学习表征会议）。

包容性不仅仅是一个好听的词而已。人工智能在发展中国家的潜力可能更大，他们改进技术的需要比我们更强烈，并且他们有不同的需求。

问：你是否担心其他国家的人工智能公司会占据人工智能领域的主导地位？

Bengio：是的，这是我们在人工智能研究中需要更多民主的另一个原因。人工智能研究本身往往会导致权力、金钱和研究人员的集中。最好的学生都想去最好的公司，因为他们有更多的钱，有更多的数据。这是不健康的模式。即使在民主国家，权力集中在少数人手中也是危险的。

问：关于人工智能的军事用途已经引起了很多争议。你在这方面的立场是什么？

Bengio：我坚决反对。

问：即使是非致命的用途？

Bengio：我并不想阻止人工智能的军事用途，但我认为我们需要达成一种共识，即杀手机器人是不道德的事情。我们需要改变文化，包括改变法律和条约。这可能会有很长的路要走。

当然，你永远不能完全阻止它，人们会说，“某些流氓国家会发展这些东西。”我的回答是，第一，我们需要让他们为自己的行为感到羞愧，而第二，没有什么可以阻止我们建立防御技术。防御性武器可以消灭无人机，但它和针对人类的攻击性武器不同，两者之间存在着巨大的差异。但两者都可以使用AI。

问：难道人工智能专家不应该与军方合作来确保这一切发生吗？

Bengio：如果他们有正确的道德价值观，那很好。但我并不完全信任军事组织，因为他们倾向于认为责任先于道德。我所希望的并不是这样。

问：在新的人工智能研究中，最令你兴奋的是什么？

Bengio：我认为我们需要考虑人工智能的严峻挑战，而不只是对短期的、渐进的进步感到满意。我并不是说我想放弃深度学习。相反，我想在此基础上继续发展。但是我们需要能够扩展它来做一些事情，比如推理，学习因果关系，探索世界，以便学习和获取信息。

如果我们真的想实现接近人类水平的AI，那就是另外一场比赛。我们需要长期投资，我认为学术界是最好的将其传递下去的地方。

问：不仅要抓住数据中的模式，还要抓住某些事情发生的原因。为什么这很重要，以及为什么它会这么难呢？

Bengio：面对复杂的世界，如果你有一个好的因果模型，你可以在不熟悉问题的情况下就进行概括，得出结论，这是关键。我们人类能够将自己投射到与我们日常经验截然不同的情境中，而机器不能，因为它们没有这些因果模型。

我们可以手工创建模型，但这还不够。我们需要能够发现因果模型的机器。在某种程度上，它永远不会是完美的。就像现实中我们也没有一个完美的现实的因果模型，这就是为什么我们也会犯很多错误，但是和其他动物相比，我们已经做得很好了。

现在，我们并没有很好的算法来解决这个问题，但是我认为，如果有足够多的人在努力，并且予以足够的重视，我们就会取得进步。

对话AI大师Bengio：AI不应变成军备竞赛相关推荐

初露锋芒的AI战斗机，打开AI军备竞赛的潘多拉盒子
作者|海怪出品|脑极体不久前,美国国防部高级研究计划局(DARPA)的ACE计划资助的一项名为"阿尔法狗斗"(AlphaDogfight Trials)的VR模拟人机对抗赛中, ...
2021 AI年度报告-stateof.ai出品【1】
一.简介 stateof.ai 出品的2021 AI年度报告,其中包含了五点重要的总结: 1:Research:2021年的AI重要科研进展回顾 2:Talent:AI人才的市场供需情况 3:Indu ...
【张钹院士 | 大师谈AI】迈向第三代人工智能「AI核心算法」
关注:决策智能与机器学习,深耕AI脱水干货作者:张钹, 朱军, 苏航报道:中国科学杂志社如需转载,请联系作者摘要人工智能 (artificial intelligence, AI) 自1 ...
AI 大师云集！2017 中国人工智能大会在杭州盛大开幕
7 月 22 - 23 日,在中国科学技术协会.中国科学院的指导下,由中国人工智能学会.阿里巴巴集团 & 蚂蚁金服主办,CSDN.中国科学院自动化研究所承办的 2017 中国人工智能大会(CC ...
AI 大师云集！CCAI 2017 中国人工智能大会盛大开幕
7月22日-23日,在中国科学技术协会.中国科学院的指导下,由中国人工智能学会.阿里巴巴集团 & 蚂蚁金服主办,CSDN.中国科学院自动化研究所承办,,云栖社区独家直播的2017 中国人工智能 ...
一周 AIGC 丨国内掀起大模型军备竞赛，第一季度推出超 150 个 AI 聊天机器人
国内互联网圈好久没有这么热闹了,要感谢漂洋过海的 ChatGPT.它让互联网大厂意识到,除了和小区门口卖菜的大妈争夺流量,原来还有更有意义的事情可做,于是一股脑扎进来掀起大模型军备竞赛.它还让隐退的互 ...
AI芯片，为何现在成为新军备竞赛？
雷刚发自凹非寺量子位报道 | 公众号 QbitAI 一场新的军备竞赛已经打响,不在地面,不在空中,它将是虚拟网络世界新一代基石,也是AI时代连接虚拟和现实的核心. 没错,AI芯片,正在引发一 ...
滴滴云AI超分辨率实践 | AI大师码产品折扣
前言经实验室导师介绍,参加了下面一场"CCF滴滴专场"直播,3位滴滴出行技术专家王琤.朱中涛和鲁健捷与大家分享了滴滴云计算服务体系,领先的AI能力和AI工程落地经验,并现场带领我 ...
对话霍金弟子：AI能帮助人类到其他星球进行时空旅行 | AI英雄
▼ 点击上方蓝字关注网易智能为你解读AI领域大公司大事件,新观点新应用本文系网易智能工作室(公众号smartman 163)出品,此篇为AI英雄人物第69期. 文 | 小羿 2018年3月31日 ...

对话AI大师Bengio：AI不应变成军备竞赛

对话AI大师Bengio：AI不应变成军备竞赛相关推荐

最新文章

热门文章