Google Deepmind的自杀开关研究或缓解人工智能恐慌

很多人被科幻电影中描述的机器人统治世界的暗示吓到了，现在，Google的一项研究可能会缓解人们的这种恐惧。

Google的DeepMind是伦敦的一家人工智能公司，于2014年被Google收购。现在，DeepMind正在研究机器人和人工智能的自杀系统。

这个想法来自于，如果未来机器人可以控制自己的启动按钮，那么人类就需要更高优先级的控制权限。

“如果一个机器是在人类的实时监控下进行操作的，那么它可能会需要一个红色按钮，可以随时停机，以免它进行危险的操作。”机器智能研究协会的研究者发布的一篇论文称，“然而，如果具有学习的能力机器从长远角度学会了组织这种停机，比如使红色按钮失效，这可不是闹着玩的。”

这篇论文的作者是Google Deep Mind的研究员Laurent Orseau和英国牛津大学人类未来研究机构的研究员Stuart Armstrong。

研究者们试图找出一种方法，来使机器避免学会人们的操作，从源头上阻止它们。

鉴于目前公众对人工智能的恐慌，这对研究者来说是有趣而且重要的一步。

很多人被有关机器人的电影潜移默化的影响了，比如《2001: A Space Odyssey》, 《The Terminator》, 《I, Robot》和电视剧《Battlestar Galactica》。他们认为未来人类可能变成机器人的奴隶。

这并不是一个美好的畅想，而且这让包括高科技企业家Elon Mush和著名的物理学家Steven Hawking的很多人对等待人类的将是怎样一个未来感到不安。

霍金的担忧很长远，他说：“人工智能的快速发展也就是人类的末日。”

Google的自杀开关不仅仅是平息这种恐慌的一项技术，而且时机也刚刚好。

“人工智能和自主机器的架构正在发展，这个时候进行这个研究恰到好处。”Patrick Moorhead，Moor Insights & Strategy的一个分析员说。“就好像设计一个汽车，只有在后来才会设计ABS和刹车系统。自杀开关需要设计到整个系统中去，不然，就会存在可能会机器绕过的安全漏洞。”

Moorhead拒绝谈自己是否担忧具有人工智能的机器，但是他说，很支持研发一个安全的红色按钮。

“如果一个AI系统没有自杀开关，”他说，“那么就好像设计了一个高速火车，却没有刹车系统。”

独立分析员Jeff Kagan说，DeepMind的研究很有价值。对于一个总是先开发技术然后再去考虑后果的行业来说，这次时机把握的很好。

“虽然我们现在还没有必要担忧是不是会被AI占领。”Kagan说。“但是我们做的总是想的快……我只希望，那些杰出的科学家能用他们的大脑保护好我们，而不是一味地开发最后吓我们一跳。”

The Gabriel Consulting Group的分析员Dan Olds说，Google将他们的一部分精力放在安全方面上，却是是一家负责任的公司。“我认为，鉴于现在机器人和人工智能领域的现状，Google在这方面做到了领导者的责任。”Olds说，“人工智能或机器人统治人类确实还离现在比较远，但是到底有多远呢？在接下来的5年里，可能我就会看到金融服务都交由AI管理，可能我会看到更多的设备完全由AI负责。这就是我们需要自杀开关的原因——防止某些事情偏离轨道，造成不可挽回的损失。”

原文：Google DeepMind’s kill switch research may ease A.I. fears
作者：Sharon Gaudin
翻译：赖信涛
责编：钱曙光

Google Deepmind的自杀开关研究或缓解人工智能恐慌相关推荐

解密Google Deepmind AlphaGo围棋算法：真人工智能来自于哪里？
2016年1月28日,Google Deepmind在Nature上发文宣布其人工智能围棋系统AlphaGo历史性的战胜人类的职业围棋选手!这条重磅新闻无疑引起了围棋界和人工智能界的广泛关注!3月份A ...
3 年血亏 10 亿美元，Google Deepmind 出了什么问题？
Alphabet 旗下的 Deepmind,一个在人工智能领域或许称得上是世界领先的公司,去年亏损 5.72 亿美元:在过去的三年中持续亏损,金额超过 10 亿美元. 这意味这什么?人工智能是否正在走 ...
Google Deepmind大神David Silver带你认识强化学习
Google Deepmind大神David Silver带你认识强化学习 2016-08-16 18:16 Blake 1条评论 Google Deepmind大神David Silver带你认识强 ...
Google DeepMind顾问预言：五年后AI将在《星际争霸》中战胜人类
在纽芬兰和拉布拉多,正在用人工智能进行<星际争霸>比赛. <星际争霸>的幽灵机器人.(来自:维基共享资源) 接下来的两个星期里,在纪念大学(Memorial Universit ...
官宣，Google DeepMind 成立
图|2010-2023,从 DeepMind 到 Google DeepMind,再到 DeepMind,再到 Google DeepMind 或许是深深感受到了来自 OpenAI 与微软一起给到的巨 ...
爆爆爆！！Deep Mind与Google Brain合并，成立 Google DeepMind 新部门
图|2010-2023,从 DeepMind 到 Google DeepMind,再到 DeepMind,再到 Google DeepMind 来源: 学术头条微信号:SciTouTiao 或许是 ...
谷歌大脑DeepMind合并，Google DeepMind新成立
美东时间 4 月 20 日,谷歌母公司 Alphabet 首席执行官 Sundar Pichai (人送昵称"劈柴")宣布,谷歌旗下最大的两个 AI 研究机构--地处 ...
Google DeepMind介绍
DeepMind其实包含两个方面:Google AI业务背后的创新以及其相关的组织.DeepMind是Alphabet(Google母公司)的辅助机构. DeepMind已经集成到Google的各种工 ...
世界围棋人机大战、顶峰对决第二战：围棋世界冠军Lee Sedol（李世石，围棋职业九段）对战Google DeepMind AlphaGo围棋程序，AlphaGo再次胜出！
感觉在哔哩哔哩(bilibili)上看比赛直播比较好,一直可以看到比赛的直播画面,还能听到英文解说和中文主持人的解说.YouTube上是不错,但是一方面爬梯子比较卡,另一方面只能听到英文解说. 韩国著 ...

Google Deepmind的自杀开关研究或缓解人工智能恐慌

Google Deepmind的自杀开关研究或缓解人工智能恐慌相关推荐

最新文章

热门文章