BOT or NOT？

在刚刚上线的AI纪录片《你信任这台电脑吗？》（Do you trust this computer?）中，马斯克又发出警告：

AI可能会成为不朽的独裁者。

马斯克指出，过去那些邪恶的领导人，比如阿道夫·希特勒，只是因为他们是凡人因而能力有限。如果一个邪恶但超级智能的电脑控制了局面，那就不是这样了。

“你会有一个永生的独裁者，我们永远无法逃脱。”

《你信任这台电脑吗？》这部纪录片是电影制作人Chris Paine的最新作品，讲述的是AI已开始重塑我们生活的方方面面，从工作自动化到医疗诊断乃至军事行动，地球上的每一个行业正在经历转变。

《你信任这台电脑吗？》预告片

纪录片中除了马斯克外，还有吴恩达、《西部世界》的编剧乔纳森·诺兰、未来学家Ray Kurzweil以及Sebastian Thrun等人，都是重量级人物。

马斯克：AI独裁者将统治人类，人类仅有5%-10%的机会打赢机器

21世纪的独裁者，除了几个国家以外，还要防范另一个事物：AI。

“在人工智能时代，我们可以创造出’永恒的独裁者’。”马斯克在纪录片中说，至少墨索里尼和希特勒死了，因为他们是凡人所以控制力有限。

他提到了一个可怕的可能性：威权政府建立的AI可以超越个别领导人或政党，创造一个永久的压迫结构。

“你会有一位永生的独裁者。”马斯克说。

“如果人工智能有一个目标，并且人类碰巧阻碍了它，它甚至不用考虑就会摧毁人类，没有任何困难。”马斯克说，就好像，如果我们正在建造一条道路，并且一个蚂蚁碰巧阻碍了我们。”

马斯克也特别关注Google Deepmind。“DeepMind系统可以在任何游戏中获胜，它已经可以击败所有原始Atari游戏，超过了人类。”

马斯克说，通过一些软件更新，AI可以控制整个Google系统，这意味着他们可以做任何事情。

昨天，马斯克发了条推特推荐这部纪录片：

“没有什么比数字超级智能更能影响人类的未来了。”

从2014年开始，马斯克就是坚定的“人工智能威胁论者”，当年他发出了著名的言论：人工智能比核武器更危险。

去年，马斯克又警告说，全球人工智能竞赛可能导致第三次世界大战。这位企业家还表示，新兴技术可能会给世界带来更大的风险，而不是像与朝鲜之间的核冲突。

现在人类真的就只能束手就擒了？马斯克在去年11月说，也许人类未来有5％到10％的成功机会战胜AI。他的办法是人类应该吸收它们，给人类开发人工智能的脑机接口，即让人成为AI。

此外，他还希望AI未来能民主化，并且政府必须更好地理解人工智能技术的快速发展，以充分理解风险。

Ray Kurzweil、吴恩达等人出镜：我们应该信任这些机器到什么程度？

这部纪录片提出如下问题：我们能否需要无医患关系的手术机器人？如果剑桥分析公司使用的能改变选举数据工具落入独裁者手中，该怎么办？我们是否要将AI技术军事化？如果我们不这样做，我们的对手是否会迫使我们去做？

不过，纪录片中没有给出答案，而是让二十多位来自不同领域的从业者来发表观点。

未来学家Ray Kurzweil认为，所有这些机器的主要应用将是增强人类自己的智能。“我们将能够让自己变得更聪明，能够更好地解决问题。我们将不再衰老，我们将永生不死。智能机器能为人类做的事情，真的没有限制。”

UC Berkeley教授Stuart J. Russell被他的学生评价为“人工智能领域的上帝”，几乎每个大学都使用他写的教科书。

Stuart Russell：我曾经说过这是最畅销的AI教科书，不过现在我说这应该是最经常被盗版的PDF。人工智能是有关让计算机变得更加聪明的，从公众的角度来看，只要比通常人们认为计算机能够做到的事情更加智能，就是AI。

纽约时报记者John Markoff：AI是一个试图模拟各种人类能力的研究领域。我们处于AI的时代。谷歌和Facebook这些企业为我们提供各种免费的东西，但这是一个浮士德式的交易。它们正在从我们这里拿走一些东西，但我们不知道，不知道在屏幕的另一边运行着什么代码，以及为什么。我们完全不知道。

人工智能的发展，得益于深度学习的进步。MIT教授Max Tegmark ：深度学习是一种完全不同的方法，计算机更像一个学步的幼儿，通过获取大量数据来最终找出问题的答案。计算机变得越来越智能，是因为它拥有了越来越多的经验。

吴恩达：Watson在Jeopardy游戏中赢了人类，这是AI历史上的一个重要里程碑。我们非常惊讶机器能表现得如此好。计算机在人类擅长的事情上击败人类，这令我更加惊讶。在Google Brain项目的早期，我给了团队一个非常简单的任务，就是去构建成尽可能大的神经网络，像一千台计算机一样。

因此，想象一下，如果你有一个神经网络，它一开始是什么也不懂的，我们让它观看一个星期YouTube的视频。

在观看YouTube一周后，它学到了什么呢？我们假设它能学会检测视频中经常出现的对象。我们知道人的脸在视频中出现很频繁，所以我们发现有一个神经元已经学会检测人脸。

我们知道视频中出现很多的还有猫，所以我们惊讶地发现有一个神经元学会了检测猫。

Sebastian Thrun提到失业问题，他说：与我们建造的机器相比，我们当前的能力非常有限。比如现在我们有Uber和lyft，这是让交通更便宜和民主化的交通工具，这是非常棒的。接下来就是，汽车会被自动驾驶代替，所有的Uber和lyft的司机都必须去找新的工作。现在美国有400万职业司机，他们很快就会失业。

人工智能是人类最后的发明吗？未来没有答案

《你信任这台电脑吗？》是Chris Paine的最新作品。Chris Paine关注科技等领域的前沿领域议题，他在2006年制作了纪录片《谁杀死了电动汽车》（Who Killed The Electric Car），并与马斯克结识。2011年执导了独立纪录片《电动车的复仇》（Revenge of the Electric Car），探索新时代的机遇和危险。

马斯克与Chris Paine

Chris Paine的这部《你信任这台电脑吗？》聚焦人工智能将迎来一个前所未有的潜力时代。从先进的机器人装配线到无人机炸弹，再到人工智能的“假新闻”推送。连接所有这些细分领域的功能背后，是编程人员和工程师，他们制造出了不仅能模仿人类身体技能而且还能模仿我们的直觉和个性的机器人。

科幻小说早已预料到机器智能的兴起。今天，新一代自主学习的机器人已开始重塑我们生活的方方面面。人类无法理解的大量数据正在被创建、解释、并在个人助理、智能设备、广告以及海量的应用程序中。

《你信任这台电脑吗？》通过反映地球上的每一个行业正在经历从工作自动化到医疗诊断乃至军事行动的转变，探索我们新时代的承诺和危险。

我们应该信任这些机器到什么程度，这是一个值得思考的问题。人工智能将迎来一个前所未有的潜力时代，亦或者证明是我们人类的最终发明？

就像开头所说：

BOT or NOT?

这取决于你是否信任这台电脑。

原文发布时间为：2018-04-6

本文作者：克雷格、肖琴

本文来自云栖社区合作伙伴新智元，了解相关信息可以关注“AI_era”微信公众号

原文链接：马斯克、吴恩达等27人出镜：AI可能成为不朽独裁者，人类就像蚂蚁束手就擒