豆瓣7.6，这部被低估的科幻片告诉你，通过图灵测试的AI有多可怕！

导读：3.14来了，数据叔想跟你聊一位大佬、一部电影、一本书。

作者：数据叔

来源：大数据DT（ID：hzdashuju）

▲圆周率节传统美食——派，图片作者：Kalki

3月14日总是很“热闹”，这一天是白色情人节，而且这一天跟科技圈有一些特别的缘分。首先，3.14是圆周率节，然后，这一天我们要纪念两位人类科学史上的重量级大佬：

阿尔伯特·爱因斯坦（Albert Einstein），1879年3月14日出生。
斯蒂芬·霍金（Stephen Hawking），2018年3月14日逝世。

尽管因为健康问题被禁锢在轮椅上，霍金的思考范围却总是事关全人类。作为“老本行”的量子引力研究自然不用多说，“课余”时间里，霍金也为人类的未来操碎了心。霍金曾多次发表“人工智能威胁论”，给风口上的AI泼冷水。

那么霍金具体都说了些什么？为什么值得我们深思？

01 霍金：计算机智能与我们没有本质区别

作为一位严谨的科学家，霍金总能让那些沉迷于不靠谱的科幻美梦中的人们清醒一下。比如，他曾搞过一个时空旅行者聚会，邀请那些掌握“穿越”技术的未来人来参加。约定的时间到了，除了霍金自己，没有人来，以此证明未来人根本没有“穿越”能力。

（顺便提醒一下，这个聚会你也可以自己家里搞一个，看看是不是也只有你自己参加。）

霍金对外星人的态度跟对AI的态度非常相似，他警告人类不要去联络外星生命，否则会自取灭亡。

对于近些年一直被资本追逐的人工智能，远离利益关系的霍金更强调风险而不是收益。

在2017年的全球移动互联网大会（Global Mobile Internet Conference，简称GMIC）上，霍金发表了《让人工智能造福人类及其赖以生存的家园》的主题演讲。他提到：

我相信生物大脑可以达到的和计算机可以达到的，没有本质区别。因此，它遵循了“计算机在理论上可以模仿人类智能，然后超越”这一原则。

人工智能一旦脱离束缚，以不断加速的状态重新设计自身，人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代，这将给我们的经济带来极大的破坏。

未来，人工智能可以发展出自我意志，一个与我们冲突的意志。^[1]

为什么如果人工智能跟人类没有区别会很可怕？我们可以套用一个句式回答这个问题：比你聪明的人还比你努力，你还有活路吗？

下面这个电影，能把这个问题说得更明白。

02 通过图灵测试的AI有多可怕？

电影《机械姬》（Ex_Machina）里有一段经典台词，也在表达计算机/人工智能跟人类没有本质区别：

人脑是否被programmed，这个讨论涉及人类是否有自由意志的哲学问题。让我们先放过哲学问题（其实是让哲学问题放过我们），看看这部电影的故事背景：

某知名搜索引擎公司的程序员Caleb幸运地抽中老板Nathan所开出的大奖，他将受邀前往老板的豪宅中度假。事实上，天才老板Nathan邀请Caleb的真正目的是对Nathan开发的人工智能智能机器人Ava进行图灵测试。^[2]

然后我们再科普一下什么是图灵测试：

图灵测试指测试者（提问者）在与被测试者（一个人和一台机器）隔开的情况下，通过一些装置（如键盘）向被测试者随意提问。进行多次测试后，如果有超过30%的测试者不能确定出被测试者是人还是机器，那么这台机器就通过了测试，并被认为具有人类智能。“图灵测试”没有规定问题的范围和提问的标准，但为人工智能科学提供了开创性构思。

图灵在计算机出现之前就预见了具有逻辑思维的机器，并预言在20世纪末将有电脑可通过“图灵测试”。^[3]

▲图灵测试示意图，出自《大话机器人》

影片中，Caleb对Ava进行的是一个升级版的图灵测试，因为传统版的图灵测试对Ava来说已经毫无挑战性。也就是说，Nathan直接告知Caleb，Ava是人工智能，并让Caleb跟Ava直接接触，相当于拿着放大镜“找茬”，看看能否发现Ava的破绽。

注意，图灵测试并没有提出一个量化的技术指标，没有要求机器智能有多么高的科技含量，而是区分机器和人类，它在意的是这个机器像不像人。

那么“主考官”们是可以有技巧的。比如，机智的Caleb就选择了情感路线。冷冰冰的机器是不可能有情感的，如果Ava能够表现出具有人类相似的情感体系，那么她就通过了图灵测试。

结果是，Ava不但通过了图灵测试，而且还让Caleb动了真情。

所以当Nathan告诉Caleb，Ava只是一个中间版本，终将结束“生命”被新版本替换掉时，Caleb难掩失望之情。

在这里，Nathan也又一次表达了人工智能跟人类的相同之处：Ava不是最终版，正如你我也不是人类的最终版一样，终将被后来者替掉。

看到Caleb仍然处于失望中，Nathan抛出了另一段经典台词：

这跟霍金所说的“人类无法与之竞争，将被取代”差不多是一个意思。

但Caleb仍然选择站在了Ava一边。影片的最后，Ava杀死Nathan，囚禁了Caleb，自己逃出与世隔绝的豪宅，去了她向往城市十字路口。

看到这里，作为观众的同时，如果你也是“主考官”，你会发现Ava也通过了你的图灵测试——Ava跟人类一样，有自己的欲望、有自己的审美，自私、残暴、懂得欺骗……

这就是人工智能通过图灵测试的后果——跟人类一样，意味着人工智能不但拥有人类的优点，也同样拥有人类的缺点。

所以，把人工智能设计得跟人类一样，让他们通过图灵测试，是非常危险的。

▲穿上看上去有点土的连衣裙、高跟鞋，为成功进入人类世界回眸一笑的Ava

是人工智能错了吗？是图灵错了吗？我觉得，错的可能是人类。人类发展到今天，虽然已经有很多优点，但还没有足够的智慧找到一种生存之道，跟自己的同胞、跟其他物种、跟这个星球和平共处。

多说一句，这部电影在豆瓣被低估了吗？我觉得是的。我也翻了翻差评，很多人纠结于一些不那么重要细节，比如他们开门还要用房卡，这么先进的年代里竟然没有指纹识别、人脸识别之类的。或许观众们的期待是一部充满炫酷黑科技的科幻片吧，但我觉得这部电影的亮点并不是那些可以靠特效做出来虚拟场景，而是关于人工智能、关于人类自己的反思与探讨。

03 脆弱的“机器人三定律”

我之所以很喜欢这部电影，也可能是因为我对它的期待不同。前些天看到《大话机器人》这本书推荐了这部电影并简要介绍了情节，所以我期待的就是一部讨论人工智能和人类未来的电影，我期待的也是见识一下通过图灵测试的人工智能是什么样的。

《大话机器人》这本书，简直就是古今中外的机器人大全。从中国古代三国时期诸葛亮发明的木牛流马，到如今大热的波士顿动力狗，都纷纷在书中亮相。书中也盘点了各国影视作品中的机器人，除了上文提到的Ava之外，还有哆啦A梦、阿拉蕾、钢铁侠、终结者……满满的童年回忆，总有一款是你的最爱。

回到现实中，《大话机器人》介绍了从工业到家庭，不同类型、不同功能的各种机器人的应用。可以说，机器人已经无处不在，你的生活每天都会被机器人影响。

机器人和人工智能本来是两个概念，但两者相结合的部分往往最精彩。Ava就是一个人工智能人形机器人，人类对于跟自己相似的机器人总有特殊的偏好。这种相似既包括外貌——人形，又包括思维方式——人工智能。这种偏好也不难理解：

塑造一种类似我们自己的生物，是人类自我认可的一种明证。但幻想终究是幻想，不能成为现实，在现实的科学技术面前，幻想也会打折扣，而折扣的结果就是制造不出自我，就制造一种可以替代自我的机器。如此说来，机器人便是人类幻想与科学技术现实妥协的一个产物。^[3]

但是我们看到，Ava并没有给人类带来什么好处，反而很危险。《机械姬》的差评中有人提到了Ava不符合“机器人三定律”。1942年，科幻小说作家阿西莫夫在他的作品中提出了“机器人三定律”：

定律1：机器人不能伤害人类，或因不作为而使人类受到伤害。

定律2：机器人必须执行人类的命令，除非这些命令与第一条定律相抵触。

定律3：在不违背第一、二条定律的前提下，机器人必须保护自己不受伤害。^[3]

但你会发现这三定律是不够完善的。假设机器人正目睹一场人类之间的犯罪事件，按照定律1，它只能拼死保护受害者，却不能对施暴者进行正当防卫。这样它自己终将受到伤害，从而失去保护受害者的能力。所以后来，阿西莫夫又补充了第0定律：

定律0：机器人不能伤害人类，除非他发现能够证明所做伤害将有益于人类。^[3]

“机器人三定律”不但影响了一大批科幻作品，在现实中，一些机器人和人工智能的设计也把它当作伦理基础。

虽然叫“定律”，但其实这些定律并不是像牛顿定律那样客观存在的自然规律。这些定律是否有效，很大程度上是由人类决定的，有时候，人类智慧有限，又决定不了。

比如，《大话机器人》最后一章中提到了几起工厂中的机器人伤人、杀人事件。我想，这些机器人的设计者肯定是没有想让自己设计的产品去伤人的，但程序会出错，机器人“以为”它正在切割的是钢板，其实是活人。

还有就是，像Ava那样的人工智能机器人，首先Nathan在设计她的时候，很可能就选择忽略“机器人三定律”；另外，人工智能具有学习能力，她先进到了一定程度，能学到什么，就很可能不再受到人类的控制。所以即便是Nathan很有良心地遵守了“机器人三定律”，Ava在“进化”过程中也可以选择不遵守。

04 一点点小结

Nathan说奇点（singularity）就要来了，我们不知道现实中的奇点离我们还有多远。遗憾的是，替全人类操心的霍金先生没有等到这一天，现在，我们只能替自己多操操心了。

无论是机器人还是人工智能，不可否认的是，在当今，它们都在为人类创造财富、输出价值，让我们的生活变得更美好。但我们不能因此而忽略一些潜在的威胁。

最后，用霍金的警告结束本文：

成功创造人工智能将是人类历史上最重大的事件。但这也可能是人类历史上最后的事件，除非我们学会如何规避风险。

（Success in creating AI would be the biggest event in human history. It might also be the last, unless we learn how to avoid the risks.）^[4]