在招募最佳AI人才的比赛中，谷歌通过让一个前电子游戏大师和国际象棋神童领导的团队获得了一场政变

从2011年开始，德米斯哈萨比斯共同创立了DeepMind-由英国人工智能创业公司Elon Musk等资助，成为主要科技公司最令人垂涎​​的目标。 2014年6月，Hassabis及其联合创始人Shane Legg和Mustafa Suleyman同意谷歌以4亿美元的购买价格。 去年年底，Hassabis与Backchannel一起讨论了他的团队为何与谷歌合作 - 为什么DeepMind有独特的准备推动人工智能的前沿 。 这次采访的编辑时间长度和清晰度。

[Steven Levy] Google是一家人工智能公司，对吗？ 这是什么吸引你到谷歌？

[哈萨比斯]是的，没错。 这是Google的核心部分。 当我第一次来到这里时，我想到了谷歌的使命声明，即组织世界信息并使其全面易用和实用。 我解释的一种方式是考虑通过知识赋予人们权力。 如果你这样改述，那么我们工作的AI就很自然地适应了。 我们在这里工作的人工智能会自动将非结构化信息转换为有用的，可操作的知识。

德米斯哈萨比斯。 照片：Souvid Datta / Backchannel

您与Larry Page的互动是您决定向Google出售的重要因素吗？

是的，一个非常重要的因素。 特别是拉里和其他人真的对AI感兴趣，因为这是一件很酷的事情。 许多大公司现在意识到人工智能的力量，并希望做一些人工智能，但我认为他们不像我们或谷歌那样充满激情。

因此，即使Facebook可能拥有超级智能领导力，马克[扎克伯格]可能会认为人工智能更像是一种工具，而不是更广义上的任务？

对，是的。 这可能会随着时间而改变。 我当然相信人工智能是人类可以工作的最重要的事情之一，但他并没有像拉里那样有人深深地关心它。 他对其他事情感兴趣 - 连接人是他的使命。 而且他对像Oculus这类非常酷的东西很感兴趣。 我曾经做过电脑游戏和图形等等，但对AI来说并不重要。

使用Google的基础架构有多大的促进作用？

它超大。 这是我们与Google合作的另一个重要原因。 我们拥有大量的风险资金和惊人的支持者，但是要建立谷歌本来需要花费十年的计算机基础设施和工程基础设施。 现在我们可以更快地完成我们的研究，因为我们可以并行运行一百万个实验。

您所做的巨大飞跃不仅仅是为了挖掘结构化数据库之类的东西，而且还要分析非结构化信息（例如Internet上的文档或图像），并且还能够利用它们，对吗？

究竟。 这就是未来几年的巨大收益。 我也认为开发真正强大的AI的唯一途径是使用这种非结构化信息。 它也被称为无监督学习 - 你只是给它提供数据，它自己学会如何处理它，结构是什么，见解是什么。 我们只对这种AI感兴趣。

您在Google工作的人之一是神经网络的先驱Geoff Hinton。 他的工作对你的工作至关重要吗？

当然。 他在2006年有了这个大篇幅的报纸，使整个地区焕发青春。 他介绍了这种深度神经网络的概念 - 深度学习。 我们这里的另一件大事是强化学习，我们认为这同样重要。 Deep Mind迄今为止所做的大部分工作是将这两个有前景的研究领域以一种非常根本的方式结合在一起。 这就是Atari游戏玩家的结果 ，这是我们称之为代理的第一次演示，从像素到行动。

你在这里的研究方法有什么不同？

显然，我们称这家公司为Deep Mind，因为我们有深度学习的赌注。 但我们也对从神经科学获得见解深感兴趣。

我想我们对大脑的了解越多，我们就越能够创造一种机器智能方法。

是。 关于这些学习算法的令人兴奋的事情是它们是一种元级。 我们正在充实自己的经验，就像人类会做的一样，因此它可以做其他可能我们不知道如何编程的东西。 看到当程序员不知道Atari游戏中出现新策略时，我们感到非常兴奋。 当然，你需要令人惊叹的程序员和研究人员，像我们这里所拥有的那样，才能真正建立可以进行学习的类大脑架构。

换句话说，我们需要大量的人类智能来建立这些系统，但是我们会 -

...建立系统来掌握更多的行人或狭窄的任务，如下棋。 我们不会编程Go程序。 我们将有一个可以下棋和围棋，十字架和草稿以及任何这些棋盘游戏的程序，而不是每次重新编程。 这将节省大量的时间。 此外，我们感兴趣的算法可以使用他们从一个领域学习并将这些知识应用到一个新领域。 作为人类，如果我向你展示一些新的棋盘游戏或一些新的任务或新的纸牌游戏，你不会从零开始。 如果你知道打桥牌和兜风什么的，我可以为你制作一款新的纸牌游戏，而且你不会从头开始 - 你会带来这种套装的想法，以及知道更高的牌打败了下卡。 无论纸牌游戏是什么，这都是可转让的信息。

德米斯哈萨比斯。 照片：Souvid Datta / Backchannel

每个程序是否会受到限制 - 就像玩过很多纸牌游戏的程序一样 - 或者您是否想过一个可以学习如何做所有事情的庞大系统？

最终更一般的东西。 我们的研究计划的想法是慢慢拓宽和拓宽这些领域。 我们有这样的原型 - 人类的大脑。 我们可以绑鞋带，我们可以骑自行车，我们可以用同样的建筑来做物理。 所以我们知道这是可能的。

告诉我 你刚刚买下的牛津大学这 两家公司 。

这些牛津大学的学生是非常有才华的教授。 一个团队[以前的暗蓝实验室]将专注于自然语言理解，使用深度神经网络来实现这一点。 因此，我们不是使用旧的NLP逻辑技术，而是使用深层网络和文字嵌入等。 这是由Phil Blunsom领导的。 我们有兴趣最终将语言嵌入到我们的系统中，以便我们实际上可以交流。 目前他们显然是prelinguistic - 那里没有语言能力。 所以我们会看到所有这些结果。 第二组视觉工厂由世界着名的计算机视觉家Andrew Zisserman领导。

但是，所有这些研究都将最终成为同一引擎的一部分。

是啊。 最终所有这些东西都成为一个更大系统的一部分。

Google的哪些产品是您的团队希望改进的产品？

我们对Google仍然感到很陌生，但我们可以将部分技术应用于大量事情。 我们正在寻找各个方面的搜索。 我们正在寻找诸如YouTube推荐的内容。 我们正在考虑让Google即时了解您作为助理的能力，并更切实地了解您要做的事情。 我们正在看自动驾驶汽车，也许会帮助解决这个问题。

我们什么时候会看到这种情况？

在六个月到一年的时间里，我们将开始看到Google Plus中嵌入的一些方面，自然语言和一些推荐系统。

视频搜索如何？

这是另一件大事 - 你是否想要像踢球或吸烟之类的行为？ Vision组织正在研究这些问题。 动作识别，不仅仅是图像识别。

长远来看，你希望为Google做什么？

我对通用AI的潜力感到非常兴奋。 像AI辅助科学。 在科学领域，我们希望在疾病，气候，能源方面取得更多进展的几乎所有领域，甚至可以包括宏观经济学 - 都是大量信息的问题，几乎可笑的数量。 人类科学家如何导航并找到所有这些数据的见解？ 不仅仅是一个科学家，甚至是一个非常聪明的科学家团队都很难。 我们需要机器学习和人工智能来帮助我们在这些领域找到见解和突破，所以我们真的很了解这些难以置信的复杂系统正在做什么。 我希望我们能够联系到谷歌正在研究这些事情的各种努力，如Calico或生命科学 。

你对电影 她有 什么 看法 ？

我喜欢它美学。 这在某种程度上是对人工智能可能会产生的积极影响，并且它对计算机中的情绪和其他事物有着有趣的想法。 我认为这是不切实际的，因为那里有非常强大的AI，但它被卡在手机上，只是做相当平常的事情。 鉴于它本来应该是科学革命......而且没有任何证据表明世界上任何其他事情都不一样，对吧？

你已经有了成功的实验，但要将它们建成一个有数亿人使用的系统有多难？

这是一个多步骤的过程。 你从研究问题开始，找到答案。 然后我们做一些主要的神经科学，然后我们在机器学习中看到它，并且我们实现了一个可以真正发挥Atari的实用系统，然后就可以扩展了。 在Deep Mind，这个团队中有四分之三是研究，但是有四分之一是应用的。 该团队是在此处完成的研究与Google产品其余部分之间的界面。

你在游戏世界有一段梦幻般的职业生涯，你离开它，因为你觉得你必须了解大脑。

是啊。 事实上，我的整个职业生涯，包括我的游戏生涯，都一直领导着AI公司。 即使在我十几岁的时候，我也认为人工智能将是最有趣的工作，也是最重要的工作。

但是你处于游戏世界的顶峰 - 你曾经在Black and White等巨作中创立过 Elixir Studios   - 你只是想：“好，有时间研究神经科学？”

它更像是“让我们看看我能在游戏的幌子下推AI多远。 所以黑与白很可能是那个巅峰，那就是主题公园 共和国和我们试图写的其他东西。 然后在2004 - 2005年左右，我觉得我们已经尽可能地将AI推向了游戏非常紧张的商业环境。 而且我可以看到，游戏正在朝着更简单的游戏和移动方向发展 - 正如他们所做的那样 - 实际上，在一个游戏项目中开展大型AI项目的机会会更少。 于是我开始思考Deep Mind--这是2004年 - 但我意识到，我们仍然没有足够的组件来取得快速进展。 深度学习在那时没有出现。 计算能力不够强大。 所以我研究了我应该在哪个领域攻读博士学位，并认为在神经科学领域比在AI领域做得更好，因为我想了解一套全新的创意，而且我已经知道世界级的AI人才。

在你研究大脑的几年中，当你创建一家人工智能公司时，最大的收获是什么？

很多东西。 一个是强化学习。 为什么我们认为这是一个重要的核心组件？ 我们在这里做的一件事是研究新的算法的神经科学灵感，并验证现有的算法。 事实上，在90年代后期， Peter Dayan和他的同事们参与了一个使用猴子的实验，这表明他们的神经元在他们了解事物时确实在进行强化学习。 因此，认为这可能是整个AI系统的组成部分并不疯狂。 当你在黑暗的时刻试图找到一些有用的东西的时候，获得这些额外的信息是很有用的，比如说：“我们没有生气，这真的有效，我们知道这是有效的，我们只需要更加努力。 “另一件事是海马。 这是我研究的大脑区域，它是最迷人的。

为什么？

深度学习本质上是[模仿]皮质。 但是海马是大脑的另一个关键部分，它的结构非常不同，是一个更古老的结构。 如果你把它敲出来，你就没有回忆。 所以我很着迷这一切如何协同工作。 有时候会像睡觉时一样巩固[皮层和海马之间]。 你在一天中记录的记忆重新回到大脑其他部分的速度更快。 我们在我们的Atari代理中使用了这种记忆重放的思想。 我们重播了经纪人在训练阶段的经历轨迹，并且有机会再次看到数百次，数百次和数百次，所以它可以很好地适应这一特定位置。

当你谈论大脑的算法时，这是严格意义上的隐喻还是你正在谈论更多的文字？

它更真实。 但我们不打算专门制造人造海马。 你想说，那是什么原理？ [我们最终对智能的功能感兴趣，而不是特定于我们具体原型的确切细节。 但忽视大脑也是一个错误，很多机器学习人员都这样做。 您可以在算法中使用非常重要的见解和一般原则。

因为我们没有完全理解大脑，所以很难一直采用这种方法。 你认为有些东西是“湿”的，你不能在硅片上做？

在我的博士学位期间，我仔细地看了一会儿，然后才看看这条线应该画在哪里。 [罗杰] 彭罗斯具有量子意识[它假设计算机无法模拟的思想中存在量子效应]。 美丽的故事，对吧？ 你希望它是真的，对吧？ 但这一切都崩溃了。 似乎没有任何证据。 非常顶级的生物学家已经仔细研究了大脑中的量子效应，但似乎没有。 据我们所知，这只是一个经典的计算设备。

德米斯哈萨比斯。 照片：Souvid Datta / Backchannel

你现在正在处理的大问题是什么？

重要的是我们所说的转移学习。 你已经掌握了一个领域的东西，你如何将它抽象成几乎就像现在可以在新领域中应用的知识库一样？ 这是一般知识的关键。 目前，我们善于处理感性信息，然后根据这一点采取行动。 但是当它进入下一个层次，即概念层面时，没有人能够做到这一点。

那么你如何去做呢？

我们还有几个有希望的项目，我们还没有准备好公布。

您在Google购买时设定的一个条件是该公司设立了某种AI道德委员会。 那是关于什么的？

这是收购协议的一部分。 这是一个独立的咨询委员会，就像他们在其他领域一样。

你为什么这么做？

我认为人工智能可能会改变世界，这是一项了不起的技术。 所有技术本质上都是中性的，但它们可以用于好的或坏的，所以我们必须确保它的使用是负责任的。 我和我的联合创始人长期以来都感觉到这一点。 Google的另一个吸引力是，他们也对这些事情感到强烈。

这个小组做了什么？

当然，还没有。 这个小组刚刚成立 - 我希望在提出任何问题之前就位。 我们确实有一个限制，那就是不属于委员会的一部分，但是收购条款的一部分，就是没有任何来自Deep Mind的技术会被用于军事或情报目的。

一旦你把它引入世界，你觉得一个委员会真的可以对控制技术产生影响吗？

我想如果他们受过充分的教育，是的。 这就是为什么他们现在正在形成，所以他们有足够的时间来真正了解技术细节和细节。 在这个委员会里有一些顶尖的教授在计算，神经科学和机器学习。

这个委员会现在已经到位了吗？

这是成立的，但我不能告诉你谁在上面。

为什么不？

那么，因为它是保密的。 我们认为这是非常重要的[它远离公众的视野]，特别是在没有技术的初始阶段 - 我的意思是我们正在计算Pong，对吗？ 目前这里没有问题，但在未来五到十年内可能会有。 所以真的只是在比赛之前。

你最终会公布名称吗？

潜在的。 这还有待讨论。

透明度对此也很重要。

一定一定。 有许多有趣的问题需要在技术层面上回答这些系统的能力，他们可能做什么，以及我们如何控制这些事情。 在一天结束时，他们需要人类程序员设定的目标。 我们的研究团队在这些理论方面的工作部分是因为我们想要推进[科学]，但也要确保这些东西是可控的，并且循环中总有人类等等。

https://medium.com/backchannel/the-deep-mind-of-demis-hassabis-156112890d8a