晓查 发自 凹非寺 
量子位 报道 | 公众号 QbitAI

LSTM之父又发新博文了。

这位Jürgen Schmidhuber，几乎每隔一段时间就出来回顾AI历史，抛出一些极具争议的观点，这次也不例外。

△ Jürgen Schmidhuber

他在最新的一篇文章中，热烈庆祝哥德尔不完备定理发表90周年，并在标题上附上如下评论：

早在1931年，这位理论计算机科学的创始人就展示了数学、逻辑、计算和人工智能的局限性。

△ 库尔特·哥德尔

Schmidhuber还在文中给予了哥德尔极高的评价——AI理论之父。

他认为哥德尔确定了定理证明、计算、人工智能、逻辑和数学本身的基本局限性，对20世纪的科学和哲学产生了巨大的影响，他才是现代理论计算机科学和人工智能理论之父。

哥德尔不完备定理对AI理论真如他所说很重要吗，它到底是如何限制AI的？

什么是哥德尔不完备定理

1931年，著名的数学家、逻辑学家库尔特·哥德尔（Kurt Gödel）发表了著名的哥德尔不完备定理。这则定理证明了某些逻辑体系是不完备的，即某些真命题无法被证明。

其中第一条定理是：

任何自洽的形式系统，只要蕴涵皮亚诺算术公理，就可以在其中构造在体系中不能被证明的真命题，因此通过推理演绎不能得到所有真命题（即体系是不完备的）。

第二条定理是：

任何逻辑自洽的形式系统，只要蕴涵皮亚诺算术公理，它就不能用于证明其本身的自洽性。

这两段话确实不好理解，但它们都包含一个关键词——皮亚诺算术公理。它是用来定义自然数体系的五条公理。

也就是说，一套自洽的形式系统（比如计算机AI系统），如果包含自然数公理体系，那么这个系统中就存在一些无法被证明的真命题。

这就是Schmidhuber所说的人工智能的局限性。

Schmidhuber说了啥

Schmidhuber认为，哥德尔的理论说明，一个计算定理证明器无法枚举中一个体系中所有的定理（即不完备性），哥德尔确定了任何类型基于计算的AI系统所受的限制。

而这正是上世纪符号主义AI曾试图走的路。早期的符号主义AI希望通过基于一系列基本定理的专家系统，用逻辑推理的方法实现AI。

△ 一个早期搭载专家系统的平台

哥德尔不完备定理恰恰指出这条路是走不通的，因为有些真命题无法通过推理获得。

之后，Schmidhuber又简单回顾了丘奇、图灵等人在计算机理论方面的工作，以及机械计算机、实用人工智能技术发展史。

Schmidhuber还在文章中为哥德尔鸣不平，他说1966年美国计算机学会设立了图灵奖，用来表彰对计算机领域做出长久和重大技术贡献的人。但哥德尔直到1978年去世也从未获得过该奖。

“世界欠这些科学家一大笔债！”Schmidhuber在文章末尾说道。

彭罗斯：我不认同

那么，果真如Schmidhuber所说，哥德尔不完备定理是AI的阿喀琉斯之踵吗？学界对此观点一直众说纷纭。

AI与哥德尔不完备定理之间的联系，最早是由英国哲学家约翰·卢卡斯在1959年建立的。

△ 约翰·卢卡斯

他在一篇题为《心灵、机器和哥德尔》的论文中提出了Schmidhuber所秉持的观点。

卢卡斯指出，现代计算机是形式系统的一个例子。计算机具有有限的操作，并且符合哥德尔形式系统的定义。计算机的所有操作都可以用公式表示，并且由算法给出推理规则。

因此，当我们处理由机器执行的所有操作序列时，就是在形式系统中推理，哥德尔不完全定理也适用。

卢卡斯在这里将人类思维与计算机的形式系统进行比较：人类的头脑知道某个陈述是正确的，但根据哥德尔定理，该陈述无法在形式系统内被证明，因此不能由形式系统产生为真命题。

最后，卢卡斯得出结论，由于哥德尔不完备性定理指出的局限性，机器永远无法与人类的思想相比。

对于卢卡斯的观点，也有很多人反对，其中就包括2020年诺贝尔物理学奖得主彭罗斯。

早在他1989年的著作《皇帝新脑》中，他就曾指出，人类意识超越了构建计算机的形式逻辑。

△ 彭罗斯和他的著作《皇帝新脑》

彭罗斯指出，对大脑进行建模的机器应该允许进行非归纳推理。具体来说，就是让机器维护一个既不能证明为真也不能证明为假的命题列表，并根据情况把它们添加到公理列表中，从而弥补机器的不完备性。

而且，哥德尔不完备定理只有在机器保持一致性的情况下才成立，而人类的思维不是一致性的。当人类得出相互矛盾的结论时，不会坚持这个矛盾，而是会试图解决它。

除了彭罗斯外，还有其他的科学家驳斥卢卡斯，这里不再一一赘述。

而且现代以深度学习为基础的AI，关注的是一种相关性，而非因果性，所以哥德尔不完备定理对深度学习系统是否也适用呢？

总之，Schmidhuber提出的观点在计算机领域尚无最终定论。

对此，有网友也表达了对Schmidhuber的不认同：

我非常尊重Schmidhuber，但他的一些行为有点幼稚，这在他对AI历史的主张中更为明显。

这是典型Schmidhubr体，真实与夸张的混合。

去年，Schmidhuber曾发文指出Hinton并非反向传播的原创者，在AI圈激起了不小的波澜。他对AI历史研究的痴迷让一些网友感到不快。

有网友认为，这篇博客文章像一本糟糕的历史书，Schmidhuber对某项工作贡献归属问题过于走火入魔，把when和who看得比what和why更重要。

再插一个题外话，Schmidhuber在文章里没有说的一件事：哥德尔由于对数学上的极致追求，最后使他反对唯物主义。

哥德尔晚年将自己的哲学描述为“理性主义、理想主义、乐观主义和神学主义”，他的最后一篇论文，是上帝存在的本体论证明。

看来对一件事过于痴迷，可能并不是一件好事。

参考链接：
[1]https://people.idsia.ch/~juergen/goedel-1931-founder-theoretical-computer-science-AI.html
[2]https://news.ycombinator.com/item?id=27536974
[3]https://www.zhihu.com/question/67187230
[4]https://www.ft.com/content/9736eb4a-f034-44f2-98eb-341d90a111f0
[5]https://www.analyticsinsight.net/machine-learning-in-light-of-godels-incompleteness-theorems/
[6]https://www.sabinasz.net/godels-incompleteness-theorem-and-its-implications-for-artificial-intelligence/