[书评]哥德尔、埃舍尔、巴赫：深度解说

最初，哥德尔、埃舍尔、巴赫是一本令人困惑的备受推崇的阴谋论文本。但继续读下去，你会看到魔术：所有的阴谋实际上都是真的。哥德尔编号实际上就像RNA翻译一样，递归转移网络实际上类似于基本粒子的重整化。谁知道呢？GEB的作者道格拉斯·霍夫施塔特（Douglas Hofstadter）做到了，他写了一篇长达700页的探索，探讨了哥德尔不完备性定理背后的思想，以便你也可以。

GEB由两部分组成。第一部分是许多有趣且密切相关的想法的阐述：数学和物理等形式系统通过模拟世界来获得意义;递归为这些系统提供了动力，但也实现了自我参考;自我参照最终会给这些系统带来严重的问题。这些想法建立在戈德尔不完备性定理的陈述和证明之上。粗略地说，第二部分声称第一部分的想法与人工智能和意识的本质有关。

这篇“书评”实际上是对GEB第一部分中关键思想的深入解释。也就是说，我还将在最后简要介绍第二部分。

在我开始之前，让我告诉你一些不会出现在这篇评论中的东西，因为除了GEB本身之外，你真的不能从任何地方获得它们。

首先，这篇评论将很少提到霍夫施塔特的实际话语。原因很简单：它们太多了。在这篇评论的先前草稿中，我试图引用GEB的一些简单的事情，但它总是像“霍夫施塔特认为人类有时与机器不同：[300字的引用，以某种方式基本上涉及一个类比，你认为你的妻子希望你关掉电视，但她希望你开始一场推翻政府的革命]（第37页）。

其次，这篇评论将省略霍夫施塔特在整篇文章中描绘的引人入胜的相互联系。我保证，哥德尔编号真的就像RNA翻译一样，但如果你想知道为什么你必须从你当地的图书馆中查看GEB，对不起。

第三，GEB确实以一种没有人能模仿的方式变得特殊。这本书的章节被有趣的卡罗尔对话所分隔，这些对话说明了后来在文本中重新出现的关键思想，模仿了主题在巴赫赋格曲中重新出现的方式。霍夫施塔特有一把斧头要和禅宗一起磨，他在文中发展起来的一个正式的逻辑系统的第一个应用是驳斥禅宗关于磨斧头的禅宗。他还喜欢无缘无故地向作曲家约翰·凯奇拍摄大锅。

总的来说，我认为GEB是一本非常好的书。事实上，我坚持认为，即使考虑到我的坚持，它比你预期的要好。GEB对埃利泽·尤德科夫斯基的影响者，他曾经写道：

道格拉斯·霍夫施塔特的《哥德尔、埃舍尔、巴赫》是我读过的最令人敬畏的书。如果有一本书强调了死亡的悲剧，那就是这本书，因为有这麼多人没有读过它就死了，这太可怕了。

所以，为了避免你死时没有了解为什么哥德尔编号就像熟悉GEB的RNA翻译一样，让我们开始吧。

一、正式制度和解释

[如果你已经熟悉形式逻辑，我建议只略读本节。如果你已经对形式逻辑足够熟悉，以至于你理解了哥德尔不完备性定理的陈述和证明，那么可能直接跳到第六节。

GEB研究的基本对象是霍夫施塔特所说的正式系统。正式系统包括：

允许字符的集合，我们可以从中形成字符串（字符序列）
称为“公理”的字符串集合
规则的集合，或“推理规则”，用于将某些字符串更改为其他字符串

哼？让我们从一个简单、无意义的例子开始，称为MIU系统。

军事情报室系统：

允许的字符：M、I 和 U（所以字符串是像 M、UMM、咪咪、迷你、迷你等）
公理：心肌梗死
规则：
- 规则 I：给定一个以 I 结尾的字符串，您可以在末尾添加一个 U。
  - 示例：从 UMI，形成 UMIU
规则 II：给定一个形式为 Mx 的字符串，其中 x 由 M、I 和 U 组成，您可以形成字符串 Mxx
- 示例：从 MIU，形成 MIUIU
规则III：给定任何带有III的字符串出现在内部的某个地方，您可以将III替换为U
- 示例：从 MIIII 中，您可以形成 MUI（通过将中间 III 替换为 U）。您也可以形成 MIU（通过将结尾 III 替换为 U）。
规则四：给定任何内部出现UU的字符串，您可以删除UU
- 示例：从穆伊，形成 MI

让我们把一个字符串称为定理，如果你能使用推理规则从公理MI产生它。例如，我声称MUIIU是一个定理;为了支持这一点，我提供了以下“证据”：

(1) MI    (axiom) (2) MII    (using rule II) (3) MIIII (using rule II) (4) MIIIIU  (using rule I) (5) MUIU    (using rule III) (6) MUIUUIU (using rule II) (7) MUIIU (using rule IV)

你有它 - MUIIU是一个定理（就像沿途获得的所有字符串一样）。

等等，公理？定理？看过一些数学逻辑的读者可能会明白这是怎么回事。

选择术语是为了建议以下内容。我们想象给定的规则是“逻辑推理规则”，类似于经典逻辑中的规则，如“给定'P'和'如果P那么Q'，你可以得出结论'Q'。我们想象我们系统的字符串是用某种形式语言编写的逻辑语句。我们想象公理是一些我们假设为真的逻辑陈述。因此，上面的“证明”类似于从已知的公理开始，并使用逻辑推理规则来推断出一些期望的定理，有点像证明！形式系统是一种机械地编纂逻辑推理的方式;人们可以很容易地编写一个从公理开始的程序，并递归地应用推理规则来生成一个不断增长的定理列表。事实上，这是像Coq这样的自动定理证明者的一个非常基本的模型。

在介绍MIU系统之后，霍夫施塔特提供了以下难题，我将其传递给您：

 问题： MU是一个定理吗？

如果您愿意，请尝试自己弄清楚，或者继续阅读以稍后找到答案。

在这个例子中，MIU系统似乎没有反映我们关心的任何东西的结构。相比之下，下一个半例子是：它们旨在模拟自然数的乘法。

系统：

允许的字符：t、q、-
公理：
规则：
- 规则 I：给定一个字符串 xtyqz，其中 x，y，z 是仅由连字符组成的字符串，您可以形成 x-t yqzy
- 规则 II：给定一个字符串 xtyqz，其中 x，y，z 是仅由连字符组成的字符串，您可以形成 xty-q zx

与MIU系统不同，tq系统带有一种解释，该解释将正式系统的字符串转换为某些上下文中有意义的语句。在这种情况下，上下文是“乘法”，并且解释看起来像

t ⇒ times q ⇒ equals - ⇒ one -- ⇒ two

等等。这种解释将tq系统的公理-t-q-转换为乘法“一乘以一等于一”，并将定理--t---q------（在下面证明）转换为乘法“两乘以三等于六”。

Proof: (1) -t-q-      (axiom) (2) --t-q--     (rule I) (3) --t--q----   (rule II) (4) --t---q------ (rule II)

我们可以把解释看作是赋予一个正式系统以意义。未解释的 --t---q------ 是一个无意义的字符串，与 MU 系统的字符串相同。但是有了上面的解释，这个字符串意味着乘法“两乘以三等于六”。打个比方：对于一个对世界一无所知的孩子来说，地球仪只是一个旋转的玩具，上面覆盖着毫无意义的图片。但是，一旦孩子了解到地球仪（正式系统）上的图片代表（解释）实际地球上的大量土地（上下文），地球的各个方面就开始具有意义 - 标有“亚洲”的绿色斑点大于标记为“澳大利亚”的斑点，对应于亚洲大陆的陆地面积大于澳大利亚大陆。（请注意，正式的系统-解释-上下文关系与地图-领土关系非常相似。

《解放》，作者：M.C.埃舍尔。形式系统中的字符串（底部的三角形）通过解释转换为有意义的陈述（鸟）。

在这一点上，有三个警告是有序的。

首先，你不应该认为一个正式的系统必然只有一种解释。例如，这是对 tq 系统的另一种解释，现在进入划分的上下文：

t ⇒ equals q ⇒ divided into - ⇒ one -- ⇒ two

依此类推，因此 --t---q------ 现在解释为“二等于三除以六”。在这种情况下，争论--t---q------的“真正含义”是什么是错误的;正确的结论是两个含义是同时编码的。即使是这个双引号的简单例子也有些有趣：它证明了乘法的结构与除法的结构“相同”（借用数学中的一个词，霍夫施塔特会说乘法和除法是“同构的”）。

封面艺术是两块木雕的真实照片。根据您使用的解释（光的角度），您可以从每个块中提取三种不同的含义。

其次，并非所有 tq 系统的字符串在解释下都有意义。tq 系统还包含像 ttq-t 这样的字符串，这些字符串不对应于任何乘法。让我们称一个字符串为格式良好的字符串，如果它确实在我们选择的解释下具有意义。这包括像 -t-q-这样的字符串，它们确实意味着某物（一乘以等于二），即使该项内容是假的。

第三，tq系统的所有定理不仅格式良好，而且它们也表示真正的乘法。例如，定理 -t-q- 和 --t---q------解释为真正的乘法“一乘以一等于一”和“两乘以三等于六”。（格式良好的字符串 -t-q-没有，但这很好，因为它不是定理。这真的很重要，所以让我们把它作为一个要求：如果我把某件事称为形式系统的“解释”，我总是意味着定理是形式良好的，并且在解释下是正确的。

举一个反例，如果我们把“-”改成“二”，那么我们就不再有解释了，因为定理-t-q-将表示乘法“两乘以二等于二”，这不是两个—— achem请原谅我——是真的。

作为形式系统的最后一个半示例，让我们扩充 tq 系统，以便它可以证明表示“6 是复合”等语句的定理。

系统：

允许的字符：t、,-,、,-,C、P
公理：与 tq 系统相同
规则：与 tq 系统相同，加上
- 规则三：给定一个字符串 xtyqz，其中 x，y，z 至少包含两个连字符，您可以形成 Cz

我打算将tqCP系统解释为“算术语句”的上下文看起来与tq系统相同，加上：

Cx ⇒ x is composite Px ⇒ x is not composite (or equivalently, x is prime)

当推理规则不允许P出现在定理中时，有一个P是怎么回事？稍后将对此进行详细介绍。

II. 跳出系统

我在上面声称，对tq系统的给定解释是有效的，即它将系统的定理转换为真正的乘法。我怎么知道的？当然，我举了两个例子，定理-t-q-和-t---q------,但我怎么能确定tq系统的无限多个定理中的每一个都解释为真乘法呢？

我会这样争论。首先，公理 -t-q- 解释为真乘法（一乘以等于一）。其次，我们注意到，给定一个表示真乘法的字符串 xtyqz（x 乘以 y 等于 z），规则 I 生成一个表示真乘法（（x 加 1）乘以 y 等于 z 加 y）的字符串。规则二也是如此。由于我们的公理是正确的，我们的推理规则保持真理，我们所有的定理也必须是真实的！

最后一段的推理发生在哪里？它当然不是“在tq系统内部”的证明，因为这些证明看起来就像是遵循推理规则的tq字符串列表。相反，这是“走出系统”的一个例子。我们使用普通推理来推理 tq 系统，而不是 tq 系统的内部形式逻辑。毕竟，系统并不“知道”我们给出的解释——也就是说，我们对解释的选择与tq-system的公理或推理规则无关，而这些公理或推理规则是决定哪些字符串是定理的唯一因素。因此，我们不可能希望通过在tq系统内工作来证明解释的有效性。我们不得不走出去。

下面是另一个单步执行系统外部的示例。我们刚刚看到 tq 系统的每个定理都表示一个真正的乘法。事实上，反之亦然，即每个真乘法都由 tq 系统的一个定理表示！如果您有兴趣，您可能希望证明这一点 - 这将需要走出系统。然后，利用这个观察结果，你可以“从外部”推导出tq系统的定理。例如，由于---t---q---------表示真正的乘法，我们知道它必须是一个 tq 定理。同样，这不是正式意义上的“证明”，因为证明是通过应用规则产生的tq字符串序列。这是来自系统外部的证明（在非正式意义上）。

霍夫施塔特指出，跳出系统是智能的一个重要特征。在我介绍tq系统之前，我告诉过你我打算解释的是什么。但即使我没有，你也很有可能在几分钟后写下tq定理后发现它。与其盲目地制造出一个更长的定理列表，不如逐渐注意到这些模式，放下铅笔思考，并发现你可以预测所有tq定理是什么，而无需将它们写下来。这些都是系统外的活动。

即使是现在，你也可能会频繁地跳出你的“阅读这篇书评”系统。也许你正在停下来检查你是否口渴或需要去洗手间。也许现在你问自己，如果我只是告诉你这样做，这是否算作跳出系统。也许你现在正在尝试做一些我没有告诉你做的事情，只是为了证明你真的可以跳出这个系统。（对不起）

与此形成鲜明对比的是，图形计算器运行一个基本程序，该程序打印出tq定理列表。图形计算器永远不会停止执行其代码，后退一步以调查数据，注意模式，并打印出“您虚拟的乘法”。当然，人类最终是一些程序，尽管在极其强大的计算机上运行的程序非常复杂。因此，有一些系统我们无法从中走出来，就像生物进化无法退后一步，看看数据，然后向虚空大喊大叫，只是继续制造更多的螃蟹你傻瓜。关键不在于人类的智能在某种程度上是“特殊的”，纯粹的机械推理永远无法复制。重点更简单：智能系统似乎能够识别和运行子任务，以及从外部监视这些子任务并确定何时停止执行它们。

三、真理与可证明性

“雪是白色的”是真的，当且仅当雪是白色的。

- 阿尔弗雷德·塔斯基

在这一点上，你有可能混淆了真理和可证明性的概念。如果是这样，不要感到难过：直到1930年，整个逻辑史上的每个人都如此。就在那时，德国逻辑学家库尔特·哥德尔（Kurt Gödel）宣布了他同名的不完备性定理，其结果是真理和可证明性确实必须被视为单独的概念。GEB第一部分和这篇书评的一个目标是概述这个定理的关键思想。在本节中，我将解释真理和可证明性之间的区别，并陈述哥德尔定理。但首先，关于哥德尔的故事。

20世纪30年代末欧洲的生活对哥德尔的待遇并不好。首先，他找不到学术职位，因为他有太多的犹太朋友（这是成为数学家的常见副作用）。更糟糕的是，他被征召入伍加入德国军队。因此，哥德尔做了合乎逻辑的事情：他逃到美国，在普林斯顿大学找到了一个职位，并与他的伙伴阿尔伯特·爱因斯坦（Albert Einstein）一起出去玩（爱因斯坦承认，他来上班的唯一原因是“有幸和哥德尔一起走回家”）。在为他的美国公民考试而学习时，哥德尔声称发现了一个奇怪的伎俩，可以合法地将美国变成一个独裁政权（反法西斯主义者讨厌他！）。尽管爱因斯坦警告他绝对不要提出这个问题，但哥德尔在他的公民身份面试中完全提出了这个问题。幸运的是，爱因斯坦在那里担任证人，也认识面试官，他设法使一切都顺利进行。哥德尔成为公民。我不确定其中的寓意是什么，但希望这能让你尝到库尔特·哥德尔的思想。

好了，回到伪装成书评的逻辑教科书。思考真理/可证明性区别的一个好方法是，可证明性来自形式系统，真理来自解释+上下文。

可证明性更简单，所以让我们先解决它。在形式系统中调用可证明的字符串只是将其称为定理的一种花哨方式。也就是说，“可证明的字符串”和“定理”是同义词。这应该是有道理的：请记住，“定理”只是意味着你可以使用推理规则从公理中推断出的东西，即你可以“证明”的东西。例如，字符串 -t-q- 和 C------在 tqCP 系统中是可证明的，但 -t-q-不是。在MIU系统中，MI和MUIIU是可以证明的，但是（剧透！MU不是。请注意，可证明性是一个纯粹的形式概念，即它仅取决于形式系统，而不依赖于你对它的任何解释。

另一方面，真理依赖于解释的选择。给定一个具有解释的形式系统，我们说如果系统的一串在给定的解释下为真，则该系统字符串为真。例如，--t---q------是真的，因为两乘以三等于六，但P----是假的，因为四不是素数。我们不能说MIII或MMU是否真实，因为我们没有对MU系统的解释。

由于通过法令，我们所有的解释都将定理转化为真实陈述，我们知道：

在具有解释的形式系统中，系统的所有可证明字符串也为真。

或者更简洁地说：如果可以证明，那么这是真的。这真的很重要：这就是为什么数学家和物理学家可以在纸上写出有趣的符号，在它们上面做逻辑，产生一些有趣的符号的新排列，并确信新符号实际上告诉了他们一些关于宇宙的真实信息！

你可能会倾向于相信相反的事实：形式系统中的每个真实陈述也是可以证明的。（或者至少，你可能会想，如果我没有一整节的标题是“真理与可证明性”。但考虑一下 tqCP 系统的字符串 P--，它解释为“两个是素数”。这个字符串当然是正确的，因为两个是素数。但它在tqCP系统中是不可证明的 - 事实上，系统的任何规则都不允许你产生一个字符为P的定理。

你可能会认为这表明tqCP系统在某种程度上是坏的，或者至少是不完整的。也许你试图通过添加一个新规则来增强tqCP系统：如果对于一些仅由连字符组成的x，Cx不是定理，那么Px是定理。但这里有一个问题：应用此规则需要列出tqCP系统的所有（无限多个）定理，并检查Cx是否不在其中。但这不是我们的形式系统所允许的那种简单的、机械的规则——你永远无法写完所有的定理，并检查C--不在其中。你也许可以从系统外部证明C--不是一个定理，但这种“系统外”的推理与系统内部的可证明性无关。

不要害怕：霍夫施塔特确实解释了一种增强tqCP系统的方法，以便能够证明像P--这样的陈述（尽管它需要添加新字符和新规则）。因此，现在我们是否可以承认tqCP系统是不好的，我们应该根除所有无法证明其所有真理的正式系统，并用可以证明的正式系统取而代之？

苟！哥德尔不会容忍公民面试官对独裁的怪异伎俩一无所知，他也不会容忍我们的胡说八道。这是他的定理。

哥德尔不完备性定理：任何足够丰富的形式系统，加上一个解释，都有一个真实但无法证明的弦。

一个能够证明其所有真理的正式系统被称为“完全”。因此，哥德尔定理说，每个足够丰富的形式系统都是不完整的——总会有无法证明的真理。“足够富有”是什么意思？它的意思是“表达能力足以允许某些类型的自我参照”;在下一节中将对此进行更多介绍。

五、自参照和哥德尔定理的证明

假设我走进你的房间说：

这句话是谎言。

因为我是一个不受信任的陌生人，你可能会怀疑我在撒谎。但如果是这种情况，那么“这句话是谎言”将是事实，所以我会说实话......一个矛盾！同样，如果你认为我说的是实话，你会发现我在撒谎，这是另一个矛盾。（在这一点上，你应该走出你的“解决逻辑难题”子任务，并启动一个“向警察报告入侵者”子任务。

这被称为骗子悖论，这是哥德尔定理证明背后的基本思想。问题的核心是，我们有一个系统（英语）试图模拟自己，我们已经展示了一个句子，其解释的含义引用了同一个句子。这种吃蛇的尾巴病理可以安排成其他类似的悖论。

你可能会认为，我们可以用一个简单的规则来解决这样的事情，比如“对正式系统的任何解释都不能让上下文成为同一个系统。不幸的是，事情并不那么容易。考虑以下骗子悖论的两步版本。

下面的德语句子是错误的。

Der obige englische Satz ist wahr.（“上面的英语句子是真的。

在这里，“英语句子”系统具有足够的解释表达能力，以至于英语中的句子能够对德语中的任意句子提出主张。但是，“德语句子”系统也同样如此，它具有足够的表达力，可以对英语中的任意句子提出主张。虽然每个句子本身都是完全无害的，但整体是矛盾的！

（请注意，“英语/德语中的句子”并不是前面定义的意义上的真正正式系统，但它们是相似的，因为它们是字符串的集合，可以被赋予赋予字符串含义的解释。因此，上述内容应被视为对下面要充实的想法的纯粹非正式说明。

《画手》，作者：M.C.埃舍尔，一幅两步骗子悖论的插图。

部分问题在于英语太丰富了。也就是说，它能够谈论“真理”和“虚假”等概念，并支持自我参照。它也足够丰富，可以对系统（如德语）进行建模，这些系统本身就足以模拟英语，从而实现两步说谎者的悖论。这些不是容易修补的问题;目前尚不清楚我们需要删除多少英语才能使其“不太具有表现力”。也许这样做，我们会破坏我们说出任何有用的话的能力。

英语太模糊了，无法使用，所以哥德尔使用数论的陈述 - 例如“二加二等于四”和“四是八的因子”。最后，虽然数论没有足够的表现力来谈论数论陈述的真理性，但它足以表达数字理论陈述的可证明性。

（我不会在这篇综述中进一步介绍它，但数论具有足够表现力来谈论可证明性的更深层次的原因是它能够支持递归（关键事实是“定理”是由递归应用规则产生的字符串）。更深入地说，数论之所以能做递归，是因为它有一个归纳公理。

哥德尔证明的思想是将说谎者悖论的“可证明性版本”编码成数论。也就是说，给定一个足够丰富的形式系统来模拟数论，哥德尔提出了一个系统的字符串G，其解释的含义是：

G 是不可证明的。

如果G是假的，那么G将是可证明的，因此是真的，这是一个矛盾。所以G一定是真的，使它成为一个无法证明的真理。因此，有关正式制度是不完整的。

本节的其余部分使用一个名为哥德尔编号的想法更详细地充实了这个想法。我认为这很酷，但如果这不是你的一杯茶，请随时跳到第六部分。

作为热身，回想一下上面的MU难题：确定MU是否是MIU系统的定理。我现在将证明答案是“不 - MU不是定理”。这个想法是将“MU是MIU系统的定理”编码为关于数论的主张，然后弄清楚关于数论的主张是否正确。

为此，让我们首先按照规则将MIU系统的字符串转换为数字：

M ⇒ 3 I ⇒ 1 U ⇒ 0

例如，MIUUI 是数字 31001，MU 是数字 30，公理 MI 是数字 31。在这种变换下，MU系统的规则可以用算术来陈述。例如，规则I说，如果一个数字的单位是数字1，那么你可以把它乘以10（从而在末尾附加一个0）。或者更正式地说：

给定一个数字的形式为10m + 1，您可以形成数字10 *（10m + 1）。

您也可以对其他规则执行相同的操作。

让我们将一个对应于MIU系统定理的数字称为MIU号码。因此，我们将“MU是MIU系统的定理”转换为等效的主张“30是MIU数”，也可以表示为“30可以通过反复应用这样那样的算术运算从31形成。”这似乎不像是进步，但事实确实如此！“30是MIU数”的说法是一个数字理论陈述（尽管可能不是一个有趣的陈述）。从本质上讲，它类似于 - 但比 - 更熟悉的陈述“216是6的幂”，即“216可以通过反复应用乘以6运算从1形成。

现在，我们可以通过证明关于MIU数的命题来处理MU难题：

命题： 没有 MIU 数可被 3 整除。

我会把证明留给你 - 这并不难，特别是如果你还记得检查一个数字是否可以被3整除的规则。

由于 MU 对应于 30，可被 3 整除，因此我们推断 30 不是 MIU 数。因此，MU不是MIU系统的定理，我们完成了。如果您感到困惑，可以立即在计算机屏幕上按暂停键，以深刻反映所发生的事情。当您准备恢复哥德尔定理的证明时，可以按播放。

上面的过程将MIU系统的字符串转换为数字，并将有关这些字符串的声明转换为数论的陈述。这被称为哥德尔编号，它可以在任何正式系统中完成。通过哥德尔编号，关于MIU系统的“MU是一个定理”的说法对应于数字理论声明“30是MIU数”。换句话说，尽管MIU系统没有赋予其字符串含义的解释，但哥德尔编号为有关MIU系统的某些声明赋予了数理论意义。

如果我们哥德尔数一个已经解释成数论的系统，会发生一些有趣的事情吗？通过解释获得的意义是否与哥德尔编号所诱导的含义相冲突？我的修辞问题还能更有启发性吗？所有这些问题的答案都是肯定的吗？

在GEB中，霍夫施塔特花了两章构建了一个形式系统的明确示例，该示例模拟了数论，称为印刷数论或TNT（预示它将自行爆炸）。为了具体起见，他证明了系统TNT的不完备性定理。然而，同样的证明也适用于一般形式系统S，并解释为数论，我将在这里用这种更通用的语言来解释它。

（技术肉来了，请让你的大脑“非常努力地思考”）

假设我们被赋予一个形式系统S，并解释为数论。假设形式系统“足够丰富”，因为任何关于数论的陈述都可以呈现为一串S。我们想证明S有一个无法证明的事实。修复 S 的哥德尔编号，即 S 字符和数字之间的对应关系，它将 S 的所有字符串转换为数字，并将 S 的所有规则转换为算术规则。和以前一样，如果一个数字对应于 S 的定理，让我们称它为 S 数。

给定系统 S 的字符串 G，设 g 是哥德尔编号下对应于 G 的数字。现在，“G不是S的定理”等价于数论主张“g不是S数”。但是，数字理论声明“g不是S数”可以反过来呈现为S的字符串（任何数字理论声明都可以通过假设）。我们来称呼这个字符串 G'。

在这样的情况下，哥德尔给出了一个神奇的配方（或参见GEB的第13章和第14章），用于烹饪特定的字符串G，使得得到的G'与G相同。因此，这个G解释为“g不是S数”的陈述，当且仅当G不是S的定理时，这是真实的。非正式地说，我们可以说G带有“G在S中不可证明”的含义。现在我们完成了：如果G是假的，那么G是S的定理，因此是真的，一个矛盾。所以G是真的，因此G是不可证明的。因此，G是一个不可证明的真理，而S是不完整的。断续器

在本节的最后，我将为那些感兴趣的人做一个练习：这个证明如何像停止问题的不可决定性的证明？（有关解决方案，请咨询哥德尔，埃舍尔，道格拉斯霍夫施塔特的巴赫。

好吧，我会告诉你关于RNA转录=哥德尔编号的事情。但是，如果你认为这是类比的范围，那么让我告诉你道格拉斯·霍夫施塔特的这本书。

六、全球教育局第二部分

作为一名数学研究生，我不是一个写GEB第一部分的书评的坏人。另一方面，我完全没有资格对GEB第二部分说些什么。无论如何，我会说一点。

我对GEB第二部分的执行总结是：你知道第一部分中所有关于自我参照，意义等的很酷的想法吗？这些都与智力和意识有关。

这显然是一个非常糟糕的总结。它的一个问题是，第二部分的很大一部分都致力于完全没有争议的话题，比如计算和人工智能的简史，上面提到的哥德尔产生字符串G的“神奇配方”的解释，以及驳斥从不完备性定理中得出的错误结论，如“人工智能是不可能的”。

也就是说，很明显，霍夫施塔特第二部分的主要目标是关于智力和意识的东西。所有其他主题都是切题的。我的总体感觉是，自GEB于1979年出版以来，霍夫施塔特在这里最有趣的想法并没有很好地老化。以下是他的说法的样本：

虽然他避免假设存在所谓的“祖母神经元”——也就是说，一个神经元，它的唯一工作就是在你需要使用“祖母”这个概念时激发——但霍夫施塔特似乎确实认为这样的事情是真的：大脑中有一个“祖母模块”——也许是神经元的集合——每当你想到祖母时，它就会激活（并且不会为其他事情激活）。
霍夫施塔特似乎认为，我们思考思想的方式是让我们所有的不同模块以大致相同的方式一起激发，就像一堆单词一起说成一个句子一样。例如，“我的祖母很快乐”的想法归结为你大脑中代表“祖母”和“快乐”一起激活的模块，以及一些额外的信息来指定它是“我的祖母”，而不仅仅是“祖母”之类的东西。
他的（人工）智能范式似乎涉及智能系统构建正式系统，这些系统模拟他们试图解决的问题，然后通过象征性地使用形式系统来解决问题。更具体地说，他似乎想象智能系统：构建一个概念及其相互关系的网络（类似于WordNet对语言所做的），其中概念在内部由模块表示，如上面的祖母模块;然后将模块视为正式系统中的符号，根据某些规则操作它们，从而修改它们之间的关系。
根据霍夫施塔特的说法，意识出现在支持自我参照并能够以某种方式自我修改的系统中。例如：能够编辑其源代码的计算机，当前权重决定权重如何修改的神经网络，以及更高级别的抽象影响我们对较低级别抽象的思考方式的人脑，反之亦然。霍夫施塔特称这些自我参照系统为“纠缠的层次结构”以及它们自我调节的方式“奇怪的循环”。

在视觉处理方面，想法1似乎是正确的。在低层次上，我们已经确定了特定的神经元，这些神经元以某种方式一起激发，以编码有关线条方向的信息，这有点像祖母模块的低级版本，用于垂直性或其他概念（尽管显然预测处理对究竟表示的信息有另一种看法）。在中等水平上，当你看到面部，动物或场景的图片时，有一些神经元会选择性地放电。在高层次上...目前还不清楚。有些人将Quiroga等人的工作解释为证明存在“哈莉·贝瑞”神经元，但根据维基百科，Quiroga本人对这种解释提出异议。但我们确实知道，像这样的高级模块存在于一些人工神经网络中：OpenAI在他们的CLIP神经网络中发现了单个神经元，这些神经元似乎对应于“蜘蛛侠”，“冬天”或“西非”等概念。像这样的模块用于视觉处理也许不应该那么令人惊讶 - 当你看到一张模糊的图片时，你可以亲身体验它们被激活，它突然分解成一张脸。

除了视觉处理之外，事情并不那么清晰。当您看到一张脸时，您的“面部模块”会激活，但是当您想到面部的概念时，它会激活吗？我个人持怀疑态度。我认为，我们目前对 GPT-3 的理解是，GPT-3 是一个无法解释的权重丛林，其中没有一个概念被定位到网络的特定部分，这似乎是反对的证据。但是，如果AI可解释性有重大进展，以至于你可以通过跟踪特定神经元簇的激活来确定GPT-3是否在考虑祖母，那么这将是一个不同的故事。

想法2 - 这种想法源于我们假设的大脑模块之间的某些相互作用，这些模块模仿句子中单词之间的相互作用 - 进一步进入了黑暗的领域。它首先需要祖母模块的存在，不仅用于视觉处理，而且用于一般的认知，这似乎与构成我们最好的人工思维的神经元的不可解释的丛林不相容。那么，这是一个比这更强大的主张！如果这是真的，那就意味着先进的AI可解释性不仅可以检测GPT-3正在使用的概念，还可以读取GPT-3的思想，并用英语写下GPT-3的想法。即使你把霍夫施塔特的主张解释为只关于人类的大脑，人类大脑可能比GPT-3更容易解释，这也延伸了我的轻信。这里没有什么是不可能的或明确反驳的，但总的来说，它似乎与我们对大脑的现代理解不匹配。

我很难评论想法3 - 智能系统的工作原理是构建正式系统来模拟世界，然后操纵这些正式系统来生成新的数据/预测/任何东西 - 因为我不知道霍夫施塔特希望我们把他带到这里。同样，我的第一个本能反应是疯狂地对GPT-3做出手势，GPT-3可以比我认识的大多数人写得更好（和画画），但在乘以大数字方面却失败了。如果GPT-3通过构建一个超级复杂的形式系统来秘密地工作，该系统在其训练数据中模拟人类产生的文本，那么为什么它没有提出一个更简单的形式系统（如tq系统）来模拟其数据中的乘法？

也就是说，霍夫施塔特特别谈到了AI是否擅长添加的问题。他说他们可能不是。（当然，这一定是正确的答案，因为我是一个智能系统，我经常无法从11中减去6，并且没有理由排除AI可能是相同的;霍夫施塔特意识到了这一切。霍夫施塔特似乎并不认为这对他的智能系统如何工作的模型构成了问题，但似乎应该这样做？我只是把所有关于祖母模块和符号操作的东西都当作一个说明性的例子吗？老实说，我想知道我是否完全误解了他的观点。

无论如何，我不认为有一种方法可以理解霍夫施塔特的想法，而不涉及霍夫施塔特的模型对现代ML感到非常惊讶。呵呵，那是给笨蛋的。真正的智能来自于向数据抛出越来越大的神经网络，并让它们用它做难以解释的废话。

最后，想法4 - 意识源于纠缠不清的等级制度和奇怪的循环。你可以把这看作是意识从根本上从自我意识中产生的想法的强化版本（即“你是尘埃，意识到它是尘埃，因此比尘埃更多”）。除了霍夫施塔特用更微妙的形式系统是自我参照和自我修改的概念取代了“自我意识”。我不确定这种修改是否有助于澄清这个想法。霍夫施塔特显然很难确切地说出奇怪的循环是如何导致意识的，当他最接近解决这个问题时，他一反常态地简短地写道，意识体验“来自大脑中自我感知的漩涡”。好吧，很酷，很高兴已经解决了。

就目前而言，我暂时得出结论，霍夫施塔特正在玩“哥德尔定理和意识都是神秘的，因此是等价的”游戏。如果有办法挽救霍夫施塔特在第二部分中的想法，那么除了我之外，其他人将不得不写书评来做这件事。

相对论，M.C.埃舍尔。像GEB一样，如果你只看其中的一半，这幅画更有意义。