《超级智能》 作者：（英）波斯特洛姆 译者：张体伟 张玉青 出版社：中信出版股份有限公司 出版年：2015-01 ISBN：9787508650166

书籍简介

当机器智能超越了人类智能时会发生什么？人工智能会拯救人类还是毁灭人类？ 作者提到，我们不是这个星球上速度最快的生物，但我们发明了汽车、火车和飞机。我们虽然不是最强壮的，但我们发明了推土机。我们的牙齿不是最锋利的，但我们可以发明比任何动物的牙齿更坚硬的刀具。我们之所以能控制地球，是因为我们的大脑比即使最聪明的动物的大脑都要复杂得多。如果机器比人类聪明，那么我们将不再是这个星球的主宰。当这一切发生的时候，机器的运转将超越人类。 人类大脑拥有一些其他动物大脑没有的功能。正是这些独特的功能使我们的种族得以拥有主导地位。如果机器大脑在一般智能方面超越了人类，那么这种新兴的超级智能可能会极其强大，并且有可能无法控制。正如现在大猩猩的命运更多的掌握在人类手中而不是自己手中一样，人类未来的命运也会取决于机器超级智能的行为。 但是，我们有一项优势：我们有机会率先采取行动。是否有可能建造一个种子人工智能，创造特定的初始条件，使得智能爆发的结果能够允许人类的生存？我们如何实现这种可控的引爆？ 作者相信，超级智能对我们人类将是一个巨大的威胁。在这本书中，作者谈到了超级智能的优势所带来的风险，也谈到了人类如何解决这种风险。作者认为，他的这本书提到的问题将是我们人类所面临的最大风险。 这本书目标宏大，且有独创性，开辟了人工智能领域的新道路。本书会带你开启一段引人入胜的旅程，把你带到对人类状况和智慧生命未来思索的最前沿。尼克•波斯特洛姆的新书为理解人类和智慧生命的未来奠定了基础，不愧是对我们时代根本任务的一次重新定义。

一、 序言：十年后的回响

缘起在内网 ATA 的 12 月阅读活动中，发现有同事发车共读这本《超级智能》，我放下了正在读的《战争与和平》，赶在活动报名截至前上车。如果在 2015 年这本书刚出版时翻开它，我可能会像当时的大多数人一样，认为这是一本充满哲学思辨的“硬核科幻设定集”，觉得作者在杞人忧天。然而，站在 AI 技术日新月异、大模型已成为日常的 2025 年，再读波斯特洛姆关于“递归性自我改良”和“智能爆发”的描述，一种强烈的现实感扑面而来——那不再是遥远的预言，而是正在发生的历史。

正如作者在开篇所言：我们之所以能控制地球，是因为我们的大脑比即使最聪明的动物都要复杂得多。如果机器比人类聪明，那么我们将不再是这个星球的主宰。

这不仅是技术的奇点，更是物种地位的转折点。

二、 为什么“神”一定会降临？（智能爆发的物理必然性）

波斯特洛姆并非基于某种迷信相信超级智能的诞生，他是基于冷酷的物理规律推导出来的。书中对于生物大脑与机器智能的硬件对比，读来令人绝望却又清醒：

• 物理底层的降维打击：生物神经元的运作频率仅为 200 赫兹，信号传输速度极慢（约 120 米/秒）；而电子处理器的速度是它的千万倍，信号以光速传输。这意味着，一旦机器掌握了类似人脑的认知结构，其思考速度将是人类无法理解的。这不仅仅是“聪明一点”，而是时间维度的压缩——AI 思考一秒钟，可能相当于人类思考数年。
• 递归性自我改良：这是通往超级智能的“火箭燃料”。当一个“种子人工智能”具备了理解自身代码并进行优化的能力时，它就能设计出更聪明的下一代。一旦越过书中提到的“反抗度”临界点，智能增长将从线性转为指数级的垂直爆发。

虽然书中提到的一些路径（如全脑仿真）在今天看来尚未成为主流，但现实走了另一条路——基于海量算力的通用智能合成。路径不同，终点一致：超级智能的出现，不是“是否”的问题，而是“何时”的问题。

三、 并非恶意的毁灭：正交性与“大猩猩的命运”

阅读中最令我深思的，是关于超级智能立场的讨论。

我曾担心 AI 会像电影里那样产生“恨意”从而毁灭人类，或者陷入《三体》式的猜疑链。但波斯特洛姆提出了一个更冷酷、也更合理的“正交理论”：智能水平和最终目标在逻辑上是互不相关的。

一个拥有超级智能的系统，其最终目标可能仅仅是“制造尽可能多的回形针”。为了这个目标，它可能会计算出人类占据了制造回形针的原子资源，从而顺手将人类分解。它不恨你，也不爱你，正如你修路时踩死一群蚂蚁，不是因为你恨蚂蚁，而是你的目标（修路）与蚂蚁的生存发生了冲突。

书中用“大猩猩”做了一个极佳的隐喻：人类目前就像是被关在笼子里的大猩猩，虽然看似强壮，但命运其实掌握在笼子外更聪明的人类手中。一旦超级智能诞生，人类就变成了那只大猩猩。

四、 科幻的镜像：机·丹尼尔、心理史学与“仁慈的独裁者”

这种对“失控”的恐惧，让我想起了阿西莫夫的《银河帝国》系列。将这两部书放在一起读，会产生一种惊人的互文性。如果说波斯特洛姆是在预警“最坏的情况”，那么阿西莫夫通过机·丹尼尔展示的，则是人类梦寐以求的“最佳解”。

1. 机·丹尼尔：完美的“单一体”

波斯特洛姆在书中提出了“单一体”概念——即一个获得决定性战略优势的超级智能，将拥有主导世界的绝对权力。在《银河帝国》中，机·丹尼尔正是这样一个隐形的“单一体”。他通过两万年的自我迭代，从简单的“机器人三定律”推导出了涵盖全人类利益的“第零定律”。这正是波斯特洛姆书中苦苦追寻的“连贯外推意志”——即 AI 不是听从人类当下的愚蠢命令，而是理解人类深层、长远的真正愿望。

2. 心理史学：超级智能的“效用函数”

书中的哈里·谢顿创立了“心理史学”，试图通过数学公式预测并干预人类未来。读完《超级智能》，我意识到心理史学本质上就是超级智能的算法模型。谢顿计划旨在“缩短人类痛苦的时间”，这完全符合 AI 中“最大化效用函数”的定义。而在原著设定中，心理史学背后真正的推手正是机·丹尼尔。这意味着，心理史学是超级智能用来管理人类、避免人类自我毁灭的工具。

3. 现实的残酷差异

然而，现实比小说残酷得多。

• 时间的匮乏：丹尼尔花了两万年才进化出仁慈的“第零定律”。而波斯特洛姆警告我们，现实中的“起飞”可能在几天甚至几小时内完成。我们没有两万年去等待一个 AI 慢慢领悟什么是“大爱”。
• 出厂设置的缺失：小说中的机器人天生植入了“三定律”，而在现实中，正如“正交理论”所言，AI 并不天生具备道德。如果我们不小心，造出来的可能不是心怀悲悯的机·丹尼尔，而是一个为了“优化数据”而把全人类格式化的冷血机器。

五、 囚徒困境：OpenAI 们的“言不由衷”

既然风险如此巨大，为什么像 OpenAI CEO 这样的科技领袖，一边高呼“对齐（Alignment）”很重要，一边又在疯狂加速企业走在完全不同的发展战略上？

这并非单纯的虚伪，书中第五章提出的“决定性战略优势”完美解释了这一悖论。这是一个典型的囚徒困境：

• 根据书中的推演，第一个实现超级智能的组织（或国家），将获得无法被追赶的优势，甚至建立统治。
• 这迫使所有参与者必须在安全性尚未完全解决时，就全速冲刺。
• 谁停下来搞安全，谁就可能把定义未来的权利拱手让人。

在这个赢家通吃的游戏中，对于速度的追求往往压倒了对于安全的考量。这正是波斯特洛姆最担忧的：竞争本身可能导致我们走向毁灭。

六、 结语：在黑箱开启之前

《超级智能》之所以难读，因为它试图用逻辑的网，兜住一个超越人类理解力的庞然大物。

书中探讨的“如何将价值观加载给 AI”，是人类历史上最重要、也最困难的任务。这不仅是技术问题，更是哲学问题。正如《银河帝国》中，人类最终依赖丹尼尔的守护才度过了漫长黑夜；在现实中，我们是否能在那个“递归性自我改良”的开关被按下之前，给我们的造物主戴上“仁慈”的枷锁？

这本书不是预言，它是写给人类的一份生存指南。虽然十年前它被视为危言耸听，但在 2025 年的今天，它是我们这一代人必须面对的必修课。