尤瓦尔·赫拉利（1976年—），2002年获牛津大学博士学位，现任教于耶路撒冷希伯来大学历史系。著有“人类简史三部曲”和《智人之上》等。

本文来自尤瓦尔·赫拉利（Yuval Noah Harari）与《Noema》杂志主编内森·加德尔斯（Nathan Gardels），在2024年10月9日，对他新书《智人之上》(Nexus) 的讨论谈话，标题为小编所加。

叙事战

加德尔斯：网络连接是一种双刃剑技术。它既可以促进社会的凝聚力和集体行动，也可以制造分裂。

尤其是在现在这个点对点的社交媒体时代，每个群体都有自己的身份认同，相信自己的真相，编织自己的叙事。

这创造了一种亚文化的群岛效应，一种碎片化的现实感，实际上破坏了凝聚力。

正如韩裔德国哲学家韩炳哲（Byung-Chul Han）所言，点对点的连接是从私人空间流向私人空间，而没有创造出公共领域。

没有公共领域，就不可能有社会凝聚力。

所以你就有了这种双重动态：一方面是凝聚力，无论是为了好的还是坏的目的。另一方面是彻底的碎片化。秩序崩溃了。

赫拉利：绝对如此。故事能团结人，但故事也能分裂人。因为一个具有约束力的叙事对于维持秩序、维系整体至关重要，“叙事战”是世界上最强大的战争形式，因为它能导致整合网络的瓦解。是的，它绝对是双向的。

赋权与控制

加德尔斯：信息网络还有另一个双重性：它们同时集中和分散权力。

DeepMind联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）的这段话抓住了这种双重性的矛盾本质：

“互联网在少数几个枢纽中心化的同时，也赋予了数十亿人权力。它创造了巨头，却又让每个人都有机会参与其中。

社交媒体创造了少数几个巨头和百万个部落。每个人都可以建立网站，但只有一个谷歌。每个人都可以销售自己的小众产品，但只有一个亚马逊。互联网的颠覆性很大程度上可以用这种张力来解释，这种赋权与控制的强大、易燃的混合体。”

换句话说，网络连接倾向于中心化以提高效率，但它也创造了数十亿种可能性。

“现在，大多数时候，懂核物理的人接受的是神话学或意识形态专家的指令。”

赫拉利：是的，但这并非决定论。你可以构建不同类型的信息网络。

我在我的书《Nexus》(智人之上)中尝试做的一件事，就是从信息网络的角度，将天主教会、苏联或罗马帝国等机构理解为信息网络，重新审视整个人类历史。

我研究了在不同模式下，信息如何以不同方式流动。这样做你会发现，塑造历史的许多冲突和战争，实际上是不同信息网络模式冲突的结果。

也许最好的例子是民主与专政之间的张力。

我们倾向于认为，民主和专政是相信不同政治意识形态的不同伦理体系。这没错。但在更根本的层面上，它们只是信息在世界上流动的不同模式。

专政是一个中心化的信息网络，所有的决策都在一个地方做出，由一个人发号施令。

因此，所有信息都必须流向一个中央枢纽，在那里做出所有决策，并从那里发出所有指令。

**民主则是一个分布式的、去中心化的信息网络。**大多数决策不是在中心做出的，而是在其他更边缘的地方。

在民主体制中，你会看到，是的，很多信息流向中心，比如美国的华盛顿。但并非全部。

有很多组织、公司、私人个体或志愿协会，自行做出决策，无需华盛顿的任何指导或许可。

大部分信息只是在私营公司、志愿协会和个人之间流动，根本无需经过华盛顿这个中心，即政府。

区分这两种模式的另一点是，民主国家保留了强大的自我纠错机制，可以识别和纠正中心的决策错误。

民主制度的危险始终在于，中心可能利用其权力积累越来越多的权力，直到变成专政。

在最简单的层面上，民主制度下，你将权力授予某个人或某个政党四年或其他有限任期，条件是他们必须归还权力，人民可以做出不同的选择。

如果他们现在拥有了你赋予的权力却不归还，怎么办？什么能迫使他们归还？

这是从古希腊到现代美国，民主制度一直面临的大问题，这也是美国当前选举的核心问题。

因为有一个人，唐纳德·特朗普，他有着不愿在获得权力后交出的确凿记录。这使得即将到来的选举成为一场巨大的赌博。(小编注：特朗普近日明确表态“不排除”寻求第三任期>.<)

在像俄罗斯，或者现在委内瑞拉这样的地方，公众通过选举将权力交给了某个人，而这个人现在不想放弃权力。

很明显，单靠选举这种自我纠错机制是不够的。如果所有其他分布式的自我纠错力量，如法院或自由媒体，都掌握在压制任何积极反对派的政府手中，那么操纵选举结果就非常容易了。

我们从古代历史，从罗马共和国到今天，一次又一次地看到这种情况。

独裁者不会废除选举，他们只是把选举当作一种门面，来掩盖他们的权力，并作为一种威权主义仪式。

每四年举行一次选举，每次都以90%的多数获胜，然后说：“看，人民爱戴我。”

所以，**选举本身是不够的。**你需要被称为民主制衡机制（checks and balances）的全套自我纠错机制，来确保分布式信息网络保持分布式，而不是过度中心化。

列宁主义AI

加德尔斯：人工智能的出现如何放大了这些信息网络模式？

赫拉利：我们还不知道。一个突出的假设是，AI可能会决定性地将天平倾向于中心化信息网络，倾向于专政。为什么？

让我们再回顾一下20世纪。20世纪结束时，人们相信民主获胜了，民主就是比专政更有效率。

同样，理解这一点最简单的方式不是从伦理角度，而是从信息角度。

当时的论点是，当你试图将像苏联这样一个国家的所有信息，集中在一个地方时，效率极低。

中心的人类根本无法足够快地处理如此多的信息，所以他们会做出糟糕的决策，首先是糟糕的经济决策。

没有机制来纠正他们的错误，经济状况每况愈下，直到崩溃，这就是苏联发生的事情。

相比之下，西方之所以成功，是因为像美国这样的分布式信息系统，允许信息流向许多不同的地方。

你不仅仅是依赖华盛顿的少数官僚来做出所有重要的经济决策。而且，如果华盛顿的某个人做出了错误的决定，你可以替换他。你可以纠正错误。

事实证明，这远比中心化系统高效得多。所以最终，这是一场经济竞争，分布式系统因为效率高得多而获胜。

现在，AI出现了。

人们说：“啊，好吧，当你把所有信息集中在一个地方时，人类无法处理，他们会做出非常糟糕的决定。但AI不同。当你用信息淹没人类时，他们会不堪重负。当你用信息淹没AI时，它会变得更好。数据是AI成长的食粮和燃料。所以越多越好。20世纪行不通的事情（因为中心是人类），但在21世纪，当你把AI系统放在中心时，可能就行得通了。”

因此，如苏莱曼指出的，今天看到的，即使在资本主义社会，也是一个又一个领域被单一巨头垄断。

我们正在目睹的是极端中心化的信息网络的形成，因为AI算法使其效率大大提高。

并非所有人都同意这种分析。一个弱点是，仍然必须考虑到缺乏自我纠错机制。

是的，如果你把所有信息放在一个地方，AI能够以人类无法做到的方式处理这些信息，但它仍然会犯错。

像人类一样，AI也会犯错，非常非常容易犯错。所以，这简直是灾难的配方。

迟早，这种“列宁主义AI”会犯下一些可怕的错误，而且将没有机制来纠正它。

另一件值得指出的事，如果你考虑对人类独裁者的影响，那就是AI对他们构成的威胁。历史上每一个人类独裁者最大的恐惧都不是民主革命。没有一个罗马皇帝是被民主革命推翻的，这在历史上非常罕见。

每一个人类独裁者最大的恐惧是，一个下属变得比他更强大，而他不知道如何控制。

没有罗马皇帝被民主革命推翻，但有数十位罗马皇帝被强大的下属——某个将军、行省总督、他的妻子、表亲——暗杀、推翻或操纵。这始终是最大的危险。

如果我是一个人类独裁者，我应该对AI感到恐惧，因为我正在把一个比我强大得多、我根本无法控制的下属带进宫殿。

我们从专政史中得知，当你把所有权力集中在一个人手中时，谁控制了这个人，谁就控制了帝国。

我们还知道，操纵独裁者相对容易。他们往往是极度偏执的个体。每个苏丹国或王朝帝国，总有嫔妃、宦官和谋臣，知道如何操纵顶端的那个偏执狂。

对于AI来说，学会操纵一个偏执的普京或一个偏执的马杜罗，简直是易如反掌。这将是世界上最容易的事情。

所以，如果你考虑到人类专政，AI构成了巨大的危险。对于世界上的普京们和马杜罗们，我会告诉他们：“不要急于拥抱AI。”