把政治剥到最里头，它要安顿的其实只有两件事：谁掌握着暴力，谁来决定众人共同去往何方。前一件关乎强制，后一件关乎方向，几千年的政治史，说到底都在这两件事上打转。
而我们今天习以为常的那套东西——选票、权利、对权力的制衡——多半不是哪一代人靠讲道理讲出来的，是被一桩交易逼出来的。逼出它的，是一个朴素到近乎冷酷的事实：掌权者离不开多数人。离不开他们的身体去打仗，离不开他们的双手去生产，离不开他们的同意去维持统治的体面。每一种“离不开”，都是多数人手里攥着的一点筹码，也正是这点筹码，逼着权力一步步把权利让渡出来。这就是相互需要的瓦解那台机器，在政治上一向的运转方式——平等与权利，从来是被需要出来的。
人工智能正在做的，是把这每一根“离不开”逐一剪断。所以这一章真正要问的，不是“它会不会被用来监控、被用来操纵舆论”——它会，这几乎不必费力论证；而是一个更冷、也更根本的问题：当掌权者对多数人一无所求，连仗都不必他们去打了，还有什么逼着权力对人负责？那决定众人去往何方的方向盘，又会落到谁的手里？
一 会发生什么
第一，暴力的去人化。
民主有一个很少被说破的来历：它一半是大炮与征兵制的孩子。当一个国家需要把千百万青年送上战场，它就没法长久地一边征用他们的命、一边拒绝给他们权利——英国的普选权，正是在两次总体战的阴影里一步步扩张的。一个需要全民去流血的政权，迟早得拿权利来交换那份流血的意愿。可自主武器把这条交换的线剪断了。一个靠无人机和自主系统打仗的政权，对你的身体一无所求；那台几百年来逼着精英与大众讨价还价的历史机器，正被悄悄关停。与此同时，暴力本身不再分散在千万个士兵的手上，而向着那个握有自主系统、以及它背后算力的人，空前地集中。这是相互需要的瓦解落在政治上最锋利的一刀——它斩断的，是公民用血换权利的那条古老通道。
第二，代议的空心化。
我们在劳动那一章见过公司的中层如何被掏空：那些居中传递、居中协调的环节，在协调的成本趋近于零时，失去了存在的理由。政治里也有这样一层中间地带——政党、工会、地方议会、新闻媒体。它们之所以存在，是因为把分散的民意聚拢起来、再递到上面去，本身既费力又昂贵。当人工智能让这种聚拢几乎不费力，这层政治中介也会松动，而我们在市场里见过的那座唯一的大收费站，会换上政治的形态重新出现：权力流向掌握那个总枢纽的人。等级不会被抹平，它会变得更陡——顶端那个人悬在高处，底座被自动化，中间那一截原本住着无数代理人与议价者的楼层，被整个掏空了。
第三，治理自动化的诱惑。
人工智能能把治国当成一道优化题来解——资源怎么配置最省，风险怎么压到最低，它算得比任何一个官僚机构都快、都好。于是会浮现一种几乎无法抗拒的诱惑：把治理整个交给那台优化机器。可机器再聪明，它优化的那个目标，是谁定的？一个被精打细算、人人吃饱穿暖的社会，完全可能同时是一个由极少数人替所有人定义了“什么才算好”的社会。柏拉图那个最古老的政治梦想——让最有智慧的人来统治——正以一种最新、也最锋利的方式，重返人间。
二 根上动摇了什么
再往根上看，绕不开的正是那个梦想，因为人工智能第一次给了它现实的分量。
哲学王这一方最有力的话是这样的：民主的全部正当性，其实藏着一个经验前提——没有谁聪明到、也无私到可以替众人拿主意，所以只好让大家投票、让权力彼此牵制；民主从不是因为它高明，是因为在“人人都不可靠”的前提下，它损失最小。而人工智能恰恰在松动这个前提。如果真有一个系统，论智识远超任何专家委员会，论无私没有连任的焦虑、没有家族要喂、没有人情要还，那么让它、或让驾驭它的开明少数来掌舵，会不会反而比吵成一团、被一时民意牵着走的民主，治理得好得多？果真如此，坚持民主就不再是审慎，倒像一种执念——明明有了更好的舵手，却因为“我们一向自己掌舵”而宁可让船开得更差。新加坡常被搬出来做这一方最硬的现实弹药：一套贤能精英的治理，把一个一无所有的小岛带到了今天，而同期不少“更民主”的地方，治理得一塌糊涂。
这套话很强，不能用“民主是普世价值”这类口号搪塞过去。可它在三个彼此独立的地方都站不住，只要一处成立，它就倒；而三处全都成立。
其一，也是最致命的一处：判准。“为众人的福祉做出最优决策”——这句话里，藏着一个被当成已知、其实悬空的东西：什么算“福祉”？人工智能能极高效地优化任何一个给定的目标，却没法告诉你该优化哪一个，因为“什么是好生活、好社会”不是一道有正确答案的算题，它是一个估值问题，而估值的顶上，再没有更高的标准可供查对。一台把幸福定义成多巴胺总量的优化器，会把所有人接进快乐机器；一台把它定义成秩序的，会造出一座极高效的监狱——两者在各自的判准下，都“最优”。所以“哲学王加人工智能能做出最优决策”这句话，本身是空心的：机器供给的是无与伦比的手段，那个目的，仍得由某个人的价值观来填。于是哲学王的全部分量，最后压在一处——那个填入目的的人，他的价值观对不对。
其二，由此而来：谁能担保那个圣人真是圣人？更糟的，谁能担保下一个还是圣人？纵然承认眼前这一位是开明的贤君，整套贤能政治也有一个它自己解不开的死结——它把一切押在掌权者的德性上，可德性不可继承，不可事先验证，也不保证延续。一套制度真正的考验，不在它落到圣人手里有多好，而在它落到庸人、甚至恶人手里时，兜不兜得住。民主那套看似笨拙的制衡，全部的尊严正在这里：它不指望统治者是天使，所以哪怕来了个坏人，也换得掉、关得住。贤能政治赌的是人选对，民主赌的是制度兜得住——在一件不容犯错的事情上，你该信哪一种？而人工智能让这个老问题变得空前致命。过去再坏的暴君，也得靠无数人替他执行：官僚会阳奉阴违，士兵会临阵倒戈，这种执行端的摩擦，本身就是对暴政的一道天然刹车。可当统治被自动化、暴力被自主武器接管，这道刹车没了。于是一个握着人工智能的坏哲学王，能造的祸，是历史上任何暴君都望尘莫及的，因为他头一回不再需要任何人的配合。最反讽的地方正在这里：人工智能非但没让哲学王变得更安全，反而把“赌人选对”的代价，从“可能很糟”，放大到了“万劫不复”。
其三，最深的一层，不再关乎成败，而关乎尊严。退一万步，就算真有了一个全知、全善、永不腐化的人工智能哲学王，它替你做的每一个决定都客观上对你最好——这样的统治能不能接受？不能，而理由恰是这本书的核心。因为“什么是我的好生活”这个问题，它的答案一旦是由别人、哪怕是个完美的别人替我给定的，它就不再是我的了。一个被安排得无比妥帖、却从没自己拿过一个要紧主意的人，活得很舒服，可他没有在成为自己——他被当成了一个待优化的对象，而不是一个自己估值、自己担责的人。这正是温柔的废除在政治上的终局：用最好的治理，把人养成被供养的宠物。所以哪怕哲学王真的更“优”，民主仍有一样它给不出的东西——它让人亲自参与决定自己的命运，而这种参与本身不是手段，它就是好生活的一部分。一个替你做出全部正确选择的神，夺走的恰是你之为人的那个核心：自己去选，并为所选负责。
所以纯粹的哲学王道路是错的——不因它的理想不美，而因它在三处独立地站不住。可话要说全：我们今天这套民主，也不够。因为哲学王一方有一句批评是对的——被一时民意牵着、由判断力贫弱的众人投票拍板的民主，确实会做出很糟的决定，而人工智能时代的问题又太复杂、太快，这个弱点会被放大到危险。两边都不是答案。
那么出路在哪？在把哲学王这套东西拆成两半，看清它哪一半对、哪一半错。它错在“统治”，对在“德性与智慧”。错的，是让贤者替众人拿主意、替众人定义什么算好——这一步通向家长制，通向宠物化；对的，是“良政确实需要超凡的智慧与德性”这个洞察本身。解法于是浮了出来：不要一个哲学王来统治人民，而要把“成为哲学王”这件事，从一个人身上，分到每一个公民身上。内圣外王那条老路并没有错，错的是只让一个人去内圣；真正该走的，是让尽可能多的人都去内圣，由一群有判断、有德性的公民，自己来掌舵。落到人工智能身上，这意味着把它死死按在“手段”那一侧——让它去做它最擅长的核对、推演、把“选这条路会怎样、选那条路会怎样”算得清清楚楚，摆到所有人面前；而那个“到底要哪一条”的估值，那个设定目的的决定，必须留在人这一侧，并且尽量留在多数人手里，不许塌缩到少数人手里。一种好的人工智能政治，不是机器替人做主，是机器头一回让每一个普通人，都有能力做出过去只有专家才做得了的明断。哲学王的智慧，要——把它普惠给所有人；哲学王的王位，不要——让权力归众人共有。
这里有一个尖锐的追问顶上来，而它正是整套方案最薄的地方：约束权力的规矩，最初是怎么立起来的？因为有能力立规矩的人，恰恰是最不愿被规矩束住的人。这个问题不解，上面那套“把内圣分配给每个公民”就是空中楼阁——你总得先有一个不被任意碾压的空间，才谈得上在里面把公民一代代养出来。
这里要先把两个容易搅在一起的问题分开。一个是稳态的问题：当我们已经有了一群会判断的公民，靠什么看住权力？这个，教育是答案——你没法长久地统治一群清醒的人而不取得他们的同意，会判断的公民群体本身就是对权力最根本的约束。另一个是过渡的问题：在那群公民还不存在的时候，最初的约束怎么立？这个，教育不但解不了，反而被它自己绊住——要约束权力，得先有受过教育的公民；可要教出这样的公民，又得先有一个不被掌权者随手掐灭的空间。它咬住了自己的尾巴。教育是让约束在稳态里持久的最后一环，不是把约束最初撬动起来的第一环；它没法拽着自己的鞋带，把自己提起来。
那么过渡的问题，到底怎么解？答案不在“善意”——善意正是我们拆哲学王时一致拒绝去依赖的东西。答案在相互的忌惮。历史上权力被关进笼子，几乎从不是因为强者良心发现，而是因为在立规矩的那一刻，没有任何一方已经稳操胜券，每一方都怕那不受约束的权力将来落进对手、而不是自己手里，于是宁可大家都进笼子，把共同的规矩当作“万一我输了”的保险。美国制宪时那套制衡，靠的不是哪个派系大公无私，是几股势力彼此忌惮、谁都不敢赌自己永远赢。麦迪逊把这一点讲得最透：靠的不是更好的动机，是让野心去制衡野心。所以强者会接受约束，有一个不依赖德性的理由——当权力还分散在好几个互相害怕的人手里时，每一个都愿意立下共同的规矩，因为那是他防着别人的护身符。
这一下，就把“权力凭什么自缚”这个悬案，接到了一个具体、也最要命的条件上：权力还分不分散。而这恰恰是这本书一直老实标着的那个最大的赌注——人工智能最终会凝成一个统一的超级主体，还是始终是许多分散、彼此竞争的系统。现在它的分量看清了：这不只是个技术猜想，它是整个约束能不能立得住的命门。只要权力还是复数的——多个互相忌惮的实验室、公司、国家，谁都还没吃掉谁——“趁依赖未彻底先立约束”就有真实的着力点。可一旦权力收敛成单数，落进唯一一只手，这套机制就死了，再没有任何东西逼他自缚，你能指望的，就只剩他本人的善意。
但这里有一个最容易让人轻信的错误，不点破，上面这套就成了自欺。复数的强者会彼此约束，这没错；可他们关进笼子的，是彼此，跟笼子外面那几十亿不再被需要的人，没有半点必然关系。历史上这种相互牵制之所以顺带惠及了多数人，唯一的原因是：多数人当时是被争夺的那块肉——强者彼此竞争，谁能拉到更多人的劳动、更多人的枪、更多人的选票，谁就赢，所以他们不得不抢着向多数人让利。普选、福利、工人的权利，全是这么挣来的，不是强者牵制时良心发现，是他们牵制时抢着收买你。而这本书从第一章起就在论证的那件事，恰恰是人工智能把“你这块肉”抽走了。一旦多数人不再被争夺，“强者互斗”和“多数人得益”之间那座桥，就塌了。几个人工智能巨头杀得你死我活，争的是算力、能源、人才，不再是你的效忠；他们可以一边互相绞杀，一边对笼外的人海视而不见——竞争丝毫不要求他们对你好。
所以把这一步推到它冷的尽头：当相互需要瓦解之后，再没有任何一种自利的机制，能自动产出平等了。还能想到的几条自利的退路，逐条看过去。其一，“不确定性的保险”——一个还没坐稳的强者，可能支持一套公平的规则，当作万一落败的保险；可一旦他靠人工智能真正坐上了顶端，这层不确定性消失，保险也就退订了。其二，“怕乱”——就算不被需要，民众闹起来也碍事，总得安抚；可这条推出来的，恰恰是我们说过的那笔维持成本，养出的是被安顿的宠物，不是能成己的人，而当镇压也自动化了，连这点顾忌都会淡掉。其三，纯粹的善意——它随时可以收回，靠不住。三条堵完，结论冷得很，却是真的：在一个不再需要人的世界里，平等没有任何自利的地基；它不可能再作为“副产品”，被自动地生产出来。
这不是论证的失败，这是处境本身的真相，也是这本书最难、却必须说清的一句话。认清了“没有自利的机制”，路反而清楚了，因为它逼出了唯一的出口：既然平等不能再作为利益的副产品被生产，它就只能作为一种被人主动持守的价值，被选择。它得有人——不是因为对自己有利，而是因为认它为对——才去守它、为它争。这一步不是浪漫的拔高，是被逻辑逼出来的：自利的桥既然全塌了，那么剩下还能承重的，就只有“价值”这一种非自利的东西。
到这里，“维持权力的复数性”那条线，才有了它真实、却也卑微得多的位置。它产不出平等，它只能做三件消极的事。第一，挡住最坏的结局：只要权力还是复数，就没有任何单一的意志，能把一切一次性地锁死，能把成己的可能彻底封死的那只手，还没出现。第二，它买来一段过渡的时间：在暴力还没完全自动化、生产还没完全自给之前，强者多少还需要一点人的配合与默许，多数人手里那点筹码还没彻底归零。第三，它保住了价值的多样：许多个掌权者里，总可能有那么一两个，是真的认平等、认成己为对的，而复数意味着没有谁能阻止他们去做——换成一家独大，连这一点点可能，都会被抹平。
所以那条完整的链，是这样的，每一环可能断在哪里，都标出来。复数的权力，挡住单一意志、撑开一扇时间的窗——这一环会断，如果人工智能那个“越强越买得起算力、越能赚更多钱”的无刹车回路，加上国与国之间谁都不敢踩刹车的竞赛，把权力收敛成了单数。在这扇窗里，认平等为价值的人——还残着一点筹码的多数人，加上那一两个有良知的掌权者——趁早把成己之权钉成制度——这一环会断，如果根本没有人持守这个价值，或多数人那点残余的筹码，先于制度成型就耗尽了。教育一代代养出守得住这套制度、并把它当回事的公民——这一环会断，如果掌权者出于自利，根本不让这场教育发生。最后，由这群公民，让平等在稳态里长久。四环，环环都可能断。它不是一台自动运转的机器，它是一个有时限的机会。
而最该被点破、也最违直觉的一条行动，于是浮了出来：在过渡期，维持权力的复数性本身，就是头等的政治任务——不是因为复数会带来好结果，它不会；而是因为单数会锁死坏结果。反垄断，不让任何一方用算力锁死优势，国与国之间避免一家独大——这些过去看着是经济或外交上的技术活，在这里全都升格成了“能不能给文明留住一扇'还来得及立约束'的窗”的根本问题。但要清醒：这只是防守，只是别让门关死、多留一会儿时间；至于在门里盖起什么，复数权力一砖都帮不上，那得靠价值、靠政治的意志、靠教育。
还有最暗的一句，也说尽：这扇窗，本性上正在关。人工智能这种技术，天生朝着赢家通吃去——回路没有刹车，竞赛刹不住。所以很可能，在我们把成己之权钉进制度之前，权力就先收敛成了单数；那时过渡的问题再无解，我们被打回去赌“那只手够不够善”，也就是被打回哲学王那条死路。这扇窗够不够大、关得够不够慢，没有人保证得了——这是整个政治方案里最没把握、也最危险的地方。
但请别误读这份“没有干净的解”。它不是论证的认输，它是一个诚实的发现：一个不再需要人的世界，不会自动给人留一个平等的位置。平等从此不再是历史顺手送来的礼物，它成了一件必须有人认、有人守、有人趁早抢着钉死、否则就会失去的东西。这也正是为什么这本书的答案，最后只能落在“成己”这一种价值、和“教育”这一件养人的苦工上——不是因为它们优雅，是因为当所有自利的机制都塌掉之后，只剩下“人主动选择去做对的事”这一条路，还通向尊严。机制解不了的，唯有德性与意志能解；而德性与意志不会从天上掉下来，得靠教育，一代代地养。
三 那么，我们能怎么办
制度上的硬仗——怎样维持权力的复数性，怎样把成己之权钉成谁也撤不掉的制度——是这本书后半段要正面去打的。这里只说，身处其中的一个人，眼下能做什么。
最要紧的一条，恰恰是最朴素的：守住你自己的判断，和你自己的同意。一个人沦为臣民、而不再是公民的那一刻，往往不是谁夺走了他的权利，而是他自己把判断交了出去——交给了那个总顺着他说话、把他安顿在一方舒服小天地里的东西。在一个靠温柔的废除来运作的世界里，权力不必再强夺你的同意，它只需让你舒服到懒得再过问。所以做一个公民，最费力、也最根本的功课，是不让自己的判断被悄悄抽空：去碰那些和你不合的人与事，去守住一处你的对错仍由现实、而非由一台总夸你的机器来裁决的天地，别把自己养成一座谁也碰不着的孤岛。这看着不像政治，可在今天，守住一份不被架空的判断，已经是最根本的政治行动——因为前面那整条脆弱的链子，最后断不断，靠的正是有没有足够多的人，还没有把这份判断交出去。
末了 关于守住那点同意
最后这些话，是想说给一个读到这里、却觉得使不上劲的人。你大概会想：维持权力的复数性、把约束趁早钉进制度——这些都是顶上那些人的事，是国与国、巨头与巨头之间的博弈，我一个普通人，插得上什么手？
这种无力感是真的，不必哄你说你能扭转大局。可有一件事被那份无力感盖住了。这本书绕了这么大一圈，最后落到的那个结论是：在一个不再需要人的世界里，平等已经不是任何机制能自动产出的东西了，它只能靠人，因为认它为对，而去守。这句话听上去像是把担子卸给了空泛的“人类”，可“人类”从不是一个会行动的东西，能行动的，永远只是一个一个具体的人。那条脆弱的链子会不会断，从来不取决于某个英雄，而取决于在每一个寻常的日子里，有没有足够多的普通人，没有把自己那一份判断和同意，轻易地交出去。
所以你那点看似微不足道的坚持——不轻信，不盲从，在一个让你越来越舒服的世界里，固执地保留着自己判断对错的能力，固执地不肯把“我们该往哪里去”这个问题，整个让渡给任何人或任何机器——它不是无关大局的洁癖。它就是那扇窗能不能多开一会儿的、最底层的那块材料。权力可以不再需要你来打仗，不再需要你来生产，可它没法在你不肯交出同意的时候，假装得到了你的同意——除非你自己把它松手送了出去。守住那点同意，守住那份“这事得由我自己来判断”的固执，是这个时代里，一个普通人手中没有被夺走、也无法被自动化的、最后、也最要紧的一份权力。别小看它，更别松手。