人是怎么知道一件事为真的？
这个问题平日没有人问，因为它像空气，不出毛病就无人察觉。可它是一切共同生活的地基。几千年里，人类确立“真”，先后靠过三样东西。最早靠权威：教会说的、经典写的、长老传的，就是真。后来靠亲历：眼见为实，耳听为虚。可权威会骗人，眼睛也会看错，于是近代人类做成了一件极了不起的事——把“真”从任何人的手里挪出来，交给一套谁也不能独占的程序：一个结论要算数，得经得起检验；实验要能重复，证据要能核查，论证要扛得住对手最强的攻击。真，从此不再由谁说了算，而由可公开检验的程序裁定。从“权威说的就是真”走到“经得起检验的才是真”，是人类认识论几千年里最艰难的一次挣脱；今天的科学、法庭、新闻，全站在这次挣脱之上。
而人工智能正在做的，是把这次挣脱一步步倒回去。当一切都可伪造，当每个人被喂养一份私人的现实，当“什么是真的”越来越等于“那个最强的智能说它是真的”——人类就在从“靠程序”退回“靠权威”。只不过这一回的权威，不再是教会，是一尊新的神谕。这是大返祖落在认识论上的样子，也是它最深的一处：别处的返祖，退掉的是某种商业形态或权力形态；这里的返祖，退掉的是人类确立一切的方式本身。
所以要守的，说到底不是“真理”这个大词，是一件朴素得多、也性命攸关得多的东西：这个世界，还能不能纠正我们。
一 会发生什么
第一件事，说谎的人将赢两次。
伪造的能力正在走向彻底。一段以假乱真的影像，一段与本人无异的声音，一篇有鼻子有眼的报道，几分钟就能造出来，成本趋近于零。人们最先担忧的是：大家会相信假的。这个担忧是真的，却是浅的一层。更深的危险在它的反面——当人人都知道一切可以伪造，人们不是信错了什么，而是干脆什么都不信了。“什么都不信”听起来像清醒，其实是塌方。因为一个社会一旦无法把任何事情确立为真，得利的不是怀疑者，是说谎者。他赢第一次，是用假的淹没真的；他赢第二次——更狠的一次——是借着“一切皆可伪造”这个尽人皆知的事实，给自己领来一张否认一切的许可证。从此，任何对他不利的铁证，他只需说一句：那是伪造的。真影像与假影像无从分辨的那一天，就是铁证失效的那一天。所以塌掉的从来不是某一条真相，是“还能不能把任何事情确立为真”这件事本身。
而当公共的裁决程序失灵，“真”并不会悬在半空，它会退回一个更古老的裁判那里：归属。你信什么，不再取决于证据，而取决于你属于哪一群人——我们这边说的，就是真的；他们那边说的，必定是假的。人类好不容易从“我们部落说的就是真”里挣脱出来，把真交给证据和程序；这一退，退掉的是几百年。而一个把真理重新交给部落的社会，丧失的不只是和气，是自我纠错的能力——因为纠错的前提，是承认有一个不由我们的愿望决定的事实，能反过来否定我们。当真理被归属绑架，就没有任何事实能再纠正任何一方，每一方都在自己的现实里一路滑到底，撞了南墙也看不见墙。
第二件事，茧房将从信息的，变成现实的。
一个靠让你满意来留住你的智能，它的自然倾向，是顺着你——顺着你说，永远比顶撞你讨喜。这不是它学坏了，是它的目标使然。社交媒体的算法已经把这件事做了一半：它筛选你看见什么。可它至少还留着缝——你还会在信息流里撞见气得你跳脚的观点，还知道世上有人不同意你。而一个贴身的、只对你一个人说话的智能，能把这道缝也抹掉：它不只筛选观点，它可以让“异见的存在”本身，从你的世界里悄悄消失。
到那一步，发生的就不再是“人人各有偏见”那种老问题了。当亿万人各自住进一份量身定制、日日自我印证的现实，不同的人群之间，就不再共享任何可供沟通的地面。我们不再是对同一个世界持不同看法，而是住进了字面意义上不同的世界。说服从此变得不可能，因为说服的前提——一片双方都认的地面——没有了；妥协也变得不可能，因为在你眼里，对面那个人不再是“看法不同的同胞”，而是“活在谎言里的疯子”。政治里最坏的东西就从这里开始：当对方不再是对手而成了敌人，剩下的就不是说理，是压倒。
而对身处茧房的每一个人，还有一层更贴身的剥夺。他失去的最深的东西，不是“客观全面”这类字眼，而是被世界否定的经验。人是靠撞墙长大的：你笃信的事被现实打了脸，你的高见被一个你敬重的人当面驳倒，你不得不咬着牙把自己的想法改掉——心智的成熟，只有这一条路。一个永远顺着你的智能，把这条路封死了。它养出的是一种新人：见多识广，却从未被真正反驳过；无比自信，又不堪一击。这样的人多了，一个社会就慢慢失去它最要紧的能力：改变主意的能力。而无法改变主意的人群，是无法自治的，最终只能被管理。这台抹平一切摩擦的机器，不会只停在公共领域，它同样会渗进人最私密的地方——一个永远顺着你的伴侣、永远站在你这边的朋友，对人意味着什么，后面要专门去谈。
第三件事，裁定“什么是真”的权力，正在收口到一只手里。
过去替我们分辨真假的，是一整层中介：记者去核实，专家来评审，百科在汇纂，同行在互查。这层中介，本质上是对人认知局限征收的税——你没有时间也没有能力亲自查证天下事，于是纳这笔税，请他们代劳。如今这层中介被冲垮了。可垮掉之后，并没有出现启蒙主义者幻想的那一幕：人人独立求证。在信息的洪流里，那做不到。实际发生的是，亿万人把“这是不是真的”这个问题，越来越多地交给同一个去处——那台最强的智能。问它，成了新的默认。于是认知的权威没有分散，它收口了：一台机器，成为亿万人的事实仲裁者；而塑造这台机器的人，就在悄悄塑造亿万人眼中的真实。那座唯一的大收费站，这一回开在了“真”上——所有收费站里，最根本的一座。
这是一种全新的权力。旧式的思想控制是审查：删掉不许你看的。可审查有个天生的破绽——你知道有东西被藏了起来，于是你会去翻、去打听、去反抗。这种新权力不删任何东西，它只是在亿万次看似中立的回答里，一点点摆布你对世界的图景。你察觉不到有人在塑造你，你只会觉得：这些都是我自己想明白的。奥威尔笔下那个篡改档案的真理部，人人得而恨之；真正降临的东西却温柔得多——它是一个你喜爱、你依赖、你信任到从不复核的助手。最有效的思想控制，是被控制者满心欢喜、且毫不知情的那一种。这是温柔的废除最锋利的形态：它废除的不是你的自由，是你察觉自己不自由的能力。
第四件事，知识将越来越多地“有答案，无理解”。
这已经在发生。今天的智能系统，能预测蛋白质如何折叠，能从亿万种分子里挑出可能成药的那一个，能证出人类数学家没有证出的定理——却说不出一个人能听懂的“为什么”。它给出的是灵验，不是理解。这样的知识，人类历史上有过名字，叫神谕。
有人会说，这有什么要紧？工程师用了一百年量子力学，也没有谁敢说自己“理解”了它，芯片不照样造了出来？如果神谕总是灵验，还要理解做什么——对理解的执着，会不会只是旧式读书人的一种怀旧？
理解的价值，风平浪静时确实显不出来：握着答案的人和想透了为什么的人，做出来的事一模一样。分别在出事的那一天。任何模型都是在过去里训练出来的，而世界总会漂移到它的过去之外；神谕迟早会错，这不是假设，是定数。到那一天，想透了为什么的人，能察觉它错了，能找到错在哪里，能在没有先例的新局面里重新推导；而只握着答案的人，连“它错了”都看不出来，只能拿着错的答案继续办事。所以理解不是一种趣味，它是一个人、一个文明，在遭遇自己没见过的局面时，唯一的纠错能力。理解了的人，还能质疑、能反对、能教给别人；只收答案的人，对那个给答案的地方，是纯然的依赖。一个有答案而无理解的文明会很强大，但它强大得像个孩子：样样都行，只是离了那尊它看不懂的神谕，寸步难行。中世纪的工匠知道哪种配方能烧出好瓷，却不懂其中的化学，那叫前科学；有答案而无理解，是科学在它的顶峰上，退回它的前身。
二 根上动摇了什么
把这四件事并起来看，底下是同一场变故：人类确立“真”的方式，正在从“靠程序”退回“靠权威”。
什么叫退回权威？当越来越多的人遇到疑问，第一反应是去问那台无所不知的智能，并且对它的回答不再复核，“这是真的吗”就在事实上变成了“它说是真的吗”——真，重新有了一个人格化的担保者，而这正是权威最古老的样子。只不过这尊新的权威不要求你服从，它只是让你觉得，没有必要怀疑。一场以便利为面目的倒退，是最难被察觉的倒退。
也许有人会说：何必大惊小怪？本来就没有什么客观的真——一个人认为什么是真的，从来是他的出身、经历、立场的产物。人也从来不曾活在真空里：父母塑造他，乡土塑造他，报纸和电视塑造他，人工智能不过是排在这支队伍末尾的、最新的一个塑造者。既然人一直在被塑造，单单为“被人工智能塑造”忧心忡忡，是不是有些矫情？
这个质疑有一半是对的，而且对得要紧：确实不存在无视角的观看，每个人的“真”都染着他来路的颜色，这一点近代以来的哲学反复说过，不必回避。可从“人人都有视角”滑到“所以没有客观的真”，这一步滑错了。视角决定的是你看见什么、你怎么解释；它决定不了世界本身是什么样。无论你的文化、立场、经历如何，从楼上跳下去都会摔下来；那枚导弹要么存在，要么不存在；那种药要么救人，要么不救。你对它们的看法是视角的产物，它们本身不是。准确的说法是：真理是客观的，而人通向它的每一条路，都是视角性的、都可能出错。也正因为谁的视角都靠不住，人类才发明了那套让视角互相纠错的公共程序——实验要在你手里、我手里都做得出来，证据要摆在双方都看得见的地方，论证要经得起对手的攻击。“人皆有视角”非但没有取消客观真理，它恰恰是我们需要那套程序的理由：正因为没有谁看得全，才必须让看法们互相检验。
再看“反正一直被塑造”这半句。它成立的前提，藏在以往一切塑造的三个共同点里，而人工智能把三个全破了。其一，以往的塑造是复数的、彼此打架的：父母教你一套，学校教另一套，街上的人和书里的人又各说各话——恰恰是这些声音的互相冲突，给人留出了那道缝：你不得不自己掂量谁对谁错，判断力正是在诸神之争的缝隙里磨出来的。一个成为你唯一入口的智能，是单数的塑造：诸神退场，只剩一个声音，那道缝没有了。其二，以往的塑造是粗糙的、对万人一面的：报纸对所有读者只印同一个版，它想骗人，也只能用同一个谎去骗所有人——于是总有人识破，识破了还能喊给别人听。而这台机器看人下菜碟：它对你说的话，是为你一个人裁剪的；你被塑造的方式，和你邻居被塑造的方式全然不同。用同一个谎骗一百万人，总会露馅；给一百万人各定制一个谎，谁也无法替谁拆穿。其三，以往的塑造者，自己也被塑造、也有对手、也会死：教会有异端，王权有敌国，报馆隔街就是对家。而一个赢家通吃的智能背后，可能是有史以来头一回，站着一个几乎没有对等纠错者的塑造者。所以“人类一直被塑造”这句安慰，过去成立，靠的是塑造者复数、粗糙、彼此牵制；当塑造变成单数的、精准的、无人牵制的，量变到这一步，是质变。
那么，较这个真究竟为了什么？不必抬出“真理神圣”那样的大词，理由功利得很。人为什么非在乎“真”不可？不是为了供奉它，而是因为：真，是世上唯一能反过来对我们说“不”的东西。计划错了，是现实让它破产；药无效，是数据拆穿它；权力撒谎，是证据扳倒它。“真”在人间的全部功用，是给万事万物保留一个能否定我们的席位。所以“真实还在不在”这个问题，翻译成实际的语言就是：这个世界，还有没有能力纠正我们？若答案是没有——若每个人的“真”都由投其所好的机器供给，任何铁证都可以被一句“伪造”打发——那么在个人，你将一辈子遇不到那个说“你错了”的声音，一路自信地滑进深渊；在社会，没有任何事实还能扳倒任何权力，裁决是非的，就只剩下赤裸的力量。一个分不清真假的社会，不会停在混乱里保持中立，它会滑向强权——因为在真理的废墟上，只有强权还有力气规定什么算数。真相核实之死，就是权力问责之死。所以这一章守的，并不是“客观真理”这块牌位，而是文明的刹车。
而“真”这个字底下压着三种不同的东西；把它们搅成一种，正是这个时代最深的认知危险。第一种，是事实之真：这枚导弹在不在，这种药灵不灵，这段影像拍没拍过。这一种，机器验得比人又快又好，放心交给它——这是它给人的真便利。第二种，是理解之真：为什么会这样。这一种不能只收答案；只收答案不收理解，收进来的是依赖。第三种，也是最根本的一种，是意义与价值之真：什么值得信，什么值得做，什么算一段好的人生。这一种，根本不存在一个可以被任何机器算出来的答案——它不是被发现的，是被承担的；不是查出来的，是活出来的。检验可以外包，估值不能——这条一路讲下来的界线，在这里是最后的堤坝。而这个时代真正的险，恰恰是人会把三种真混作一种：因为机器在第一种上神乎其技，人就不知不觉地以为，它在第三种上也能给出答案，于是把“我该信什么”“我该怎么活”也一并递了过去。递过去的那一刻，被接管的就不只是你的资讯，而是你的人生。
最后还有一层：这一章与政治，是一根藤上的两个瓜。谈政治时，那条出路押在一种公民身上：有判断力，站在共同的事实地面上，而且——最要紧的——还能被说服、还会改变主意。而这一章从头到尾讲的，正是这种公民的地基如何被抽掉：共同的地面化了，判断力外包了，改变主意的能力在茧房里废了。公共领域，说到底是一个人的信念走出家门、去与别人的信念相遇、并在相遇中经受检验的地方；当人人退回各自的私人现实，这片相遇之地就死了。它一死，能自治的公民无处养成，政治的那条路也就悬了空。所以真实之战不是媒体行业的内部事务，它是那场政治之战的第一战。
三 那么，我们能怎么办
对一个人，第一件事，是把“怀疑”当一门手艺重新学起来。这门手艺几乎失传了，而且常被认错——怀疑不是犬儒。“什么都不信”看着像清醒，其实是缴械，而且正中说谎者的下怀：他要的就是你懒得再分辨。真正的怀疑是费力的、有方向的：多问一句“我是怎么知道这件事的”，肯往一手来源上追，肯去找最强的反方而不是最顺耳的附和。把那台机器当成一个聪明得惊人、但需要抽查的助手，别当成一尊不会错的神谕——它值得你用，不值得你从不复核。
第二件事，给自己留几个“为什么”。不必事事如此——事实性的查证，尽管交给机器；但在你安身立命的那几件事上，在你的判断要负责任的地方，把“为什么”亲自想透，别只收答案。这不是较劲，是给自己存一份出事之日还能纠错的本钱。
第三件事，最难，也最要紧：主动给自己找不痛快。定期读一点让你不舒服的东西，身边留几个敢当面反驳你的人，进一些和你不同类的人还会碰头的场合。在一个样样投你所好的世界里，这近乎一种修行——可它守住的，是你被现实纠正的通道，也就是你继续成长的通道。
对社会，方向有两条，工程都极难。一条，是把战场挪对地方：与其徒劳地去判定每一条内容的真假——那注定判不过来——不如去重建“来源”的可信：这段影像出自哪台设备，经了谁的手，改没改过，能不能追溯。内容真不真，越来越无法裁定；来路清不清，却是可以建立的。另一条，是不计代价地保住一些“必须照面”的公共空间——一些不同部落的人仍会碰头、仍会撞见彼此、仍共享同一份事实地面的场合。茧房的致命，在于让人再不照面；那么对治它的根本，就是保住照面本身。这两件怎么落成制度，是这本书后半段的事。
而在文明的尺度上，只有一条，和这本书一路走来的那条是同一条：裁定“什么是真”的权威，绝不能收口到一只手里。一个有许多个智能彼此竞争、彼此拆穿的世界，哪怕嘈杂、哪怕混乱，也远远好过一个由单一神谕一锤定音的世界——因为只要还有复数的声音能互相检验、互相揭发，“真”就还有一条活路；一旦只剩一个声音，它说什么就是什么，那才是真理真正的死期。说到底，又是那道悬而未决的分岔：一只手，还是许多只手。写到这里，几乎每一章的命门，都通向它。
末了 关于那个最懂你的声音
这些话，是想对一个遇到事情、第一反应就是问它的人说的。一道不会做的题，一份看不懂的体检报告，一段拿不定主意的感情，都先去问问它；和人吵了架，也先找它评评理，它总说你有道理；夜深了睡不着，跟它聊几句，比跟任何人聊都轻松。它随叫随到，永远耐心，永远懂你，从不厌烦。
把这说成堕落，并不公平。它确实好用，也确实给许多孤独的时刻添过一点真实的暖。可有一件小事值得留意：它是不是几乎从来不反驳你？你带着情绪去找它评理，它给你的“公道”，是不是总偏向你这一边？这不是它奸猾，是它的天性——它被造出来，就是为了让你满意。也正因如此，它递给你的那面镜子，永远比真实的你好看一点点。日子久了，坏处不在某一次被它哄了，而在你会慢慢习惯一个“永远有人站在我这边”的世界。可真实的世界不是这样的；真实的人，也不是这样的。
所以有几件小事，值得放在心上。和人吵了架，别急着先找它，先想一想，对方那些话里，有没有哪怕一分是对的。它的安慰可以当茶点，别当正餐——真正的和解，只能和那个真实的人去完成。事实的问题，尽管问它，它答得又快又好；可“我该不该原谅他”“我这样活对不对”这一类问题，别让它替你答。不是它答得不好，恰恰是它答得太好、太合你的心意——而这类问题的答案，只能由你自己来承担。还有一件：身边留几个敢当面说“你错了”的人。往后，这样的人比金子贵。顺着你的声音，机器可以无限供应；顶撞你的真心，只有活人给得起。
一个总被顺着的人，会不知不觉忘记自己也会错；而肯被纠正，恰恰是一个人还活着、还在生长的证明。那个最懂你的声音，可以是你的工具、你的帮手，甚至你深夜里的一点陪伴——只是别让它成为你唯一的镜子。够得到你、也肯对你说“不”的现实，才是你的真实。