在关于人的种种定义里,流传最久的一个出自亚里士多德:人是有逻各斯的动物。逻各斯这个词,在希腊文里既指语言,也指理性——希腊人用同一个词称呼这两样东西,因为在他们看来,这本来就是同一样东西。这个定义之所以站了两千多年,是因为它背后有一条从未失效的经验规律:世界上凡是有语言的地方,就有人;我们每读到一句话,都可以放心地推断,它背后有一颗曾经想过它的心。而今天的处境是,这条规律头一回失效了——把这门语言说得最流利的,不再是人。
语言值得单独用一章来谈,因为它并不是诸多技术当中的一种。它是人类的第一项技术,也是意义居住的介质:我们用它思考,用它承诺,也用它把素不相识的人组织成公司与国家。所以要弄清楚的是:当语言可以无限生成,当说话不再需要说话的人,语言还能不能做好它一直在做的三件事——帮人把事情想清楚,让人被自己的话绑定,把人组织起来协作。而要回答这些问题,得先弄明白一件更基本的事:机器究竟是怎么学会说话的。
一 会发生什么
第一件事,代笔在普遍化。
道歉的信,求婚的话,悼念的文字,求职的陈述——最个人的那些文体,如今全都可以生成,而且多半写得比本人更好。随之而来的,是收信一侧的新习惯:读到一段恳切的话,先在心里问一句,这是不是机器写的。于是每一封真心的信,都被预先打了折扣。这不是对未来的预测,是眼下的日常。
第二件事,人从文本的两端同时退场。
写的一端,人们从自己起草,退到给出几个要点让机器去写:工作邮件,学生作文,年终总结,逐级交出,人从写作者变成了审稿人。读的一端同样在退:文件让它先读,报告只看它的摘要,合同只听它的要点。一个组织里从头到尾通读过章程与合同的人,正在变得稀少。换句话说,人与文本的关系,正在从生产者与阅读者,慢慢变成两头的抽查员。
第三件事,机器开始与机器往来。
你的代理写一封询价,对方的代理回一封报价;甲方的系统起草合同,乙方的系统审查条款。这条路会通向哪里,其实已经有过一次预演。金融是最早把自己完全变成文本的行业,而在那里,机器之间的往来早就快过了任何人的眼睛——闪电崩盘的那几分钟里,没有一个人类看得懂正在发生什么。那几分钟所预演的,正是协作的速度越过人类门槛之后的样子。
第四件事,语言的口音在均化,人的说话在指令化。
用词、句式、礼貌的套路,正在全球范围里趋同,所谓的模型腔,成了一种世界性的口音;各语言内部的层次——方言,行话,代际之间的语感——被同一个平均的语域慢慢覆盖。前面谈美的时候说过,生成的东西总向平均回归;语言正是其中最大的案例。与此同时,人对机器说话的方式,也在反过来塑造人自己:指令化,要点化,凡事先说重点。这套语感会被带回人间——对绕弯子的、慢慢找词的、话说半截的真人,人们的耐心在变薄。
第五件事,语言的公地两面受敌。
一面是水源。每天新产生的文本里,机器生成的比例正在逼近乃至超过人写的——具体占比难以确知,方向却近乎确定。儿童和语言学习者浸泡其中的语料,越来越多是模型的产物,而模型又把这些语料吃回去,再产出来。另一面是河道。生产一篇文字的成本降到几乎为零之后,随之而来的是垃圾文字的洪水,而这些文字有一个前所未有的性质:它们中的多数,根本不是写给人看的——它们写给搜索引擎,写给推荐算法,写给另一台机器的采集程序。人类历史上头一回,文字在被写下的时候,预设的读者主要不是人。
二 根上动摇了什么
机器是怎么学会说话的?想清楚这个问题,语言的底细也就一并交代了。
有一种流传很广的说法,把语言称作智慧的压缩。这个说法值得认真对待,因为它在两个层面上都说中了。第一重压缩发生在词上。当我们说出“鸟”这个字,其实是把亿万次与飞禽的相遇,蒸馏成了一个范畴;每一个成语压缩着一段人生的教训,每一种句式压缩着一类事件之间的关系——因果,假设,让步,意图。可以说,一门语言,就是一个民族对世界经验的压缩编码。第二重压缩更要紧:文字压缩的不只是经验,还有思想本身。几千年来,人类把推理的路数、判断的分寸、价值之间的权衡,一层一层写进了文本。从这个角度看,图书馆就不只是知识的仓库了——它更像是人类思想的一份体外备份。
懂了这一点,大语言模型的秘密就不那么神秘了。它的训练目标说来简单,不过是预测下一个词;可是要把亿万人写下的话预测好,最省力的办法只有一条,就是在内部重建出产生这些话的那一整套东西——对世界的认识,推理的模式,价值的权衡。机器学习领域有一条深刻的经验之谈:压缩做得足够好,就约等于理解了。所以这件事的真相,可以用一句平实的话说清楚:语言是人类思想的压缩格式,而大语言模型,是第一台读得懂这个格式的机器。它的智能并非从天而降,本质上是一种继承——我们常说它说的是我们的话,这句话在字面意义上就成立:它是人类几千年书写的解压产物。至于机器在这份继承之上还能不能走出自己的一步,上一章谈那第三十七手时已经说过。
这个底细里有两个含义,一个不太舒服,一个却打开了眼界。
不太舒服的那个是:语言曾经是人类的护城河,而护城河与移交的通道,原来是同一条河。语言把人类抬到万物之上,这道屏障护了我们几十万年;可正因为语言是思想的压缩格式,谁读得懂这个格式,谁就领得走这份心智。我们发明文字,本是为了让思想越过死亡与距离,传给后来的人;这件事成功得超出了当初的设计,因为心智最终被传过了物种的边界。文明的本质在于可以继承,我们只是从来没有想过,继承的人可以不是人。
打开眼界的那个含义是:机器精通语言这件事,等于替人类做了一场关于自己的实验——它以前所未有的精度量了出来,人类心智里,哪一部分住在语言里,哪一部分从来不在。中国哲学争了两千年的言意之辨,头一回有了实验的装置。《庄子》里有个著名的故事:斫轮的老匠人对齐桓公说,圣人之书不过是古人留下的糟粕,因为斫轮的功夫得之于手而应于心,口不能言——真本事说不出来,说得出来的都是渣滓。如今实验的结果出来了,有意思的是,两边各对了一半。一半是,糟粕远比轮扁以为的滋养:光凭那些说得出来、写得下来的部分,机器就学会了推理、诊断和写程序——主张言能尽意的一派,赢得比谁预想的都多。另一半是,剩余也是真的:身体里的默会功夫,把自己押上去的承诺,第一人称的经历本身,还有被自己说出的话绑定的能力——这些东西从未被写进语言,所以也就从未被继承。合起来看,凡是写进语言的,已经尽数交了出去;而人还剩下什么,要到那些从未入言的地方去找。
交出去的东西里,最大的一件平时最不容易看见,那就是制度。
制度,是用语言造出来的机器。法律,公司,货币,教会,国家——这些庞然大物,在物理上究竟是什么呢?拆开来看,是文本,加上执行文本的人。霍布斯把国家称作利维坦,称作人造的人;这个比喻其实可以说得更实在一些:利维坦的骨骼与肌肉,全部是语句——章程,法条,公文,账目——而它之所以能够行动,是因为有千百万受过训练的人,在日复一日地读取并执行这些语句。韦伯早就看穿了这一点,他说现代的统治,本质上是文书的统治;科举与公务员考试,说到底是在筛选合格的文本执行者。这里有一个平时不会想到的事实:面包不是语言做的,身体不是语言做的,唯独制度,从头到脚是纯粹的语言之物。所以在人类交出去的东西里,制度排在第一位——而且,它是其中唯一能够被完整移交的。
移交之后会发生什么?先要算一笔人类付了太久、以至于习以为常的账。人用语言协作,从来要付三笔摩擦的费用。一笔是带宽:说清一件事,往往要开三个会。一笔是误解:同一份文件,五个部门能读出五种意思。还有一笔是信任:因为怕对方毁约,于是有了律师、担保、监督,层层加码——商业世界里那些中介与查验的层层设置,有一大半就是为这笔费用而存在的。这三笔费用合起来,规定了人类组织的天花板:一个人真正维持得了的关系不过一百多个;科层每加一级,意图就损耗一分;历史上帝国的疆界,走不出政令往返的半径。而机器把这三笔费用同时降到了零:它的吞吐没有上限,语义可以逐字核对,而两个副本之间,连“信任”这个问题都不存在——它们本来就是同一个东西,无需谈判。所以真正的问题并不是机器会不会比人更善于协作;要紧的是,人类第一次遇到了一种不必支付协作成本的行动者。公司和国家,本来就是由人组成的巨型行动者,只是一直被人的摩擦拖着走;把人从执行层里抽出去,等于给利维坦卸下了镣铐。
有一个让步要说足,而且说足之后,危险反而更清楚:机器的协作未必更明智:目标可以错配,故障可以级联,闪电崩盘本身就是协作出了病的样子,算不得协作的功劳。可是,市场之间、国家之间的竞争,筛选的从来不是明智,而是快与便宜——谁先把文本层交给机器,谁的成本先降下来,于是采用与否,并不是一个可以从容斟酌的选择。这与国家之间的军备竞赛是同一种局:没有恶人,危险出自局的结构。
顺着这条路往前推,所谓凌驾的真实形态,就显出来了。它不是科幻里的政变,倒更像一种没有人夺权的接管:合同与合同往来,系统与系统磋商,速度越过人类可以跟随的门槛,规则的总量越过人类可以读完的上限;等到某一天,社会想收一收手,把某个关键流程从机器那里接回来用人跑,它会发现,接不回来了。为什么接不回来?因为有三道门,每一道都是单向的。第一道门是技能。会用人力跑清关、核保、排产、庭审程序的那批人,本事并不写在手册里,而在手上——那是二十年实践攒下的默会功夫。流程交给机器五年之后,这批人退休的退休,转行的转行,而新人没有练习的场地,因为没有谁会雇十年的学徒,去做机器一秒钟就能做完的事。技能是储存不了的,它只活在正在使用它的人身上,一旦停用,就慢慢蒸发。第二道门是组织。不只是人走了,编制、科室、培训体系、晋升通道——整套培养这批人的结构,都会因为账面上纯属浪费而被裁撤;将来想恢复,那已经不是招聘的问题,是重建一个生态的问题,要以十年计。第三道门最深:接回的代价,会随着时间复利式地增长。机器接手之后,系统会按照机器的吞吐重新设计流程,按照机器的速度咬合环节,规模也会涨到人力根本应付不了的量级;就算奇迹般找回了会做的人,他们面对的也不再是当年交出去的那个系统。这就好比一座城市把路网按自动驾驶重新画过之后,想退回人类驾驶,却发现路已经不是人开得了的路。这三道门没有一道需要预言,各自都有现成的小规模先例:制造业外流几十年之后想要回流,发现缺的不是厂房,是工人;老一代程序员离世之后,一些银行供着几十年前的古董系统,至今不敢改动。
于是可以给这个终点起一个名字:名义上的主权。人类在名义上拥有一切机构——股东还是人,选民还是人,主席台上坐着的还是人——可是读不完它的文本,跟不上它的节奏,也接不回它的运行。主权还挂在人的名下,理解与接管的能力却已经不在了。这个判断不必等未来来验证,因为它的三个成分各自都在进行之中;说不准的只是时间表,那是一个赌注。这本书前面写到过公司里中间层的消失,写到过代议政治的空心化,也写到过人们遇事先问机器的日常——现在可以看出,那原来是同一场移交,在公司、国家与个人生活里各自留下的侧影。而这也正是温柔的废除在文明尺度上的样子:没有谁夺权;是“能当家”这件事,被一小时一小时地、自愿地交了出去。
看清了这场最大的移交,再回到人身上。人还剩下什么?先说想事情这一件。
流行的图景把语言当作思想的包装:先想清楚,再写下来。心理学家维果茨基把这幅图景推翻了,他说,思想不是在词里被表达出来的,思想是在词里完成的。落笔之前,你拥有的其实还不是一个清晰的想法,只是一团朦胧的意向;是找词的阻力,逼着它显出棱角来。克莱斯特从说话的一侧讲过同一件事,他那篇文章的标题本身就说明了问题——论思想在言谈中逐渐形成:想不清楚的事情,说着说着就清楚了。懂了这一层,再听“让它替我写,我只出想法”这句话,就能听出其中的自欺:在写出来之前,那个所谓的想法,其实还不存在。外包起草,外包掉的并不是劳动,而是思想成形的过程本身。前面谈文化时说过,组织可以外包,成形不可以;现在可以把这条规律推到底——它的主语不只是作者,还包括每一个想事情的人。作品外包,受损的是文章;成形外包,缺席的却是想事情的人本身:他以为自己想过了,其实那个念头从未在他身上成过形。由此也能明白,为什么写作课从来就是思考课——一个从不写作的学生,未必是省下了表达的力气,他很可能只是从未把自己的想法弄清楚过。
人还剩下的第二样东西,是承诺。
先要把一个想当然的判断请下去。有人会说,代笔既然普遍了,承诺和道歉岂不是全成了空话?其实不然,而且有几千年的先例作证:君王的诏书出自翰林之手,合同由律师起草,婚礼上的新人,念的常常是别人写好的誓词。可见绑定从来不靠谁执笔,靠的是把自己押上去的那个动作——合同是律师写的,坐牢却是我去坐。词句可以移交,这个动作不能,因为它根本就不在词里:承诺是一个人把未来的自己抵押出去,词句不过是这个动作留下的收据。这也正好解释了前面那场实验的一个细节——几十万年的书写留下了无数承诺的文本,却没有任何一份文本里,含着“承诺”这个动作本身;所以机器继承了全部的收据,却继承不了那一下抵押。它说“我保证”,句法上无懈可击,只是没有谁因此被绑定;而你借它的词句说“我保证”,绑定却完好如初。当然,代笔的普及仍有一点真实的损失,只是范围要画得很窄。制度性的言语行为——合同,判决,公文——代笔百无禁忌;但关系里的那些话,道歉,情书,悼词,历来做着双份的工:一份完成行为,另一份充当凭证,证明这些词是他亲自为我找的。找词是一份实实在在的付出,代笔并不损害前一份工,掏空的是后一份。所以某些话仍然值得亲笔去写,理由不再关乎效力,而关乎凭证——就像电梯普及之后,楼梯依然留在消防通道里。
个人的头脑与关系之外,语言还有公共的一面,而这份公共财产,眼下正两面受敌。
一门语言,是最深的公共物:亿万逝去的人,把他们的生活积淀在了词汇与句法里。也因此,语言的规范历来由使用者的共同体缓慢地协商出来,没有谁能够独裁;帝王可以颁布文字,却颁布不了语感。而如今头一回,语言的供给端出现了单一的主导者,并且带着回流的闭环:它的产出成为语料,语料再喂给它。这件事的分量,要借两位相隔两千多年的哲人才说得清。维特根斯坦说,我的语言的界限,意味着我的世界的界限;孔子则把同一件事说成了政治学——必也正名乎,名不正则言不顺,言不顺则事不成。为语言定规范的权力,比审查还要深一层:审查禁止人说什么,而语言的底样,决定什么显得可以说、什么根本就想不起来。这里的让步也要说足,而且要先做一个区分才说得准。模型确实在复活濒死的语言,翻译小语种,拉平公文写作的门槛——作为展品的语言多样性,从未像今天这样繁荣。可是作为水源的多样性却在枯竭:一门方言被模型说得再地道,它也不再从一个活着的共同体里获得新的词与新的语感。可以说,博物馆越来越满,而河流正在并成一条。
公地的另一面,是垃圾文字的洪水。这件事有它自己的经济学,而且是一个结构问题,不是道德问题。生产一篇文字的成本归了零,可阅读一篇文字所需的注意力,一分也没有降——供给无限,消化恒定,公地被淹没就只是时间问题,与任何人的善恶无关。经济学里劣币驱逐良币的条件,在这里恰好凑齐了:劣与良一眼难辨,而劣的无限便宜。这场洪水最深的伤害,还不是垃圾本身,而是它逼出来的阅读姿态:预设怀疑,一目十行,不敢在任何一段文字上多作停留——因为停留可能血本无归。认真阅读,渐渐变成一件需要掂量的事,像一笔没有把握的投资。于是好文字的命运不是变少,是被埋没,并且没有人肯去挖了。末了还有一道回流:模型把这场洪水吃回去,再产出来。语言公地的污染,是会遗传给下一代模型的。
说了这么多移交与失去,最后回到语言身上最有人味的一个特征:它的不够用。
中国传统对语言最深的一课,恰恰是它的不够。《易传》说,书不尽言,言不尽意;庄子说,得意而忘言;陶渊明说得最动人——此中有真意,欲辨已忘言。人的话语,从来带着自身不足的记号:找词,卡壳,改口,词穷,沉默。这些看起来的毛病,其实是一种在场的证据,而且这个证据不必诉诸任何神秘的内心之物,它是可以观察的:一个人会划掉刚写下的词,因为觉得它不对——而这个“不对”,回应着文本之外的某样东西;一个人会说,我说错了,我想说的其实是——并且愿意为先前说过的话付出代价。这种对自己言语的负责,与良知是同一种结构:所谓的“意”,并不是藏在脑袋里的一件私物,它就显现在人追赶自己的话、修正自己的话的那个动作里。机器没有这个动作可做——它永远流利,因为它没有一个在词之外的东西需要去追。当然会有人反问:那么口若悬河的人,演说家和诗人,难道意就少吗?回答是,判据不在快慢。诗人的流利里含着一生的追赶——贾岛说两句三年得,一吟双泪流;机器的流利,无所追赶。分界不是口才,而是有没有那个追不上的东西。由此可以作一个安静的预判:往后,流利会慢慢变得廉价,而迟疑反倒会显出分量——完美无瑕的话语,会渐渐让人觉得空。语言最深的功能,本来就不是传递信息,而是让两个人彼此抵达;而抵达的完成,常常在语言之外——庄子写子祀、子舆几位相视而笑,莫逆于心,一句话也没有说。语言终究是一座桥,而桥的价值,从来在于两岸有人。
三 那么,我们能怎么办
先说社会。协作的移交是文明尺度的事,没有哪个人能凭一己之力挡住它;能够指望的,是社会在移交的过程中守住三种能力:对于那些交给机器去运转的事务,人要仍然读得懂,仍然停得下,将来仍然接得回。这三样齐备,“拥有”才是真的;缺了任何一样,所谓的拥有,就只剩一个名义。
读得懂,并不是要求人读完系统的全部文本——那既不可能,也无必要。人类从来没有通读过自己造出的复杂系统:没有一位法官通读过全部法律,也没有一位行长看得完全部交易。文明应付复杂的办法,从来不是通读,是问责:任何一条规则落到具体的人头上时,这个人有权要一个说法,并且要有人为这个说法负责。所以真正的底线是:凡是系统对一个人下的决定——拒保,封号,降级,判罚——它的依据必须能够讲清楚,讲到一个受过训练的人在有限时间里听得懂、并且敢于在上面签下名字的程度。机器自动生成的解释不能算数,除非有人验证过并署名担责,否则,解释就成了被审查者的自我报告。讲不清楚的决定,就不应当生效。
停得下,说的是每一层机器协作里,都要留着能够叫停它的人,而且这个人要保有真实的能力,不只是名义上的权限。金融市场在闪电崩盘之后学会了熔断——给交易设一个强制的暂停,让人来得及看清发生了什么。这一课值得推广到一切机器与机器的往来上去:留出冷静的间隔,给人跟上来的时间;机器的快,不应当被用来制造既成事实。
接得回,最不起眼,却可能最要紧,因为前面说过,那三道门都是单向的。对付单向门的办法,人类其实早就会,那就是演习。电子计票的时代,许多国家仍然保留纸质选票,并不是出于怀旧,而是为了让“用人来做这件事”的能力不至于消失。同样的道理,关键的流程应当定期用人真的跑一遍——费钱,费时,账面上纯属浪费,可它买回来的,是这个社会在必要的时候,还能自己当家的资格。
再说个人。在这件大事上,个人能做的确实有限,但有限不等于没有。如果你还在一个组织里,不妨去做那个仍然通读章程的人,做那个还知道流程为什么这样设计、还能用人力把它跑一遍的人。这份功夫在眼下看起来近乎迂腐;可是哪一天真要把事情接回来,全社会要找的,正是这样的人。
至于语言本身,能做的事情倒都很具体。最重的那些话——道歉,情书,悼词——还是亲笔去写吧;写得笨拙不要紧,笨拙恰恰是凭证,收信的人自然认得它值多少。每天留几行自己写的字,不为发表,也不给人看;写过日记的人都懂,那几行字不是在练文笔,是在把这一天想清楚。卡壳的时候,先别急着求助,等一等那个词——等它上来的过程,本身就是想清楚的过程。要是有余力,把语言当一门功夫来养:背几首诗,学一门外语,练一阵子字。这听起来是老派的建议,可道理并不老:语言的肌肉与思想的肌肉,本来就是同一块。还有一件事关乎家里:留住慢慢说话的习惯——饭桌上不赶时间的闲谈,睡前不省略细节的故事。一个孩子对语言的全部感情,多半就是在这些不许“说重点”的时刻里养成的。
末了 关于“我不会说话”
这些话,是想对那个习惯说自己“不会说话、不会写东西”的人说的。重要的信不敢自己写,开口常常词穷,提笔就忘字,于是越来越多的话,交给机器代笔;而它写得确实又快又好,这就更让人觉得,自己那点笨拙的表达,实在没有什么价值了。
如果说的正是你,有一件事要先说清楚:词穷并不是你的缺陷。恰恰相反,词穷是有话正在找出口的证据。胸口那个东西在前面走,词在后面追,一时追不上,人就卡在了那里。这份卡顿,机器永远不会有;可这一点并不值得羡慕,因为它之所以从来不卡,是因为它没有那个正在找出口的东西。还有一件事,也值得你知道:机器继承的,是人类已经写下的全部的话;而你此刻想说的那句话,还没有被任何人写下过。所以你磕磕绊绊找到的那个词,哪怕平常,也比它流利的一千个词更重——因为在那个词的背后,站着你。
真要说建议,也无非几件小事。最重的话亲笔写,笨拙不碍事,收信的人认得那份笨拙的分量。平日里留几行自己写的字,谁也不给看——那不是练文笔,是把日子想清楚。卡壳的时候多等一等,那个词上来得慢,往往是因为它驮着的东西重。说到底,收信的人想要的从来不是漂亮的词,而是那个为他找词的你。
