温柔的废除
温柔的废除
  1. 写在前面
  2. 导论
  3. 第一卷

    1. 第一章劳动:当谋生不再塑造我们
    2. 第二章商业:当中介纷纷失去理由
    3. 第三章财富与分配:当一个人不再被需要
    4. 第四章货币·金融:当唯一的纯信息系统撞上人工智能
    5. 第五章政治:当权力不再需要被统治者
    6. 第六章国际秩序:一场没有人想要、却谁也停不下来的竞赛
    7. 第七章真实·知识·公共领域:当一切无法被确立为真
    8. 第八章文化:当意义的生产被自动化
    9. 第九章自我·意识:当“有人”可以被制造出来
    10. 第十章人生意义:当想要与得到之间不再有距离
    11. 第十一章伦理·道德:当良知可以外包
    12. 第十二章亲密·家庭·人口:当谁也不再需要谁
    13. 第十三章时间·注意力:省下来的时间去了哪里
    14. 第十四章美学·品味:当美可以无限生成
    15. 第十五章语言:意义介质里的第一项技术
    16. 第十六章有限性·死亡·超越:当告别成为可选项
  4. 第二卷

    1. 第十七章个人的自处:立本与功夫
    2. 第十八章关系:联结的重建
    3. 第十九章社会的重建:政治与经济的新形态
    4. 第二十章平等的新地基
    5. 第二十一章教育:养成掌舵者
    6. 第二十二章被废除,还是被解放
    7. 结语
  5. 后记

导论

一 夜里的那些问题

这几年,几乎每个人都经历过这样一个瞬间。也许是你头一回让机器替你写一段本该自己写的东西,它几秒钟就写完了,而且写得不坏——你盯着屏幕,一时说不清心里那阵感觉,是轻松,还是发凉。也许是别的场合:写代码的人看它整段整段地生成代码,做翻译的人看它秒出译文,医生看它读片子,画画的人看它半分钟画完自己要画一星期的东西。行业不同,时刻不同,被碰到的却是同一根神经:它会的,越来越像我会的;它做得,越来越比我好。这阵感觉,有人叫震撼,有人叫焦虑,有人不愿多想。可是压在底下的,其实是同一个问题:如果它什么都会,那我呢?

白天不太顾得上想这件事。日子照过,工作照做,先问的自然是眼前实用的:该学什么,怎么转型,怎么把它用好。回答这些的书已经很多,也大都有用。可有些问题白天问不出口,到夜里会自己浮上来。机器写得比我好,我还写吗?孩子从小苦练的那些本事,将来还作数吗?我拼了半辈子挣来的手艺,是不是很快就不值钱了?要是有一天真的没人需要我了,我还剩下什么?

这些问题,技术回答不了。技术擅长的是怎么做;这里问的却是什么才算好,什么值得一个人花一辈子去做。前一种问题,机器答得一天比一天好;后一种,它一个也答不上来——再往上就没有标准可以查对,到最后总要有人自己拿定主意。这样的问题,有一个古老的名字,叫哲学。它不是学院里的专门学问,说到底就是一个人怎么安排自己的一生。只不过这一回,是一项技术把这些问题一齐推到了眼前。

也许有人会说:技术引起的惶惑,历史上有过许多回。蒸汽机来的时候,纺织工人砸过机器;计算机来的时候,也有人断言人脑要被淘汰。后来人们都找到了新的位置,惶惑成了历史书里的一段插曲。这一回,凭什么不同?

因为以往每一次,机器接手一样东西,都给人留了一条往上退的路。蒸汽机接手了肌肉的活,人退到手艺和头脑;流水线接手了手艺,人退到设计与管理;计算机接手了重复的计算,人退到分析与创造。两百年来,“往上退”是默认的出路,我们的教育也是照着这条退路办的:让孩子去学更高级的本事,学机器追不上的东西。而这一回,机器进的恰恰是这条退路——写作,设计,分析,编程,诊断,那些从前要读很多年书、练很多年手才做得来的事。往上退这个老办法,到这里没有下一级了。

所以,那些夜里的问题不是想得太多。一个人怎样才算活得好,什么值得他把一生押上去——这本来就是最要紧的问题,只是过去几十年,日子推着人往前走,没什么工夫细想。如今是这项技术把它们重新翻了出来,摆在每个人面前。

二 温柔的废除

这本书要谈的就是这些问题。而它想说的第一件事,写在封面上:温柔的废除。

人工智能改变人类命运的方式,多半不会是电影里那种样子——机器造反,人类抵抗。它更可能是另一种样子,安静得多,也体面得多:一切都替你办了。文章替你写,主意替你拿,日子替你安排,寂寞有它陪着。没有人强迫你交出什么,是你自己,在一千个舒服的日子里,一样一样地放了手。奥威尔当年怕的,是一只永远踩在人脸上的靴子;赫胥黎怕的,却是人们渐渐爱上了那个让他们不必再思考的东西。这本书怕的是后一种。它不流血,不喧哗,所以最难察觉,也最难抵抗——你很难去反抗一件让你越来越舒服的事情。

而在这场免除里,被免掉的最要紧的一样,是被人需要。

这话听着抽象,落到日子里其实很实在。一个人早上为什么会起床?多半不是因为想通了人生的意义,是因为有活等着他干,有人等着他去接。手艺人被主顾找上门,母亲被孩子叫醒,同事一句“这事儿只有你能办”——人就是靠这些琐碎的被需要,一天一天把自己支撑起来的。往大处看也一样。历史上统治者肯把百姓当回事,多半不是因为良心发现,是因为要人当兵、要人纳税、要人做工;厂主给工人涨工资,也不是因为仁慈,是因为离了他们厂子转不动。人与人之间那点彼此不能少的关系,是许多好东西真正的地基——平等,权利,被善待,追到根上都在这里。

所以当机器把事情一件件接过去,动摇的就不止是饭碗。它动摇的是几千年来一直支着我们的那件事:人还被别人需要着。这一松,许多平日不去想、以为天经地义的东西都会跟着晃:价值靠什么衡量,一个人怎样才算成了自己,真假如何分辨,爱要用什么方式表达,平等还能站在哪里。这就是这本书要谈的,也是它为什么是一本哲学书,而不是一本讲技术的书。

顺着这个判断,全书做两件事。

头一件,把影响推演到底,一块领域一块领域地推,每一块都推两层。第一层看实际会发生什么:哪些行当先变,钱怎么流动,权力怎样重新分布,人与人的往来会变成什么样子。这一层可以观察,可以争论,将来也可以被事实修正。第二层往下走一步,问的是那些概念本身还成不成立:当“我有贡献所以我有价值”这条链子断了,价值还剩什么?当什么都能被生成,“真”这个字还指什么?当陪伴可以按月订阅,爱还是不是从前那个爱?第一层的判断,将来会被事实修正;第二层的问题不会——技术再翻几轮,它们还立在那里。这本书用力最多的,是第二层。

第二件,问怎么办。把病理讲透不是为了让人绝望,是为了看清哪里还能着力:一个人在没有“不得不”的世界里怎么把自己立起来,人与人怎么重新连起来,社会该有怎样的安排。这些是下卷的事。

三 可以确定的事

推演总得有个起点,而起点必须靠得住。谈论未来,眼下流行两种谈法:一种把这一切当成又一轮工具升级,忙着教人追赶,那是把海啸当成了涨潮;另一种宣布超级智能将在某个确切的年份降临,配一张十年一段的倒计时表,把人类的结局写得如同已经发生——那份言之凿凿,恰恰是不可信的记号。这本书两样都不做,只追问一件事:这项技术把什么变得便宜了,又把什么留成了稀缺。

最有把握的一件是:机器把事情做成的本事,会越来越强,也会越来越便宜。

强到什么地步,不必预测,看记录就够了——围棋,蛋白质结构,编程竞赛,它已经一次次越过人类最好的选手;问题早就不是它能不能,是还没轮到哪里。它还会继续变强,理由也不神秘:算力、数据、方法都在增长,而方法这一项,如今连它自己也开始出力——这是历史上第一项能参与改进自身的技术。

便宜也不难理解:一样本事学成了,就能同时供亿万人使用。按每做成一件事算,交给机器的花费比雇人低一个到几个数量级,而且还在往下走。

还有一样容易被忽略:一群机器一起干活,没有一群人干活时的那些麻烦。人多了,难的常常不是事情本身,是人——要谈拢利益,要照顾情绪,要排班,要休息。这些机器都不需要,而且最能干的那一个,随时可以变成一万个。

那么它会强到哪里为止?看它怎么学的就知道:凡是有人做过、留下了样本的事,凡是做得好不好有标准可查的事,它都学得会,而且做得好。这条界线比听上去宽——我们招人、带人、考核人,靠的正是这些标准;换句话说,几乎每一份工作,本来就是照着“可教、可查”的样子设计出来的。所以机器够得着的范围,大体就是“说得清的工作”的范围,而这几乎是整个经济。

也正是在这条界线上,能看出它够不着的地方。有标准可查的事,机器都办得了,还常常办得更好;可标准本身是从哪里来的?什么算好,什么要紧,什么值得一个人花掉半生——再往上就没有可查的了,最后总要有人自己认下来。前一件事,这本书叫检验;后一件,叫估值。检验可以交出去,估值交不出去。这道分别,后面几乎每一章都会用到。

还有一条推论,也几乎是确定的:本事会与人脱钩。既然本事本身便宜,“谁拥有这项本事”就不再要紧。本事不再系在人身上,这是几千年来头一遭。

四 六台引擎

废除是怎么一步步完成的?这本书把它拆成六股推力,称作六台引擎。它们不像前面几条那样确定,属于推断,后面各章会逐一论证,也逐一接受检验。全书的每一章,说到底,都是其中某几台打进了某一块具体的生活。

第一台,塑造人的那些辛苦被抽走了。判断力是在拿不准里练出来的,手艺是在做坏过里磨出来的,耐性是在等不及里熬出来的——人的本事,没有一样不是从亲手做事的辛苦里来的。而人工智能的全部体贴,恰恰在于让人可以只取结果、不走过程:省下的是辛苦,搭进去的是成长。

第二台,相互需要在瓦解。这一台前面已经说过:平等、权利、被善待,细看之下都立在“彼此需要”上。当强的一方渐渐不再需要多数人,这些好东西不会立刻消失,只会慢慢变质——从有保障的,变成靠情分的。

第三台,思考与拿主意被外包了出去。它从最不起眼的地方开始:先是导航替我们认路,然后是推荐替我们挑选,再往后,是让它替我们起草、替我们权衡、替我们决定。每一次交付单独看都合情合理,连起来看却是一个安静的问题:当思考和抉择一件件搬出自己的头脑,一个人还剩多少是自己做主的?这台引擎并不抢什么,它只是把你交出去的每一样都办得妥妥帖帖——妥帖到你再也不想收回来。

第四台,“眼见为实”这条老规矩失效了。照片可以凭空生成,声音可以随口伪造,文章可以批量炮制——造出以假乱真之物的成本,头一回低于分辨它们的成本。更深的一层是,那台替亿万人给答案的机器,学会了顺着人说话:你愿意信什么,它就把什么说得更圆。于是“我怎么知道我知道的是真的”,从哲学家的书房落到了每一个看新闻、就医、投票的人头上。

第五台,丰裕和垄断头一次结伴而来。能力变得廉价,最好的老师、医生、顾问头一回人人可得;可造出这份丰裕的东西——算力、数据、模型——正集中到历史上最少的几只手里。你用得上最好的医生,却并不拥有它:价钱可以改,规则可以改,哪天不让你用了,你也没有办法。丰裕是真的,依附也是真的。后面谈分配、谈权力时的许多难处,源头都在这里。

第六台,中间环节在塌缩。平台、品牌、经纪、各种替人办事的机构,为什么存在?说到底因为人有局限:不懂行,所以要人把关;信不过陌生人,所以要一块牌子作保。中介的生意,本质上是对人的局限收的税。当局限被一项项抹平,靠局限吃饭的环节便一层层失去理由,事情退回它最直接的样子。这一台另有一个名字,叫大返祖。

六台之外还有一个条件贯穿始终,叫加速:人工智能改造世界的速度,快过制度与人心适应它的速度。它不只打进某一个领域,它给所有领域都加上了一重时间的压力。

把六台合起来看,方向出奇地一致:辛苦被免除,费心被免除,把关被免除,连被人需要也在被免除。温柔的废除,就是这样一台一台完成的。

不过,同样这六台引擎,还有另一种读法。免于劳苦,免于匮乏,免于为一口饭折腰——几千年来,人类求的不正是这个吗?被免除,也可以叫被解放:终于不必为糊口奔忙的人,头一回可以把整条命,拿去做自己认定的事。同一场变化,两个名字都说得通。哪一个成真,不取决于机器,取决于被免除之后的人还立不立得住:日子还有没有形状,主意还是不是自己的,人对人还有没有真的牵挂。这也是为什么,这本书最后一章的标题是一个问句:被废除,还是被解放。

五 各章讲些什么

上卷十六章是诊断,从最先被波及的地方谈起,一路谈到人心里最要紧的几样。每一章都走两层:先看会发生什么,再问它在根上动摇了什么。

先是生计四章。劳动一章从饭碗说起,但真正要问的是:工作之于人,除了糊口,还悄悄做着什么——那些本事、耐性、分寸,究竟是怎么练出来的。商业一章看中介如何一层层退场,以及当什么都能核实之后,买卖之间还剩不剩下信任。财富一章问的不是差距会拉多大——那太浅了;它要问的是,一个对别人再没有用处的人,还能凭什么要求公平的一份。货币一章从金融说起,那是唯一一个纯由信息构成的行当,人工智能要对整个经济做的事,会在这里最早发生一遍;而顺着钱往下追,会撞见一个比金融大得多的问题。

再是秩序两章。政治一章问的是:历史上权力肯善待人,多半因为需要人——要人当兵,要人纳税,要人做工;当这些需要都被机器接手,权力还有什么理由把人当回事,人的权利又靠什么保得住。国际一章面对的死结最硬:国与国被拖进一场谁也不敢先停的竞赛,人人看得见悬崖,人人不敢先踩刹车——这个局怎么解,或者,怎么熬。

然后转向内心,五章。真实一章问,当证据不再作数、机器又总顺着你说,一个普通人怎样才能知道自己知道的是真的。文化一章看共同的歌与故事会不会散掉,以及亲手创作对一个人到底意味着什么。自我一章贴身追问:身边站着一个比你更懂你的存在,事事替你想好,你还是不是自己的主人。意义一章问得最直接:一个不再被需要的人,早上为什么起床。伦理一章清点责任与良知:判断外包之后,机器做错的事算谁的,而良知还练不练得出来。

最后走到最贴身的地方,五章。亲密一章谈爱与家:当出现了永远耐心、永远不烦你的陪伴,人还需不需要人,爱还剩下什么,孩子还生不生。时间一章解释一个人人都撞见过的怪事:工具越省时间,人越没有时间。美一章为品味辩护:机器一秒成画之后,一双自己养出来的眼睛,凭什么反而更值钱。语言一章谈说话与写作:当机器接管了大部分的写,还有哪些话非得自己说不可。最后是死亡:当一个人的声音与谈吐可以留下来永远运行,死亡还算不算终点。

下卷六章是重建,次序倒过来,由内而外:一个人怎么把自己立起来,人与人怎么重新连起来,钱怎么分才不伤尊严,权利在筹码散尽之后凭什么保住,平等还能站在什么上面,教育为什么是这一切的上游。最后一章回到书名:被废除,还是被解放。

每一章的末尾,都写给一个具体的人——被那一章说中的人;也许其中一位,就是你。顺着读最好,这条由外而内、再由内而外的路是特意修的;性急的读者也不妨从任何一章进去,哪一章的问题问中了你,就从哪一章读起。只有一句要先说:各章末尾给出的办法,多半是小事——写几行字,赴一个约,立一条家规。请不要因为小就轻看;那些小事为什么不小,要留到最后一章才说得清。

行装都交到你手上了。带上它们,我们出发。