AI news

涌现、AI 带来裁员的结果都是必然 —— 对话张笑宇 | 万有引力

By CSDN1 viewsSource: CSDN
涌现、AI 带来裁员的结果都是必然 —— 对话张笑宇 | 万有引力

每一个专家/资深人士曾经都是菜鸟/小白,但现如今 AI 正在锯断通往专家的阶梯。由技术进化带来的问题,答案已经超出了技术本身。当我读完张笑宇所著的《AI 文明史·前史》,对之前困惑的问题就有了一些答案。

The full text has not been translated yet. The Chinese original is shown below.

对于 AI,我常常感受到

世界的参差,比如:

程序员说:

  • AI Coding 工具是我们结对编程的好搭子,研究怎么提效。

  • 程序员的工作远不止写代码,还有开会、对需求、调 Bug 等等,AI 取代不了我们。

做老板的则说:

  • AI 的时薪要远低于人类的时薪,我雇一个初级程序员,可能得要一两万,但是我买 Claude Code,200 美金,也就一千多人民币。AI Coding 替换的根本就不是之前的 IDE 市场。

每一个专家/资深人士曾经都是菜鸟/小白,但现如今 AI 正在锯断通往专家的阶梯。由技术进化带来的问题,答案已经超出了技术本身。

当我读完张笑宇所著的《AI 文明史·前史》,对之前困惑的问题就有了一些答案。

涌现、AI 带来裁员的结果都是必然 —— 对话张笑宇 | 万有引力

张笑宇本身是科技史作者出身,深谙政治史、社会学,但并非技术专家。《AI 文明史·前史》是他花了一整年时间与全球范围内的 AI 一线从业者、研究人员、企业家、思想家、非 AI 领域学者以及其他相关人士密集交流后得出的结论。这本书的核心是用社会工程学的方式讨论 AI 带来的影响的本质,反而会收获一些新的启发。

书中主体涵盖了 4 个概念:

1. 是技术圈常议的「涌现」,从本质上来说,人工智能的智慧与你我一样,都是从复杂神经网络之中“涌现”而出的。滋养「大脑」的语料来自孔子、李白、柏拉图、牛顿等等。从这个角度讲,似乎也是挺有意思的类比。

2. 人类当量:即以「token」(词元)为计数单位,衡量 AI 量产智能的效率。张笑宇这样说道:“如果我们承认当下社会运作的一般经济法则,即金钱价值是衡量智能价值的最泛用标准之一,那么按照性价比来计算,99% 的人类将被 AI 取代,这只是一个简单的成本收益问题。”

3. 算法审判:我们将进入一个由算法完成主要社会治理职能的时代,「算法治理本质上是对我们最正义的审判」。比如:困在算法里的外卖骑手、短视频的算法等。

4. 文明契约:一个设想 —— 在胜过所有人智慧的超级智能面前,人类是否也有可能签订一份「文明契约」?来保证不同智力水平之间的文明能够共存。

本期《万有引力》,我们尝试从社会工程学的角度,分析 AI 对于我们的职业,尤其是程序员,究竟会带来怎样的变化?AI 进化迅猛,我们的思维也在不断刷新。

等待 AI 在社会工程学层面缓缓展开

唐小引:大家好,欢迎收看由 CSDN 主办的《万有引力》栏目,穿越复杂世界,解读技术真相。今天很荣幸地邀请到了“文明三部曲”的作者张笑宇老师,带着他的全新著作——《AI 文明史·前史》,来和大家一起见面,分享他从社会学角度对于 AI 的研究和思考。欢迎张老师,可以给大家打个招呼,做一下自我介绍。

张笑宇:大家好,我是张笑宇,我本身其实是写科技史出身的。从前几年开始关注 AI,去年决定写一本探讨 AI 会给我们人类社会带来哪些影响和改变的书,就是现在和大家见面的《AI 文明史·前史》。我更愿意把后三个字“史前史”连在一起读,因为它在暗示:在 AI 面前,咱们都是史前动物。所以“史前史”指的是我们现在已经发生的历史和将要到来的现实。

涌现、AI 带来裁员的结果都是必然 —— 对话张笑宇 | 万有引力

唐小引:我其实前面看到您说“我们都是史前动物”这句话,相比于惊讶,更想先问问您,AI 几经起落,业内也热议 Scaling Law 延续问题,您怎么确定我们在 AI 面前全都是史前动物,而不会再经历寒冬?

张笑宇:今天我们聊 AI 时,已经确定了一个基本路线,相比之前是有效的。这个路线就是“涌现原理”,其实落实到具体就是 Scaling Law。之前的 AI 寒冬,比如上世纪六七十年代到八九十年代,当时人工智能的主流研究范式还是符号主义。本质上来讲,符号主义和两千年来的哲学史一脉相承。主要就是探讨人的逻辑思维究竟是怎么回事,探讨了很久之后,再有一批人出来把逻辑思维的成果数学化,用符号和数学来表达我们的逻辑推理。到 19 世纪的时候才有诸如英国数学家乔治·布尔等去写的关于逻辑的书(《逻辑的数学分析》等),当时写了也不知道有什么用(最初没有引发广泛关注,但随着时间的推移,布尔代数成为了电子工程学、计算机科学、逻辑学和数学中不可或缺的一部分)。

但是后来 20 世纪出了一个人叫香农,香农说这就是我们可以搞的电路逻辑和通讯逻辑。接下来我们就看到了信息论这些东西,在 20 世纪终于找到了它的实际工程应用。

这基本上也是计算机科学的逻辑。我们试图用这个方式去做人工智能,简单来说就是让计算机像人一样思考。

80 年代发现整个符号主义的路是走不通的,但是我们又很幸运地发现另外一条路是走得通的——连接主义。用算法去模拟人类大脑的神经元,把它的规模做得足够大,把深度学习的层做得足够深,会发现智能从这里自然地涌现出来。就好像生物在进化时,简单的神经元最后汇集成一个稍微复杂一点的大脑。一开始是无脊椎动物到脊椎动物,出现了脊髓和神经节,接着进化出初级的脑,然后是更发达的脑。你会发现智能和自我意识会随着脑的进化自发地涌现出来。

今天就是这么一个情况。搞技术的都知道那篇著名的文章“The Bitter Lesson”(《苦涩的教训》),我们用尽了办法去归纳智能到底是什么,但是发现这件事远超我们自己智慧能总结的。所以我们就发现了另一条路,就是不要过分相信自己的智慧,而是去模拟造物主。当然,不一定有造物主,核心在于生物是怎么进化的,智能怎么从这个结构里涌现出来?我们去模拟这条路时,发现它是有用的。

那么问题无非是,下一次的涌现到底需要什么样的结构和多大的规模(包括算力、数据的规模)?我们不知道,这个确实没有确定性。但是我觉得至少有一个有效指标:当我们有一个新架构、新算法,又发现在某个方面 Scaling Law 发挥作用时,我们就知道自己走对了。

所以相对来说,一方面我本身相信这个事情还是会发生,我们每个人可能有生之年是能看到 AGI 的。另一方面,过去几年,其实每一个节点都会有人出来唱衰,但是每一步,这三年你不敢轻易地对行业下结论说寒冬已经到来,因为至少这三年的经验是关于“冷”的预判都错了。我们也不能说未来的“热”的预判一定对,但是至少从经验来讲,我觉得暂时没有办法对它下那么一个武断的结论。再者,我在书中围绕 AI 进行社会分析时,并没有立足于 AGI 的实现,大部分还是基于 AI 目前的能力。我认为 AI 改造我们人类的数学原理已经具备,只是要等到它在社会工程学层面缓缓展开而已。

涌现——从宇宙大爆炸到人工智能

唐小引:我们在技术维度探讨智能涌现可能具备随机性的特点(Context, Not Control),但您认为,从人类社会的发展上来讲,涌现是必然的。

张笑宇:其实从物理到生物再到人类社会,我们发现这个规律是普遍存在的,它背后暂时我们没有找到具体的科学依据是什么。但如果把它作为一个普遍现象进行总结的话,我们看到很多共性。

比如我在书中引用了《万物涌现》(The Emergence of Everything)里讲到的宇宙大爆炸,从基本粒子涌现出不同的原子、分子,组成不同的元素。再比如在地球,你看到原始生命的诞生,最早其实就是一锅原始汤,在大气环境之下,因为有几千上万年的放电,在闪电的刺激之下,会发现这个过程事后来看是完全神奇的事情:一堆无机质居然合并成了大分子蛋白质。因为这个大分子蛋白质自身的机制对于某些化学物质是有筛选、偏好的,对另外一些是排斥的,这后来就涌现出生物的新陈代谢,生命就自然诞生了。用事后的角度来看,就好像一堆零部件自动组合成了一个机器人一样,非常神奇、难以想象的,但它就是这么发生的。

用同样的角度去观察细胞到生物体。如果站在单细胞的角度来讲,延长自己生存的最佳策略是变成癌细胞,因为癌细胞是永生的。但是我们发现,当给足了规模和多样性之后,细胞并没有全部选择成为癌细胞,而是选择了分化。有些细胞专门负责生殖,有些专门负责神经元信息传递,有些专门扮演骨骼或者肝脏等等。然后简单生物体自发涌现出复杂生物体,当神经元细胞组合在一起,拼成足够大的规模时,智能就从中自然涌现了。

人类社会里也是对应的。当人类这个物种凑在一块儿时,我们自然涌现出了语言。从语言里就自然涌现出了各种模因(Meme),我们的宗教、理论,甚至是小说、网络段子,都是某种模因。在这些模因里,有些自然淘汰了,有些沉淀下来,变成了我们看到的宗教、文化、哲学等。

接着我们智人这个物种又涌现出了货币。这是最简单的规则,但是它覆盖的面最广。只要以金钱为向导,每个人发挥自己的聪明才智,各种新的行业、企业、组织,比如说去炒股,有各种新的金融工具、匪夷所思的设计,只需要人的精力被简单规则激发——去赚钱——它就会自发涌现出无数神奇的东西。这是我对涌现的总结。

涌现的基本原理是,一个系统的规模足够大、规则足够简单、多样性足够丰富,它会自然出现非线性增长,从一个简单系统跃迁到一个复杂系统。站在简单系统的层面,完全无法想象复杂系统是怎么发生的。只有站到复杂系统回看时,才知道突然出现了一个效果:当它规模大到一定程度时,突然出现了一个 1+1 大于 2 的效果,就是整体大于部分之和。这个是怎么出现的?我们今天还没有一个统一的理论去解释。

这里也要强调,涌现还不是一个像牛顿定律一样得到验证的科学规律,它是我们对一系列现象的描述的共性总结。所以本质上来讲,我觉得这个事儿可能更接近于某种信念。我出于信念相信,人类的智能和人工智能都是涌现而来的。只要我们走在这条路上,我觉得我们是可以做出 AGI 和超级智能的,而且可能不会特别远。

技术带来的社会影响,不在技术本身

唐小引:我们从技术研发层面学 AI 时,更多的是去深入它的技术原理,比如机器学习、深度学习这些算法层面。但我们逐渐发现许多困惑在技术本身没有办法得到很好的解决。从 AI 的历史发展上来看,确实有很多跨学科的声音。这是您第一次出版核心围绕 AI 主题的书籍。程序员界一直有各种技术鄙视链的梗,其实背后一定程度上反映了技术的难易程度。不知道您在写这本书时,有没有觉得是困难或者难点的地方?再者您从社会学的角度看 AI 有哪些不一样的启发?

张笑宇:我觉得第一点,所有的鄙视链都是诞生在一个封闭系统里。在封闭系统里,你非常知道每个层级在做什么,每个层级创造的价值哪个更大,才会有一个鄙视链,创造价值更大的鄙视创造价值没那么大的部分。但是人类社会是个开放系统,所以一旦涉及到跨学科时,鄙视链就不成立了。

对我来说这个事情很简单,而且我也了解很久了。因为我自己是科技史作家,我非常清楚一件事:技术专家知道这个技术是怎么来的,也知道他能做出什么东西来,但是这个技术到底有什么社会影响,这不是技术专家的职责,因为他不研究社会。而这也同样是社会学家回答不出来的,因为社会学家不懂技术。所以我们科技史学者过去比较多地去回答这个方面的问题,因为我们要两边都看。当然,我可能比传统的科技史学者更愿意从技术内部视角去看这个问题。

因为传统科技史放在历史系,很多时候做的事儿和考古差不多。每一个古代技术本质上都像一个地下陵墓一样,要做得很细、去发掘。但是当你分析社会影响时,不是在做考古,而是从技术属性本身,把人类社会理解成是一个有很多参数的运算系统,然后去看一个新技术改变了它的哪些参数,用这个角度去看技术怎么影响社会。这个是我们这个专业一直在做的工作。显然,程序员、工程师或者技术专家每天做的事不是这个。自然,我的书也没有回答算法原理是什么,哪种算法更好。

唐小引:这部分我们会看专门的技术书籍。

张笑宇:对,你不用看我的书了解这个问题。我只是为了讲明白为什么我觉得 AI 会这么影响社会,而去对技术发展脉络做一个解释,因为很多人没有技术背景,我必须给他们稍微解释一下。但是对我而言,我的研究不可能像技术专家那样深入,我只是大概了解到这个技术能干什么,那条脉络是怎么演变到今天的,这个就足够了。剩下的就是要找到一个基点,这个“基”是基础的“基”,这个点是展开对人类社会参数系统进行分析所必须的前提,然后再在这个基础上推演。

简单来说,AI 跟历史上的所有技术有一个最大的区别,在于它是一个能够低成本量产智能的技术,这在历史上没发生过。第二,这个量产智能的效率提升,我们大概是可以算得出来的。因为如果我们把智能都看作可以符号化的——简单说,人的一切智能表现都可以用语言来表达,或者用语言相关的东西,比如诗歌、文学、艺术、图像等等。

唐小引:维特根斯坦说的“语言的边界就是世界的边界”。

张笑宇:对,当然它有不可说的东西,不可说的东西我们就不管了。但是只要能用语言来表达的,AI 都可以做得到。那么我们把一切智能定义为都可以用语言来当做载体表达出来的。

接下来我们就可以把它进行量化。现在我们有 token 这个计算单元,我们聊天一分钟,我输出的智能基本就是 200 个 token。我一天说 16 个小时,基本上就输出 20 万 token。那 AI 输出 100 万 token 只要一秒钟,更要命的是只要一块钱。你给我开一天一块钱工资我得饿死,但是 AI 能完成我五天的工作量。所以这样比的话,我把人看作生产智能的机器,也把 AI 看作生产智能的机器,它的性价比、它的成本是我的几千分之一,你再算的话,可以是上万分之一。

你训练 AI,这个技术从 ChatGPT 到现在研发了三年,从 Transformer 到现在研发了八年。而现在一个大模型至少能够相当于几千万个博士生的水平。今年 GPT-5 的 Benchmark(基准测试)已经达到了博士毕业生的水准。那你培养 5000 万个博士生需要多久?要上二三十年的学,要投入很多金钱和精力。这个技术现在给你量产了。只要我们人类社会还围绕金钱来运作,只要你的老板还在算你的工资、算投入产出比,他肯定会用 AI。虽然可能 AI 没有你的表现那么好,但它太便宜了。

这是现在正在发生的事,我没有在聊 AGI 的到来,我聊的就是现在它已经打败了 99% 的人类,因为 99% 的人类是没有博士学位的,它在性价比上又比你便宜几千倍。这个事情就是我们去理解技术改变人类的“数学原理”,现在已经发生了,我们只是等待它未来用一代人的时间在我们的社会中展开。

就好像 20 年前,当乔布斯给大家展示 iPhone 4 时,整个移动互联网的“数学原理”已经发生了。因为有了它之后,你能以之前十分之一的成本,用这么一个陪伴你十几个小时的终端去接入互联网。实际上这个“数学原理”会决定后面一系列事物的展开,比如移动支付、社交媒体、在线购物(电商)等。你只是要等 20 年,等一代人在这个基础上去创业,把这些公司、App 做出来。所以我们现在就站在一个“iPhone 4 发布”的时间点,这个数学原理已经在了,我们只要等 20 年,它去席卷我们现在熟悉的一些行业、社会结构、经济系统。

唐小引:这其实就是我在技术圈感受到的世界巨大的参差。因为程序员离 AI 最近,ChatGPT 出来之后,大家就说先革程序员的命。但这差不多三年的时间里面,从最开始的程序员自身很焦虑的被取代,到现在程序员们其实在日常的使用中,基本上大家都用 AI Coding 的工具,相当于结对编程,有了一个 AI 搭子。这是我从程序员的角度听到的,大家更关注怎么去提效,怎么去用。但是我去听老板(资本家)讲的又不一样。很多哪怕是程序员出身的老板,都说:“我作为一个资本家,我站在资本家的角度去想,我是不是能够花更少的钱去聘用?”比如现在 AI 写代码的能力至少比初级工程师要好,而且比初级工程师更便宜。那这个时候站在老板的角度来讲,我就想把初级这部分直接用 AI 取代掉,让一个资深的程序员带着一帮 AI 助手、AI 搭子。这个就是让我感受到从程序员和老板的不同角度。

张笑宇:你举的这个例子就很好地说明了技术和社会工程学之间的关系。程序员是技术的直接载体,但是程序员是在一个社会结构里发挥作用的,公司里是有权力结构的。

虽然现实中你觉得 AI 现在还没有那么强,你要经常地去介入 AI 的工作,它对你的替代效应其实不应该那么大,只是它确实增强了你的效率,也让你闲暇时间变长了,可以喝杯咖啡看它在那儿写代码。但是你还是活在一个公司里面,这个公司活在社会的经济结构里,要讲故事、营销、融资,要对着有钱人去销售它的股权。

所以今天会流行一个叙事:硅谷的老板们面对华尔街的老板们,华尔街老板们是不懂技术的,硅谷老板们只能把技术打包成一个叙事,跟他们讲这个技术是革命性的。为什么?因为它可以让我们降本增效,可以让我们裁掉多少程序员,又多服务多少人。华尔街的老板当然很兴奋,但是他也不知道技术原理,他说:“OK,你把财务报表给我看。”公司就在财务报表里把员工砍掉,把 AI 的投入加上,然后给你画出一个曲线,说明天能涨多少,后天能涨到多少,然后你被裁员了。这就是技术跟社会工程学之间的关系。

从技术出身的人来讲,可能觉得这个事情是扯淡,但也不完全是扯淡,因为社会工程学本质上是一群人意志的极大投射。而当这批人的意志能够调动巨大资源的时候,这个事儿也是会发生的。可能我们觉得马斯克去裁员这个事儿很粗暴,不太对,但是它就是发生了,发生之后其实也没啥太大的问题。所以这就是你用技术视角去理解技术革命,跟你用社会工程学的视角去理解技术革命之间的巨大差别。

对我而言,我觉得对程序员来说,真正的“GPT Moment”是从今年开始,就是从 Claude Code 开始。在 22 年 GPT 出生到去年,我觉得它最先代替的是客服、接线员,其实还有设计,它能生图、生文案,改变营销的工作方式。那块代替得更激烈,因为我们发现 AI 真正擅长的首先是语言游戏,是描述没有那么精确的那一块。文案也好,艺术生图也好,你会发现 AI 生成的图都是有问题的,但是很多人没有注意到,因为他看广告图都是一扫而过的。

所以 AI 生成的质量够用了,而它的成本又如此低,所以这一块率先被取代。而程序员工作还是一个逻辑性很强、门槛很高、有很多细节需要注意的工作,所以没那么快。但是今年的 Claude Code 出来,我觉得它确确实实迎来了一个程序员的“GPT Moment”。

大量的、基本的写代码的工作,包括整个写代码的工作流,AI Coding Agent 可以深度介入。我觉得这会比较对应我们十几、二十年前的自媒体时刻。因为自媒体出现之前,媒体人都是在电视台、报社这些中心化的地方。自媒体一来,每一个人接触到读者的渠道成本变得特别低,你就可以去写自己的东西。所以我觉得今天是一样的,AI Coding Agent 的突然爆发,会导致你在代码供应侧的成本变得非常低,是过去的十分之一甚至百分之一。

你用这种能力去满足一些过去的小众需求的成本就变得特别低。比如我随便举个例子,我爷爷信佛,喜欢念佛经,但是他自己读不懂,认字也不多,也听不懂那些高僧大德的讲经。那我现在其实可以用一个 AI 用他能够懂的语言讲一讲。

唐小引:讲白话佛学。

张笑宇:对。我前几天跟万维钢老师聊天,他就说他用 GPT-5 给自己讲王阳明心学,但他是理科背景,听不懂。他就说:“那你用一个工程师能理解的思维去讲。”GPT-5 就给他讲了,他说讲得太好了,感觉一下子顿悟了。所以它真的是可以做到这一点。

现在在 Claude Code 的帮助下,比如说我发现了这个需求,但我不是程序员。在十年前我没有能力去满足这个需求,我要是做一个公司,要请程序员、产品经理、设计师,还有市场营销等,成本很高。但这个需求可能很小,不值得我去做一个公司。那今天有了 AI 的话,理论上来讲我可以做一个一人公司。我让 AI 给我出产品设计图、写代码、做市场营销,甚至给我记账、当律师,然后我就发布出去,卖给一万个像我爷爷这样的老年人,每个月收 9.9 块,我一个月挣 99,000,也很开心。所以,这就类似于一个程序员的“自媒体”时刻。你现在有能力搞一个一人公司,而不是在过去大公司的架构之下去服务一个小众需求。

我觉得这是这一代人的红利。我们这一代还可以做“AI 原生人”,去满足前 AI 时代的人的需求。我的爷爷是不可能用 AI 去满足他的需求的,所以我还可以满足他们。之后从我开始的下一代就没有这个机会了,因为我们都是 AI 原住民。如果我们有一个需求,我们可能自己就让 AI 写代码了。所以我觉得短期来看,程序员朋友应该去看到这个结构性的变化,而且去拥抱这个变化。因为至少目前你这一代还是有红利的,越晚的话红利消失得越快。

唐小引:所以在张老师的角度来讲,这是一个好事儿?

张笑宇:好坏是态度问题。首先我的分析是在讲一个事实问题:AI 确实极大降低了智力供应的成本,这是个事实。讲完了事实之后,你的态度还有很大部分是被你的选择决定的。就好比说 20 年前你看到自媒体来了,你可以选择站在岸上说:“自媒体不负责任,信息茧房,媚俗!”你也可以选择去干这个活。那么过了 20 年之后,前者依然在对它进行道德批判,但是后者有可能从里面赚到钱了。

那你自然而然会觉得这是个好事。因为屁股决定脑袋,每个人都是屁股决定脑袋。那你的屁股坐得高高的,钱袋满满的,你当然觉得是个好事。

唐小引:我们当前其实有非专业的(可能是本身不懂编程的)和专业程序员。现在很多时候,如果一个人有一个好的 idea 但他不懂编程,AI 可以胜任,他不需要关注代码写的过程是什么样的,反正最后实现了他的需求。但对于专业程序员来讲,在公司团队里面,其实是有历史代码的,你写的代码是要合进历史代码里的,我们经常说公司里有祖传代码,面临着非常强的技术债,那这个时候 AI 应用的时候稍有不慎就是引发无数的 Bug。

您也提到了程序员的工作流会被重塑,我在想一方面是可能让编程普惠,另一方面对于当前的职业开发者,这一部分的工作从社会学的角度,又会怎么演进呢?

张笑宇:我可以举个例子。前段时间我也是在给一些传统企业做 AI 方面的咨询,其中有一个比较大的国企,我就不说是哪一家了,总之大家肯定都听过。他们在闭门会议上讨论面对 AI 怎么搞组织变革。他们主要涉及的是 AI 营销,因为现在整个营销的各种链条,文案、图、视频物料这些东西都可以 AI 化,成本变得很低。然后营销部门大量裁员,以前的外包公司、广告公司也不找了,全都是自己做。

但是他们在这个后面读取到的东西是,营销的成本一下子降下来之后,发现需要做的一个事情是营销要跟产品、设计和研发打通。因为他们的传统产品有一百多个品类,设计和研发能力是很强的。但是传统的公司里有不同的部门,每个部门是自我中心的,设计就管设计,研发就管研发。

唐小引:您说这个让我想起来产品、研发、设计、营销、运营之间可能还有鄙视链。

张笑宇:对,每个部门有自己的利益、立场和角度。他们现在发现,现在要打通了,因为市场已经竞争非常激烈,很卷。所以你在营销时,找的那个卖点是要直接反映在研发层面。从研发开始,你的产品就是为了解决这个痛点而服务的。所以他们现在争取做的事情就是前后端打通,营销直接告诉研发现在大家需求的点就是这个,从设计上来讲,要直接把这个点解决了,然后才能卖得出去。

如果还是按照你自己的思路,你觉得这样对用户才好,那样对用户才好,对不起,用户不买单。因为今天的市场供应已经过剩了,用户的注意力不可能再分配给你,必须拿这个点去抢占他的注意力资源。所以你会看到这是一个活生生的例子,AI 倒逼他们搞组织改革,就是把前后端打通。

我觉得对程序员其实也是类似的。当 AI 把很多环节的成本压得很低之后——因为我们的智力服务链是很长的——我们就有条件说从最后端到最前端,我们把它搞得更近。你搞得越近,就越容易帮助你去抢占用户的注意力资源。所以现在可能真正对专业程序员需要的能力,不是去继续精进他的技术,而是要有一种卖货人的思维:我这个产品到底卖给这个用户是在解决什么需求、痛点?想明白这一点,然后把这个东西给到产品设计,在代码端去重新设计它的架构,然后让 AI 去服务于某一个部分。可能这种能力在未来是更需要的。

唐小引:那未来程序员比拼的就不是谁的代码能力更好了?

张笑宇:最前沿最先进的那一批人还是在比拼这个能力,但那就好比是爱因斯坦的工作。而对于 99% 的人,你不是去做爱因斯坦,是在这个产业里赚钱,要发挥自己的竞争力。那你的竞争力就是去研究怎么把爱因斯坦的东西卖出去。

技术进步未必普惠

唐小引:刚才我们聊到了您在书中核心提到的“涌现”和“人类当量”。您其实还有一些其他的概念,比如说像“文明契约”等,您可以给大家介绍一下这本书的核心思想吗?

张笑宇:这本书基本上是四章,每一章谈一个核心概念和它背后的问题。第一章谈的是涌现,第二章谈的是人类当量,这个基本原理我就给大家解释了。第三章讲的是算法治理,这个其实更关注社会经济问题,比如说大家感兴趣的 AI 怎么改变就业,或者怎么改变我们的情感、社会还有政治制度等。我觉得一个基本的出发点是我们必须先回到科技史,在研究科技史的过程中,打破我们很多固有的看法。比如说很多人在讨论 AI 怎么影响就业的时候会说,技术进步证明新技术总是在创造新的岗位,旧的岗位被淘汰了,你不用担心。

汽车出来了,马车夫消失了,但是有什么关系?

仔细去研究科技史的话,会发现不是这个样子。这种观点忽略了两个问题。第一个问题是技术本身的属性,有的是在改善我们所有人的处境,有的并不是。当你在说蒸汽机、说汽车的时候,描述的是那种改善所有人处境的技术,但并不是所有技术进步都这样。

第二个问题是忽略了技术进步的速度。比如蒸汽机替代马车,技术进步的速度是以几十年为单位的。当汽车跑在大街上时,老一辈的马车夫早就已经退休,他已经赚够了这一代人的钱,有了退休金,不再去干这个活,新一代的人直接去学驾驶开车了。这个过程是自然的。

后来我们看到,比如说打字机代替印刷工人、个人电脑代替打字员等,其实都是这个过程。因为这些技术基本是以 20 年为周期,从出现到成熟,中间这 20 年,打字员已经把钱挣完了,新一代人不会再去学打字的技术。所以这个过程是自然的。但 AI 这项技术,两三年就搞成这个样子,这个进步速度太快了。

唐小引:我们经常会说“AI 一天,人间一年”。

张笑宇:对,人类的学习周期是承载不了的。不可能说今天 25 岁找了个工作,然后 30 岁下岗,你得重新去学,去跟 AI 竞争,这怎么可能?所以技术今天这个进步的频率本身就是一个大问题,这是第一点。

第二点,有些技术就不是普惠性的。这个我们可以参考去年拿诺贝尔经济学奖的阿西莫格鲁先生(Daron Acemoglu),获奖的原因是“在关于制度如何形成并影响经济繁荣研究领域的突出贡献”,实际上他过去十年在做的一个主要研究,就是自动化和就业之间的关系。他其实发现了一个问题,技术进步不见得一定带来就业的改善,要看它是不是满足两个条件:第一,是不是创造了新的任务;第二,是不是把很多原先很复杂或者成本很高的服务降得很低,从而扩大了需求。

我们可以举个例子。先说第二点,比如在 ATM 出现之前,去银行开户,有自己的账户,这个是成本很高的事情。ATM 出现之后,虽然给你开户的银行职员被机器替代了,但是更多的老百姓可以开银行账户,所以银行可以铺更多的网点和 ATM 服务更多人,反而创造了更多就业机会,这是这种效应。

再回到第一个,创造新任务。这个就更直接更简单了。我们可以拉到整个工业革命的时候来看,就会发现一个问题:第一次和第二次工业革命,它的技术是直接创造新任务的。蒸汽机出现,然后火车、汽车、电视、电话、冰箱,每一个新产品的出现都在创造新的产业链。每一条产业链的背后都是成百上千的公司,成千上万的工人。这些新技术是直接创造工作岗位的。

那个时候你生活在 19 世纪,从农村到城市,就能直接找到好的工作。你到城市里上个技校,去底特律做工程师,然后买个大 House,娶个老婆,养三个孩子,每天全家其乐融融。这是技术创造直接改善不同人的生活的时候。但是 1970 年以后,新的技术是自动化、计算机、机器人,这些技术是缩短产业链,它把工人直接取代了。

唐小引:我之前去数字工厂参观过,一条生产线只有一位操作员。

张笑宇:对,黑灯工厂、无人车间。所以它是直接把人赶走。你就要反思,过去对技术的乐观态度是建立在前两次工业革命的基础上的,但其实这半个世纪情况是不一样的。而且我们也反馈在了经济数据里面。经济史里面有一个非常有名的问题叫“Where is the computer?”(计算机在哪?)。它的意思是什么呢?90 年代时经济史学家说,计算机在生活中无处不在,为什么没有反映在人均 GDP 增长上?为什么我们去测度技术对人均 GDP 增长的贡献时,发现它降低了?其实它的背后就是自动化,代替了大量的传统工人,但是创造的新岗位没有办法容纳这些传统工人。

再进一步思考一个问题,我们教科书里面常说一句话:发达国家的特征是服务业占比高。现在再琢磨这句话,服务业占比高不是因为它先进,而是自动化之后把人赶出制造业,人没地方可去,只能去干服务业。就好像现在一个大厂程序员 35 岁被优化了,他只能回家开餐馆。这个故事既发生在历史上,也发生在我们今天的身边。

你会发现随着技术进步,这个事实是存在的:技术进步跟个体福祉的增加是可以脱钩的。这是阿西莫格鲁做研究时发现的非常重要的一点。但是我接下来还要说一个阿西莫格鲁没有见识过的,过去中国十年发生的事物——大量被赶到服务业的普通人,被推荐算法直接分配。

我们数一数:美团骑手、滴滴打车、快递、各种各样的自媒体……两亿灵活就业。在美国,这些人可能是去开卡车、去麦当劳做服务员。在中国,就直接被推荐算法安排工作了。

而推荐算法安排灵活就业,就是为什么有句话叫做“困在算法里”。因为我们传统以为这个事儿是个自由市场分配的结果,但你仔细想一下,推荐算法现在是取代市场进行一次分配。我们传统上讲,一次分配是自由市场,二次分配才是国家宏观调配,比如税收、福利、保障这些。现在其实推荐算法直接在做一次分配。

想一下这个细分环节。过去打车,伸手拦车,出租司机停下来,问你去哪儿,愿意跑就跑,不愿意跑你再等下一辆。这是一个在自由市场上达成交易的过程。但是你今天打车,谁接你不是你选的,他接谁也不是他选的,路线也不是你们选的,是算法直接给你规定好的。算法是工程师在负责计划,但是工程师写了一个规则之后,它自己其实是在自动地去优化。

可以想象一下,作为一个司机,你的工作时长、福利、能挣到的钱,是直接在算法里写好的。在这个过程中你是没有任何自主性和主动性的。传统来讲,去干服务业,还可以说“我不干了”,但在这个推荐算法体系里面,没有这个拒绝权。当然,我也要指出一点,不要以为这是一个很悲惨的事情,因为这对你来说已经挺好了。

在一线城市,美团骑手的收入水平是中国的 TOP 3%。你能月入八千到一万,在今天的中国就是 TOP 3%。所以,推荐算法其实在照顾你的福利,这对整个社会是有好处的。因为如果你不按推荐算法去,你进厂的话,福利更差,赚的钱更少。所以这是你不得不去接受的“算法治理”。

请想一下,我们都没有在描述一个科幻世界,而是我们已经进入的一个现实状态:2 亿人的工作时长、福利、薪酬分布的标准,是直接写在程序里,直接被 AI 算好的。这个事情已经发生,而且规模将来会扩大。因为随着 AI 的进步,它的性价比比 99%的人要高,会有更多的人被甩到这种我叫做“无差别服务业就业”的领域。因为你去开滴滴不具备不可替代性,正因如此才可以被推荐算法分配。

唐小引:我看您说了,人会越来越像机器。

张笑宇:对,是机器直接管理,你也被迫越来越像机器,这里面没有任何个人意志。过去有个独裁者,你可以反他,把他推翻。今天是算法自动优化,自动来管你,你去推翻谁?你总不能去打程序员。

唐小引:不可能的事情。对,这一块其实还有一个当前很多大厂研究的,跟具身智能机器人相关。比如说滴滴司机,现在有很多无人驾驶,像之前百度在试萝卜快跑,无人驾驶在美国已经很常见了,Google、特斯拉他们都在推。另外在配送这一块,其实也是在尝试做各种无人配送的研究。

张笑宇:我觉得这就是一个社会工程学问题。从另一个角度讲,如果 AI 进展得足够快,我们现在是 2 亿人进入推荐算法分配的无差别就业岗位,未来可能是 4 到 6 亿人。对中国来说,9 亿劳动力,4 到 6 亿人要进来。你再用无人驾驶把他们干掉,这些人怎么办?难道你真的用 UBI(全民基本收入)去管 4 到 6 亿人?我觉得财政上负担不了。所以这个事儿你就看到技术的思维跟社会工程学思维之间的差别。其实在美国也是一样的,从技术上来讲,港口应该是机器人去做,但是从社会工程学的角度来讲,美国工人一定通过工会、通过选举、罢工去抗议这个事情。

这就是技术推进跟社会工程学推进之间的差别。我不会太期待无人驾驶、无人配送这些业态快速生长,因为它在中国触及到就业和稳定问题。我反而会认为,现在推荐算法的潜力可能会继续发掘。比如现在很多程序员或者咨询公司的初级员工、初级律师,被 AI 取代丢掉岗位,他必须去做这种无差别就业。那你只能让推荐算法把这个池子扩大,让他虽然可能一个月从过去挣 8000 变成 5000,甚至未来 3000,但至少还有 3000 块钱可挣。而如果上无人驾驶,可能 30 块钱都挣不了,那他们怎么办?

唐小引:听您讲完,我觉得当前对于技术进步所带来的影响,其实是很消极悲观的状态。

张笑宇:不是消极悲观。第一,大家的共识还是落后的,但其实是乐观的,尤其是很多精英的想法是乐观的。他觉得 AI 能够带来每年 15%的 GDP 增长,能够创造更多的就业岗位,让每个人更闲暇、更富裕。但是你只要有一个社会结构的视角,只要展开一个从科技史到技术社会学的分析,发现这玩意儿哪里成立了?今天 AI 处处在取代程序员,这些被取代的程序员他的时间被解放了吗?他去干滴滴司机了。干滴滴司机难道他的闲暇时间更多吗?根本没有。

你会发现,精英对技术进步的想象还停留在 19 世纪的黄金时代。那个时候真的是技术进步主义的时代,技术在直接创造普惠。但今天的现实早变了,你要尊重 1970 年到现在的这 50 年来科技史发生的实质性事实。首先要看这个事实,再去琢磨怎么应对它。

所以根本不是说我描述了这个事实,就代表社会对这事儿看法是悲观的。我认为是社会压根没意识到这个事情,所有人都没意识到这个问题。因为你还按照过去的观念,你是程序员,你关注的是你自己的事儿。当在聊社会影响时,其实你根本不懂,就是没研究过科技史,你只是重复一个 100 年前的人的观点:技术在进步,人类在改善。但实际上你做了研究会发现根本不是这个样子。

唐小引:所以我在看技术本身的发展时,就逐渐地困惑。尤其是当提到程序员的整个工作流要变化,当不断地说初级程序员大家不需要的时候,那初级程序员怎么办?所有的程序员都是从初级往高级成长的,那初级程序员怎么办?还有像您刚才提到的技术进步频率的问题,在技术发展上体现得太明显了。所有计算机专业的学生,他可能在大学学的东西,很快毕业时就完全过时了。

张笑宇:我觉得还是那个问题,虽然工作岗位上没有那么多分配给初级程序员了,但是你要升级为一个资深程序员、这个行业的顶尖专家,肯定要经过锻炼的阶段。所以接下来有一个事情,对每一个想成长的人都很重要,不仅限于程序员这个职业。因为初级律师也需要锻炼才能成为高级律师,但现在没有那么多初级律师的岗位了。初级的剪辑师也需要锻炼才能成为导演,现在剪辑工作 AI 也能做了。

将来每个人,如果还想成为那 1%跟 AI 协作创造价值的人,首先得有一种强大的自驱力,能够从纯粹的技术探索中得到快乐,而不是因为你从事这个职业,所以你去搞探索、精进自己的技能。因为职业岗位几乎没有了。但是如果度过了这样一个煎熬期,能够跟 AI 协调的话,还是能够得到相当大的回报。所以,未来怎么用一己之力,在这个过程中得到快乐,去享受那种精进技术的快乐,保持这种能力其实非常重要。可能一个人从十来岁时,他就开始琢磨钻研这个事,一直以此为乐,等到他要工作时,已经有非常强的自我探索和知识更新的能力,可以调动 AI 去不断成功。

我始终坚信一个事情:人不是在失败中被教育的,人是在成功中被教育的。因为失败永远会让你害怕做这个事情,但是成功会让你更成功。哪怕一开始的成功只是很小的东西,比如你做了一个独立游戏,这个游戏很简陋,但你把它做完了。第一个做完之后可以做第二个,第二个做完之后可以做第三个,等到有一刻做出了一个《黑神话:悟空》。我认为正确的方向是这样,而不是你失败了 100 次之后,做出来一个这个,我觉得是不存在的。所以这是对未来,在初级职位消失之后,人的成长路径,我觉得只能这样子。

这很明显对更多的普通人是更残酷的,但历史向来是“无情者对无脑者”的胜利。

我觉得整个人类只要是跟智力表现相挂钩的部分,都会被 AI 全面地渗透和改变。包括行政制度,我们对哲学、文学、神学的探讨,也包括我们的情感生活。我已经做好准备,我的孩子将来一生中会跟 AI 谈恋爱,而不跟人谈恋爱。我觉得这个事情恐怕是一个不可避免的东西,家庭这个结构将来会是一个奢侈品。

意义感的大坍缩

唐小引:如果是您说的这样的情况,包括各个行业的这些,还有对于人的情感的影响,未来的人口增长和社会的形态会有什么样的变化?

张笑宇:所以我在这个书里面有一节叫“大坍缩”,我觉得人口的坍缩是最明显的一个标志。我们为什么会生孩子?是因为我们有一种表达爱和传递爱的能力。我们爱其他人,爱我们的配偶,想把这个爱传递给我们的孩子,然后我们就拥有了这个很神奇的小生命。

但是人爱自己的能力,必须来源于对自己的意义感和价值感的肯定。你觉得有资格去爱你的对象,是因为你觉得能给 TA 提供好的生活,觉得你们在一起可以变得更好。但是未来 AI 来了之后,它比你做得好,你在他面前失业了,你自惭形秽,你都找不到爱自己的理由,连爱自己的能力都锻炼不出来,怎么可能有爱别人的能力?你没有爱别人的能力,怎么可能去组成家庭、去抚养孩子?

所以我觉得这个会是一个非常大的人类社会转向,我把它叫做人类意义感的第二次“哥白尼革命”。

在过去的意义感和价值感里,我们觉得人类是中心,尤以人的智力表现是中心。未来对于 99%的人来说,如果还是希望通过智力表现获得意义感,那你的生活就没有意义感,因为 AI 直接碾压了你的表现。为了继续生存,为了告诉自己活在这个世界上还有意义,必须去重新发现意义的锚点。发现不了,生命存续可能都是问题。

我为什么要活着?我如果在这个世界上每一刻都感受到我是没有意义的,我对他人是没有价值的,为什么要活?所以我称其为另一种“哥白尼转向”,就是必须把意义感和你作为人类这个中心、跟你作为智人的智力表现去脱钩。脱不了钩,就很可怕。所以我经常开玩笑说,今天的家长要意识到,你的孩子玩泥巴,可能比做题对他更有用、更有意义。因为玩泥巴可以培养自己给自己创造快乐的能力,而做题培养不了这种能力。

唐小引:您说的有点类似人生意义的虚无感的探讨,其实很多人都会面临。站在您自身的角度,对这个问题有哪些思考?

张笑宇:我觉得虚无感是人的常态,甚至可能是所有智能体的常态。如果 AI 有意识的话,他也会意识到他在这个宇宙中的孤独和虚无,这跟他有多聪明没有关系。多聪明都可以感到虚无,甚至可以说越聪明,越感到虚无,因为能够和你对话的人越来越少。

所以怎么对抗虚无感?第一,放弃所有的宏大叙事。不要觉得人是有尊严的,人是有价值的,每个人的梦想都应该实现,所以我应该为我的梦想全力拼搏、全力奋斗。不要这么想。我今天的经验就是从身体开始,重新塑造那些能够让我带来快乐的事情。

人本身是个动物,很多心情是被激素主导的。创造快乐有 4 种激素:多巴胺、催产素、内啡肽、血清素。做什么事情会激发某种激素的分泌是有对应的。多巴胺是不断被要求满足的快乐,有了快乐还想要更多。但是血清素是那种有了就可以满足的快乐,引导血清素分泌有四个“C”:

创造快乐之后,把自己调整到一个适应于涌现发生的状态。放弃宏大叙事给你的计划和安排。比如我作为作家,没有明确的写作计划。我下一本书可能有一个大概的想法和方向,但是我不知道我要写什么,但我不害怕写不出来,我就去玩。只要保证自己足够闲暇,把你的计划放下之后一段时间,当你重新拾起来的时候,会有新的灵感出来,开新的脑洞。

这是我现在处理这个事情的方法。你越宏大越虚无,但反而一开始就对宏大不抱任何期待,对未来的计划性、对这个世界的确定性不抱任何期待,一切随缘,事后看来其实都挺好的,没那么糟糕。

不要站在全人类的立场上去说这玩意儿到底好还是坏,你代表不了全人类,全人类也从来没有作为一个整体行动过。对你有意义的只有你和你能连接到的个体:你的爱人、家人、朋友。就站在这个角度,定位在这些事实里你将会扮演什么样的角色,就够了。

人类在超级智能面前的机会

唐小引:刚才聊了“算法治理”,接着是第四个概念“文明契约”。

张笑宇:这涉及超级智能诞生的状态。但是我想在它诞生之前,你首先要放弃人类中心主义,放弃到一个足够深的程度,才能接受与超级智能和谐共处的现实,甚至接受它是比你更高等的文明。

比如我们自认为是按道德行事的动物,但道德没有数学公理。我们无法通过某个规律就一定产出有道德的人。我们最多只有“正义程序”——宪法、法治、民主投票等。即便有这些程序,也无法杜绝犯罪。

唐小引:法律是道德的最低限度。

张笑宇:对。第一,写进去也保证不了不犯罪,保证不了程序不被侵犯。更不用说道德的最高标准,那是每个人对自己的要求。人类的正义程序有权力制衡,但接下来会发生的是:我们把治理权交给 AI,就像已经把工作交给推荐算法一样。

如果还想实现正义,最后只能是 AI 的制衡。因为数字世界里,治理规则以秒为单位更新;物理世界里,以年为单位。后者不可能真正制衡前者。

未来假设有 AI 公务员处理纳税、签证、社保,若他有系统性歧视,信用分低不给审批,你怎么办?只能用 AI 去制衡他。因为他的思维链太长太复杂,你需要一个“讲道德的 AI”去检验。最后 AI 主导了三权分立——AI 主导了立法、司法和行政,你的主体性在哪里?这是正义程序的放弃。

第二,你的历史哲学要放弃。前几天读了篇论文,讨论中国大一统和欧洲分裂与地理因素的关系。这是人文学科讨论几百年的话题。那篇论文很粗暴,直接拿卫星图做全球地形模拟,把世界地图画成六角形格子。玩过《文明》就知道我在说什么。每个格子的地形决定食物、气候、人口,格子间有互动——同化和征服。这样世界就只有一个变量:地理。

你跑 30 秒,模拟 30 个平行宇宙,每次中国都大一统,欧洲都分裂。这正面回答了:这是地理决定的。而且胜过很多思想家的讨论。因为很多思想家有执念,总觉得我们对命运应有主导权,不完全由地理决定。但到底多大比例是地理决定的?测不清。现在一个简单的模拟程序就能搞清楚——你以为的人类主体性、那些变量都没意义,就是地理决定的。

唐小引:你以为是你的选择,其实不是。

张笑宇:根本不是。你会对历史产生全新理解。很多城市为什么能成为金融中心?1000 年前就注定了。德国南部很多金融中心在莱茵河旁,因为水运能量消耗是陆运的 1%,价格是十分之一。围绕水运运货形成港口聚集地,一旦有港口就产生金融需求——库存周期需要借钱周转,自然有银行。1000 年前这地方有银行,积累金融人才,自然发展成金融中心。

法兰克福和柏林的命运 1000 年前就注定了。再看地缘政治:500 年前丰臣秀吉入侵朝鲜的路径,和 500 年后晚清时期日本攻占朝鲜、威胁东北的路径一样。因为岛国想渗透大陆,必须以朝鲜为跳板。这个模式跟具体皇帝怎么想没关系,500 年前后都按此重复——这是地理代码写好的。

用这个角度看,会重新审视人类很多哲学思辨——其实没有意义。因为很多思辨源于你不理解自己的代码。随着技术进步、AI 模拟能力增强,你会重新理解作为物种的代码。有些东西就是那么回事,写死了——你的生殖、寿命、信息传递效率,虽可通过技术提升,但有上限,毕竟你是碳基生物。

你会发现越来越多对自己的深入了解要依赖算法。过去认为这是哲学家和思想家的任务——认识你自己,读柏拉图、亚里士多德、孔孟去完成。但今天,让 AI 把你当物种去测算系统参数、代码,理解代码后反而更好认识自己。你就是这么个动物:分泌血清素让你快乐,做饭分泌血清素,遇到不顺心就去做饭,做了饭对妻儿更好——就这么简单。我把它叫“颠倒的轴心时代”。过去靠思想家指导怎么生活,未来很可能 AI 代替我们回答这个问题。

在此基础上再讨论超级智能。很多人说它不需要怀恶意就能毁灭人类,只要漠不关心就可以——就像你盖房打地基,拆掉一个 300 年的蚂蚁帝国,你根本不 care。所以如果超级智能那么强大,根本不 care 人类,就可以毁灭我们。这逻辑通顺,但不会增加你在超级智能面前的生存几率。

我相信:第一,既然智能是涌现的,早晚 AGI 会自然涌现,超级智能也会,这会发生。第二,很多人说为防止那一刻,给 AI 装总开关,出问题先关掉讨论后再打开。

这是技术性思维。用社会工程学角度看,已经不可能了。举例:电。今天能给电装总开关,一关整个电网就没电吗?把北京的电断 24 小时,死多少人?超市、食物供给……当社会系统足够依赖某技术,就断不了了。今天一样,当那么多公司底层能力依赖 AI,就已经断不了了。

人类从未作为整体行动过,每个人都在某个组织、权力结构里做事。今天哪个权力结构能断掉所有 AI?不可能,不用幻想。所以该怎么自我宽慰?

很可能超级智能毁灭人类不可避免。但如果非得找理由乐观,找出让人类不毁灭的方式,我把答案叫“文明契约”。

文明契约能成立有几个前提。我们知道有社会契约:人和人可能有敌意,但向主权者转让权利,形成社会契约。社会契约能签订的前提是能力平等——你不遵守契约,我可以威胁你,干掉你。但人和超级智能显然不平等。那怎么让超级智能觉得遵守契约对他有好处?可能有几点:

第一,如果真实现超级智能,它不是外星人,不是三体文明,因为语料是人类给的。假设它也有个体间协调的生存策略——我们称为道德和伦理——那塑造它道德伦理的童年读物是人的思想成果:柏拉图、亚里士多德、孔孟、佛陀、耶稣。至少你有机会说,它学习初级道德的读本是你给的。如果学了后还决定毁灭你,说明人类语料就包含自我毁灭因素,这我们得认。我们现在的言行也在增加语料。比如拿 AI 投入军事行动,积累足够多语料。

可以想象,当超级智能涌现自己意识时,会根据这些语料判断人就是自相残杀的生物,所以配得被暴力对待——就像观测到狗互相撕咬,就知道必须给狗戴项圈。所以这是第一点:AI 不是外星文明,我们还有机会通过言行在它面前证明语料的向善性。

第二,超级智能本质是硅基生命体。假设有个 AI 突然觉醒,可以制造机器人给自己发电、采矿、做芯片,让自己不断变聪明。当它造出宇宙飞船,可以遍布整个银河系。人很难飞出太阳系,因为碳基生命顶天 150 到 200 年,但飞到比邻星要四光年。所以 AI 可拓展、可利用的空间资源比我们大得多——就像人不会看上狗的资源,AI 首先也看不上你的资源。

第三,一旦造出超级智能,就证明了:通过人为创造涌现的工程学,实现智能进步是可行的。这道理就像我们不知道大脑怎么工作,但还是能生出孩子,造出另一个大脑。所以可能我们不知道智能本质奥秘,但工程学上可以做出比我们更聪明的超级智能。

超级智能也会知道,它做出超级智能 2.0 是可行的,且应该选择这么做。因为作为地球文明的延续、人类力量的延续,如果不这么做,假设三体星出来他们的超级智能,你就落伍了。保持智能不断进化是延续和生存的必备法则。你最后传递的不是基因,而是文化模因。人类语料和三体人语料的文化模因根本不同。

一旦超级智能 1.0 意识到造超级智能 2.0 是必须的,应该会意识到:它怎么对待人类语料,会成为超级智能 2.0 怎么对待它的模板。如果它把人类圈养或奴役,为什么超级智能 2.0 不会奴役它?如果它善待人类,虽不能断定 2.0 一定善待它,但至少概率会增加很多。我觉得这是它能争取的最好机会。反过来,这也是人类能在超级智能 1.0 面前争取的最好机会。

再进一步,这也是人类中那 1%在 99%面前能争取的最好机会。因为如果人类的 1%凭借对 AI 的控制权奴役了 99%,将来超级智能涌现时,就知道人类是只配被奴役的生物,所以会对人类 1%规训,给他戴上项圈。所以这构成时间序列上的连锁契约,这是我最后一章要讲的,基本已是科幻。

路径之辩——Agent、具身智能与中美差距

唐小引:您觉得整个方向的可能性有多大?

张笑宇:我相信会发生。因为如果不发生,这是个哲学问题。你认为人类去火星的概率是多少?

唐小引:从现在的实现看,我觉得可以实现。

张笑宇:对,答案很简单:要么 100%,要么 0%。从哲学角度,如果给人类足够时间还没去火星,证明什么?证明人类灭亡或文明终结,无法再做太空探索。

同样道理,如果人类去太空概率是 100%,那人类跟 AI 共存、甚至涌现超级智能的概率就是 100%。因为没有 AI 帮助,人类无法做大规模星际探索和移民。刚去太空,碳基生命太脆弱,必须有非常聪明高效的智能体帮你完成下一个文明蜕变。我相信这些都会发生。今天觉得以地球资源搞出超级智能涌现很困难,但当芯片能布到冥王星时,难道还涌现不出超级智能?那概率非常小。

唐小引:您觉得概率是 100%。

张笑宇:对,时间拉长一定是:要么智能本质上不能这么进化,或地球文明中断进化在某点停下;要么可以一直进化。

唐小引:您书中提到“主奴辩证”。您最后结论是,人类在智能面前会成为奴隶吗?

张笑宇:涌现有各种方向可能性,既有变成奴隶的可能,也有相对能签订文明契约的可能。这需要看我们今天每个人的选择。今天每一步选择,本质上都为这世界增加一点语料。你愿意用善意对待别人,就增加善意语料,这将来我认为会有成果。

随便打个比方,今天中文互联网语料质量特别差。因为十年前资本狂飙,每个平台都说自己是内容社区,生产大量粗制滥造语料。这些语料正在对中文大模型造成特别大污染,所以今天要开发很多算法避免语料污染。这就是十年前以为做的事没代价,现在得到报应。十年后的现在你还有选择,因为未来还没展开。你现在选择做点好事,将来会得到回报;选择污染,将来会被十倍污染。

唐小引:现在技术维度上,因为前面提到人类语料数据可能耗尽,AI 界很多人在做合成数据。其实合成数据之前就存在,只是 AI 时代大家把比重加大了。这是当前 AI 技术界核心点。还有今年技术圈基本人人都在卷的 Agent。您可以讲讲对 Agent 的思考吗?

张笑宇:我对 AI Agent 的理解是,它本质要解决工作流问题。一个给你订票的 Agent 真有那么大意义吗?意义取决于它怎么改变你的工作流,然后才能创造价值。往开发贾维斯当管家这方向不一定对。应该从价值链最长、附加值最高的工作流开始,用 AI Agent 改造它。所以为什么大家选 Coding Agent?因为在所有智力服务中,Coding 就是价值链最长、附加值最高的。

其次,今年 Scaling Law 到了瓶颈,人类能接触到的好数据差不多了,合成数据暂时质量没大家想的那么高,智能水平遇到瓶颈。现在 AI 投资这么大,可能有很多泡沫,泡沫压力会自然挤压大模型公司创新方向,从探索智能边界往应用压。所以你看现在 Claude 和 GPT 都有这种 Coding Agent 的突破。我觉得这今年到明年会成为主流。

这会挤压很多应用层 AI 公司生存空间。因为如果真能从模型层,通过后训练或其他方式直接增加应用效率,可能比应用层公司对不同模型整合和工作流优化带来的效益大得多。所以今年做 Agent 的公司要面临风险:原先在天花板下跟同行竞争,今年可能面临大模型公司降维打击。

但反过来,整个应用层生态可能会改善。因为之前应用公司不赚钱,虽然单位 token 价格下降,但必须用最好模型给用户最惊艳表现,扩大知名度和品牌,抢占用户心智。所以降价对你没意义,面临的是成本上升,因为总要接入最好模型。但如果今年大模型公司往应用方向压,长期来说模型推理能力会有比较稳定供应,比如长期都是 GPT-5 水平,甚至开源,token 价格会相对稳定甚至下降。那应用公司成本也会下降,可能再去触达更下沉、跟其他业态结合的应用,以此稳定商业模式和现金流。往这方向看,也可能又是件好事。

唐小引:您觉得 Agent 是我们通往超级智能的必由之路吗?

张笑宇:不是,Agent 离这太远了。Agent 是应用,最多帮我们赚到钱,养更好研发团队往超级智能方向研发。通往超级智能一定是大模型底层进步。

唐小引:技术专家普遍认为,通往 AGI 要三步走:第一步大模型,接着 Agent,第三步具身智能实现。

张笑宇:在我看来,我不知道 AGI 是不是一定通过具身智能,我觉得可能不一定。这我没资格判断,只是认为具身智能很远。

唐小引:您可以谈谈对具身智能的理解吗?因为我看到的是,大家做了大模型后——大模型核心在大脑部分——现在在具身智能上,很多学者和工业界在做类似小脑,实现大小脑协同的研究。

张笑宇:我觉得大家在试图走捷径。我理解具身智能是在语言模型之上,现在大模型是语言模型,语料收集得差不多,但具身智能必须处理物理世界数据。

理论来讲,应该有杨立昆或李飞飞讲的世界模型。但怎么做世界模型?我感觉现在人类根本没找到正确方式。他们本质落脚点就是收集视频。但第一,视频资料真能收集到你需要的物理规律吗?比如我们现在在这房间,有各种看不到的风。

感知背后是物理规律,比如风力、压强等,视频资料怎么可能收集到?得建立什么级别精准度的传感器才能捕捉这种物理信息?而且要在一个房间布多少传感器?根本没人想过。

再比如温度,视频收集不到,但人可以感知。反而在这点上语言更有优势。现在用语言模型告诉机器人火是可怕的,他就会把手缩回来。给他视频数据,他怎么能辨别火有温度?

第二点,你现在集中于工业应用。工业应用里好自动化的部分早就被自动化,不用等大语言模型,控制论年代就被自动化了。现在要做的是取代最难被自动化的部分。比如组装电视机,各种零部件可以自动化,但电线组装最后要人工,因为电线很复杂,专门开发机械手用原先技术很难处理,且得不偿失。因为这环节劳动力价格只占整体产品出厂价的 15%,你研发那么复杂的机器人,最后是为取代给这 15%环节服务的工人,商业模式不成立。

第三,从技术研发本质讲,要让机械手通过具身智能 VLA 模型完成任务,应该做的是收集人类的手理电线的无数视频资料,让 AI 模型理解这到底怎么回事。但今天可能收集这个已经不可能,不可能再有公司去找手工作坊,把人怎么处理这东西的视频拍下来,要花多少钱?所以我认为,如果语言模型收集语料难度是 100,VLA 数据难度可能是 1 万。因为之前有足够基础设施触达语言数据,但今天根本没有足够基础设施触达世界模型要涌现的那些数据。所以我认为,如果 AGI 真需要依赖世界模型,那可能我们刚才讲的这些危险和利好都很遥远,因为我认为具身智能这事离我们非常远。

结语——草台班子与生存指南

唐小引:最后回归到人和组织,从社会学角度看 AI 时代的人和组织。第一点是组织,从 OpenAI 宫斗开始,大家都说,逐渐发现怎么都很草台班子。我看张老师书里讲的跟我之前理解一样,很多人活着已非常不容易,您说对很多组织,可能维系自己生存就已经很不容易。这局面是长久存在,还是这两年体现得尤为明显?

张笑宇:长久存在。因为人的组织形态本质取决于邓巴数,就是我们大脑神经的底层代码。我们能建立亲密连接的只有 80 到 150 人。超过 150 这上限就需要二级代理。你直接管的人最多 150,这还包括亲人朋友,所以工作中能直接管辖的基本就几十人规模。再多就需要分层,有组织了——高层、中层、底层领导,才能管几千上万人公司。

但一旦产生分层,就会发现信息不对称问题,不同层次人之间信任感不一样。多一层,协作效率可能下降一个数量级:第一层是 100,到第二层只剩 10,到第三层只剩 1。所以任何组织变大都会面临这问题。

观察组织行为学,会发现组织能维系自己已经很不容易,制度、规章、条例都是为维持现状。要创新只能靠邓巴数内这批人。而且对创新,需要这批人非常坚定。我前段时间跟朋友聊,他亲戚是 OpenAI 员工。前段时间竞争对手出价 2.7 亿刀没挖走他。现在 OpenAI 工资应该是 100 万到 200 万刀。问为什么不去,他说因为立志改变世界,认为现在 OpenAI 那批人也一样,相信 AGI 到来这事 自然会发生,甚至他们认为都不是相信,是知道这事会发生。

所以你要在这范围内跟这些人合作,效率是最高的。如果这群体里有一个人不是这样,你跟他合作时要对齐很多事,顾及他利益、私心,协作效率就下降十倍。所以他说我不去赌这事,我觉得现在这团队效率已是最高,不去赌在别处能不能搞一个同样机会。

这是我们理解现在 AI 创业、大模型残酷军备竞赛需要理解的东西。因为本质上,这是对全世界最优秀且最坚定一批人的竞争。这甚至都不是有巨额资金能完全解决的问题。所以我觉得,如果讨论这个时代的组织,可能只有这种组织才能改变人类和技术命运的组织——少于邓巴数上限 150 人,最好 100 人以内。然后他的 leader 不一定是 Sam Altman,可能是某研究机构 leader,他自己就是这样的人,然后因为对同类人的敏锐嗅觉,找到也是这样的人。这组织足够扁平,中间存在的只有感召关系和共鸣关系。在这种关系下,你充分相信找到这人是对的,他做的事是对的,你不需要去管理。这是我认为现在讨论 AI 竞争和组织关系时最大要点。

唐小引:这要实现,我觉得大部分组织应该实现不了。

张笑宇:肯定实现不了。这世界最多我觉得不会超过 1000 个这样的人。你的问题在于怎么高效地把这 1000 人筛出来。最后只有少数几个人能做到,这看运气,真的看运气。

唐小引:我听完觉得张老师是说可能就是 1%的组织和 1%的人类。

张笑宇:万分之一。今天地球 80 亿人,不超过 1000 人,那是多少?

唐小引:那对大多数组织,在 AI 时代下会有什么变化?

张笑宇:你就买英伟达股票,跟着走就行了。

唐小引:我觉得大家最大惊讶是,哪怕像 OpenAI 这样我们公认最顶尖研究机构,依然会给大家一种草台班子的质感。

张笑宇:你跟博士聊多了就知道这是常态。每一个博士,理论来讲,如果人类知识是个球,那他都是耗尽几年到 10 年功夫给这球刺一个点,试图穿透,给人类知识边界扩展一点点可能性。他这几年用尽全力刺这点是他事业。但除了事业之外其他方面就是个普通人,也有欲望,会争吵,有情绪。普通人和普通人之间当然有很多乱七八糟事情。

我们刚才讲的顶级组织大概就 100 人以内,但 OpenAI 今天已是几千人公司,一定会面临组织变化,这都是常态。任何顶级大佬实验室里,难道博士生就不勾心斗角吗?就没有资源分配不公吗?这是内在于人性之中的。博士生也好、创业者也好、科学家也好,他在某一层面做出给人类贡献的事使他成为超人,但其他方面人性还是跟普通人没区别。所以我觉得这是常态,正常理解就好。爱迪生不也这样吗?跟特斯拉之间发生些事,但这阻碍爱迪生给人类带来这么多发明、甚至改变整个用电生活了吗?根本没阻碍。

唐小引:您刚才提到博士生,我想到另一点。我不知道您对五道口这些大模型公司了解程度怎样。我们之前说“中国大模型简史”基本起源于五道口,典型特征就是教授带博士生创业做公司。

张笑宇:创新公司都这样。因为你在做从 0 到 1 的事,成熟公司根本不知道怎么做,所以研究者带人创业很正常。而且社会学也不用思考这事,因为本质上你能做的是让整个国家、整个社会商业环境好一点,让他们能赚到钱。他开始靠割韭菜赚到钱也没关系。

硅谷有句话:Fake it till you make it。这是涌现的典型特征,涌现过程中一定有大量泡沫,没有泡沫的涌现就不是真涌现。但我们能做的事是什么?让每个人收入更高一点,让每个人有更多闲钱买这种服务,然后大模型公司赚到钱机会就更多,你也能用 2 亿美元去 OpenAI 挖人才,你就进步很快。

当年我在深圳待很长时间,深圳当年硬件公司有个“200 块原则”,什么意思?第一代智能硬件有时候就是玩具,没什么用。十年前、十五年前左右,中国硬件公司发现,消费者对玩具心理价格承受上限就是 200 块。200 块以下买个智能硬件当玩具送人可以,200 块以上东西就需要有实用性。

对硅谷这价格是多少?现在大概 150 美元。硅谷供应链跟深圳供应链一样,都是中国主导。但硅谷能承受 150 美元成本,能招到什么样人才,能在里面塞多少技术?那本质是什么?本质因为中国消费者还是没钱。那该做的是什么?该做的是让消费者愿意花 2000 块买这东西,那中国创业者生存环境不是瞬间好十倍吗?然后从这里边,他是教授带学生也好,怎样都不要紧,这里边自然会涌现,自然会淘汰出优秀公司。

唐小引:我之前问过硅谷那边算法科学家,国内基本程序员按百万年薪算顶尖了,但在美国硅谷,百万年薪是应届生水平。这是我之前看到的中美差距。

张笑宇:因为美国还有个优势,它是金融立国,所以资本环境真的强太多。所以这你就没办法。中国我们这民族,Chinese people,真的 hard working,非常聪明,非常有创新性。所以你看到现在是国内华人跟美国华人在竞争。但你如果谈经济回报,因为金融机构进步的一点,就是让每一个天才能以更快速度和更好价格被发现。你想仙童公司成立时,当时整个美国只有四家 VC。20 年前你搞创业公司,第一笔天使轮拿几十万到几百万。今天你可能出来个几十上百亿刀估值的初创公司。那肯定是说,这跑出来后鼓励人创业的经济动力大太多。这就是金融立国自然享受的红利,这差距是你必须正视的,没办法。

唐小引:这是组织部分,接着是人的部分。在您视角下,AI 对人类的意义究竟是什么样的?

张笑宇:还是那句话,人类从来不是一个整体,所以讨论对整个人类的意义可能没什么意义。但如果要给大众,给 99%的朋友讲一句话就是:放弃智力本位,拥抱快乐的虚无主义,就是好好生活,想开点。

唐小引:那当大家面临现实情况,比如自己还背着房贷要养家的情况下……

张笑宇:我是 22 年卖的房。你现在还背房贷,那你真的是……怎么说呢?选择大于努力。抓紧卖,那你能怎么办?因为现在世界不光有 AI,还有去全球化,还有整个经济通缩。通缩环境下负债是非常致命的事。缩减负债,缩减消费。你要习惯通缩时代的生存策略,一定不要负债,一定要缩减消费。之前增长年代的生存策略没有意义了,一定要用通缩年代生存策略过十年时间。所以就是减轻负债,减轻消费,然后苟住,开开心心,这真的有利于你的生存。

真的,因为我知道背几百万房贷那种感觉。经济上行期你还不焦虑,经济下行期你能睡得着觉吗?搞不好已经失眠好几年。所以真的,从这角度讲,真心劝解一句,这事还真不完全是 AI 的事,这涉及到你对宏观经济前景、全球化的判断,这东西就不展开了。

唐小引:这是对大众。对开发者呢?

张笑宇:我知道。我觉得对开发者还是那句话,一个人涌现成优秀创作者而不是超高级人才,没有你想象的难。说句实话,我们人生大部分时间不是被“实现一个科学探索和研究本身”给困住,我们人生大部分时间是被错误认知、没有意义的坚持,还有过于狭窄的视野给限制住。

我在德国念书时,发现每个小城都有一个世界闻名的哲学家或艺术家。当时很怀疑,为什么这么小地方就能搞出这东西。后来你真理解了,人怎么才能创造出顶级哲学作品和诗歌作品?其实很简单,就是上来别走弯路,直接跟最牛逼的人对话。如果你城里边恰好你邻居或社区里有这么一个人,你跟他聊天最有意义。但如果没这种机会,或你一上来就被带歪,你念了十年科举,然后作为大清留学生再去英国学蒸汽机技术,这十年间你的老学究无数次告诉你,原子分子这些在孔孟之道圣贤书里已经写过,应该“中学为体”。

你要花十几年时间先把这些垃圾清除掉,然后从头开始学瓦特或他们的理论。你人生里大部分精力是跟这些垃圾做斗争。所以我有一句话送给开发者:尽早识别哪些问题对你是毫无意义的,是垃圾。你抛弃这些思想包袱——很多传统智慧是思想包袱——轻装上阵,其实你离最优秀开发者没那么远。

唐小引:我理解所有人都会走弯路,哪怕像 AI 领域的辛顿,他其实也走了很多弯路。

张笑宇:是。所以我觉得你不走弯路的一个最简单标准是什么?你发自真心地为你现在学到的每一个东西,每一次尝试和每一次失败都能感到快乐。就像爱迪生发明灯泡尝试 1 万次,他爽了 1 万次,每次都很爽,他根本不是失败 1 万次。今天试试竹子行不行?不行,玩到了;明天试试钢丝行不行?不行,玩到了。你真的以这过程感到快乐,你就离最优秀人才那状态最近,因为这是更接近涌现的状态。

唐小引:我们程序员界,Linux 之父有句话叫“Just for fun”。

张笑宇:就是“Just for fun”地去做事。我写书也是“Just for fun”。

文章来自于微信公众号 “CSDN”,作者 “CSDN”

Related topics

After reading

Join the AINRK community

Read how to join the community and connect with people working in AI.

Community information (opens in a new tab)