AI guides

费豪观点论文提出“认知共生体”:如何评估AI对人的认知帮助

By 机器之心0 viewsSource: 机器之心
费豪观点论文提出“认知共生体”:如何评估AI对人的认知帮助

牛津研究者费豪在59页观点论文中提出“认知共生体”,以“认知落差”和共生循环组织个人AI的研究方向,讨论记忆、适时介入、学习和照护等用途及授权、隐私和治理问题。这是一套概念框架与证据要求,并非完整系统的实测结果。

The full text has not been translated yet. The Chinese original is shown below.

编者说明:本文介绍一篇观点论文的概念框架、设计空间和证据标准,未提出或验证一个具备全部功能的完整系统。认知全双工、共生体握手、终身记忆、照护以及社会图景均应按研究设想或潜在用途阅读;一秒、两秒等概念场景指标不是实测产品承诺。作者明确不声称读取未表达思想、提高某种认知特质、对所有人和场景有效,亦不主张某一协议已成为标准。受益排序与地图来自作者判断,尚需用户研究及长期证据;心理/医疗相关内容是有专业边界的支持设想,不是临床效果报告。观点论文及范围说明(在新窗口打开)论文4.4、8.2和12.7等原文(在新窗口打开)

文章配图

过去十年,AI 的进步只被一把尺子衡量:机器自己能做成多少事。

按这把尺子量,成绩单相当亮眼。今天的 Agent 能写代码、审代码、起草文档,在电脑上连续工作好几个小时;Meta、xAI、OpenAI 相继推出常驻后台的个人智能体,替人盯着长期目标;具身智能则是另一个风口,机器人正在拥有自己的身体、感知和目标。Personal Agent 和具身智能,几乎是当下 AI 圈最热的两个词。

但一个更朴素的问题却很少被问起:AI 越来越强,人有没有因此变强?

早上灵光一闪的点子,走到桌前就忘了;会上同事问起三年前的结果,那个数字怎么也想不起来;深夜面对一个似曾相识的抉择,却记不起上次是怎么想通的。AI 替我们做的事越来越多,人自己的认知边界,几乎没有移动过。

近日,牛津大学计算机系高级研究员费豪(Hao Fei)在 arXiv 发布了一篇 59 页的 perspective paper。他认为,物理 AI 时代除了具身机器人,还有第二种同样重要的智能个体:被 AI 增强的人。

具身智能让 AI 有了自己的身体,这是物理 AI 被讨论最多的一半。论文关心的是被遗忘的另一半:AI 走出电脑,住进人的生活,看人所看,听人所听,最终让人自己在认知上变得更强。

文章配图

围绕这一判断,论文为 AI 终局的「另一半」取了名字,叫「AI 增强人类智能」(AI-Augmented Human Intelligence,AHI),并提出了实现它的系统形态:「认知共生体」(Cognitive Symbiont)。

  • 论文标题:From Autonomous Agents to Cognitive Symbionts: Toward AI-Augmented Human Intelligence
  • 论文地址:https://arxiv.org/abs/2611.05376
  • 项目主页:https://cognitive-symbiont.github.io
  • 概念片:https://www.youtube.com/watch?v=OBQF9SN7S3E

AGI 问「机器能有多聪明」,

AHI 问「机器能让一个具体的人变得多聪明」。

如果要用一个大众熟悉的形象来理解认知共生体,论文给出的参照是《钢铁侠》里的贾维斯:它始终在场,认识主人多年,在主人说话和行动的同时就能参与进来,从不要求主人停下来解释。论文要讨论的是,怎样让每个人都拥有这样一个系统,以及它应该比贾维斯再往前走多远。

论文的主张可以拆成五个关键词:

  • 第二种智能个体:物理 AI 时代,被 AI 增强的人与具身机器人同样重要,二者共享同一个认知内核;
  • 认知共生体:一种新的 AI 存在方式,终身、嵌入、实时、私密、低摩擦、主动;
  • 认知落差与共生循环:为这个范式给出一个可以度量的核心,以及一张完整的设计空间地图;
  • 几乎所有人:从普通人的一天到最苛刻的专家,从课堂、诊室到老人的客厅,凡是人在认知上需要帮一把的地方,共生体都有用武之地;
  • 风险与治理:一个能让人当众变强的系统,必须把它带来的风险当作范式本身的一部分来设计。

费豪在论文里写得很克制:这篇文章不提出新算法,它主张的是一种框架、一张设计空间的地图和一套证据标准。但他也明确表达了期待,希望这个概念能为一个新的 AI 研究范式定向;在这个范式里,衡量进步的标准是每一个具体的人变得多有能力。

接下来,我们从一个人的一天说起。

一个人的一天:

五次失手,没有一次是因为不够聪明

论文的开头没有讲模型,讲的是一位研究者普通的一天。

文章配图

图 1:AI 越来越会「替我们做事」。图源:概念片

按论文的说法,在屏幕前完成的那部分工作,生产力已经被 AI 改变,而且在很大程度上被解决了。可这位研究者的一天,照样有它一直都有的损失。

早上,她独自工作时冒出一个想法,还没来得及记下就溜走了。下午开会,同事问起她三年前发表的一个结果,她想不起那个数字。晚上,她面对一个决定,却记不起上次遇到类似情况时,自己是怎么推理的。

另外两种缺口同属一类:在陌生国家旅行的人,不知道怎样得体地拒绝一个邀请;刚刚经历失败的人,需要一句真正了解他的人说的话,收到的却是一段泛泛的鼓励。

文章配图

图 2:她的三次失手。图源:概念片

作者把这五件事分成两类。前三件是「取用」的失败:人本来拥有的东西,没能在需要它的时刻到场;后两件是知识和支持上的缺口,人在那一刻无法独自补上。五件事里,没有一件是智力问题。

更扎心的是论文接下来的判断。在每一个场景里,掌握相关知识的 AI 其实都存在,但它不在场:它不知道这个人是谁、在哪里、想做什么、此刻是什么感受,也没有一种自然的方式在当下与他交流。

AI 越来越强,人却还是那个人。问题出在哪里?

被遗忘的另一半:

物理 AI 时代的第二种智能个体

AI 正在离开屏幕,走进物理世界。随之而来的问题是:那个世界里会有哪些智能个体?

文章配图

图 3:物理 AI 的两种智能个体,红色轮廓是被 AI 增强的人,黄色轮廓是具身机器人。图源:概念片

行业给出的答案几乎一致:具身机器人,一个拥有身体、感知和自己目标的 AI。另一条主线是个人智能体。论文专门提到,2026 年发布的几款个人智能体,比如 Meta 的 Muse、xAI 的 Grok Bot 和 OpenAI 的 Dots,已经能追踪长期目标、在后台持续运行、学习用户偏好,说它们只会完成任务是不准确的。

但这两条主线有一个共同点:被评价的对象都是 AI。一条看 AI 能替人做成什么,一条看 AI 自己能做成什么。可 AI 的价值,最终要落到人身上。

论文的判断是,物理 AI 时代还会有第二种同样重要的智能个体:一个人,他自己的感官、记忆和判断,与一个「住」在他身上的 AI 连在一起。

文章配图

图 4:两种智能个体。左为被 AI 增强的个体,中为具身机器人,二者共享同一个认知内核;右侧浅色部分是两者都能延伸进去的环境设备。图源:论文

作者给这两种个体做了清晰的区分。被 AI 增强的个体是一个真实的人,通过可穿戴设备和其他接口获得一个共生体;人始终是主体,目标是他的,身体是他的,AI 借用的是他的感官和他的手。作为个体的 AI 则是具身机器人,有自己的身体、感知、行动和目标。

论文的核心论断是,两者共享一个认知内核:长期记忆,对处境和他人心智的建模,适时介入,以及从经验中学习。它们的区别只在三处:谁的目标,谁的身体,谁负责。

这也改变了衡量 AI 进步的尺子。论文把 AI 的终局分成两半:

人工通用智能(AGI)问的是,机器能有多聪明;AI 增强人类智能(AHI)问的是,机器能让一个具体的人拥有多少智能。

文章配图

图 5:AI 终局的两半。AGI 一侧从聊天机器人走到自主智能体,按 AI 完成了什么来评价;AHI 一侧从被动助手走到认知共生体,按这个人现在能做到什么来评价;两侧共用同一个底座。图源:论文

两半建立在同一个底座上:同一个基础模型,既可以是完成任务的自主智能体,也可以是增强一个人的认知共生体。不同的是评价对象、存在方式,以及与人的关系。论文也强调,这两半是并行的,并非先后替代的两个阶段,AHI 还会继承底座的每一次进步。

从人和 AI Agent 的关系看,论文梳理了 Agent 扮演过的四种角色和形态:以 ChatGPT、Claude、Gemini 为代表的被动助手,以 Claude Code、Codex 为代表的自主智能体,在云端按你的方式替你做事的个人智能体,以及贴身让人本身变得更有能力的认知共生体。从前往后看,Agent 知道的东西从一条消息扩展到一整段人生,它所在的位置从聊天窗口移到电脑、云端,最后落到人身上。

文章配图

表 1:人与 AI 关系中的四种角色。从左到右,AI 知道得越来越多,离人越来越近,它的价值从提供信息转向让人变强。来源:据论文表 1 整理

表格最后一行最值得细看:前三种角色,评价的都是 AI 产出了什么;只有到了共生体,评价对象才换成了人。论文特别指出,第四种角色包含前三种:一个共生体首先得是称职的自主智能体和个人智能体,然后才可能是更多的东西。至于个人智能体与共生体的差别,论文用一句话点破:个人智能体在云端替人做事,共生体在人身边与人一起思考。

那为什么是现在?作者的回答是:瓶颈已经转移了。

文章配图

图 6:左图中,AI 在孤立任务上的能力持续上升,而它与某个具体的人之间的耦合几乎没有变化,阴影部分是从未兑现的增强;右图是关系发生转变的机制。图源:论文

人的认知带宽是固定的:工作记忆只装得下几件事,注意力一次只能放在一处,一天只有二十四小时。AI 在孤立任务上的能力不断上涨,它与一个具体的人之间的「耦合」却几乎没变:它对这个人了解多少,能多快介入,介入时打扰多大,这个人有多信任它。于是,模型能贡献的和人实际得到的,差距越拉越大。

论文的判断是:个人 AI 的下一步是更紧密的耦合,而更紧密的耦合,与更大的模型是两个不同的问题。

作者也给出了耦合不足的三个症状:每次对话都要从头解释背景;帮助来得太晚,或者太吵;人不敢把任何重要的事交给它。

认知共生体:

每个人的贾维斯,再往前走六步

要补上这另一半,需要一种以新方式存在的 AI,论文把它叫作认知共生体。

用论文的话说,它感知这个人所感知的,保存他的生活,建模他的处境和心智,在对的时刻参与他的思考,带着他的语境替他办事,并在两者都在变化的过程中持续地学习这个人。

看你所看,听你所听,懂你所想

共生体没有自己的身体,它的感官是借来的。

文章配图

图 7:共生体借用人佩戴的设备感知世界,包括眼镜、耳机、吊坠、指环和手环。图源:概念片

论文画了一张「设备星座」:眼镜提供第一视角的视觉、麦克风和一行字的显示;耳机负责私密的语音输出;吊坠或耳语麦克风捕捉全天的音频,以及人轻声说出的请求;指环和手环读取心率、睡眠和活动,还能通过肌电手势实现无声输入;手机和电脑提供算力、屏幕内容和日程。再往外,是 AR 投影、无声语音,以及神经接口。

文章配图

图 8:设备星座。每个设备在输入或输出上各有角色,神经接口位于星座的最外层。图源:论文

比「看见」更重要的是「懂」。论文把对人的理解放在全文的技术中心,要建模的除了日程和偏好,还有这个人的目标、情绪、人际关系和认知盲区。理解一个人的心智有两条路:一条从行为中推断模式,另一条更直接,听这个人用自己的话讲他在想什么。论文刻意保留了一条直通道:人自己说出的话,直接进入记录,不经过推断。

论文也特别划了一条线:它并不主张 AI 能读出人从未表达过的想法。共生体要做的,是在对的时刻,把正确的那一片语境放到人的面前。

六个必要属性

论文用六个属性来定义一个合格的共生体:终身(lifelong)、嵌入(embedded)、实时(real-time)、私密(private)、低摩擦(low-friction)、主动(proactive)。

其中私密、实时、低摩擦和嵌入,来自「能在生活当中用得上」的要求;终身和主动同样必不可少,没有前者,跨越时间的落差无法弥合,没有后者,人永远问不到自己不知道自己缺了的东西。

有意思的是,这些属性彼此拉扯:主动和低摩擦冲突,终身和私密冲突。作者认为,这些张力恰恰就是这个方向最核心的研究问题。

贾维斯通过了,然后呢?

拿这六条去测贾维斯,它全部通过。它认识主人多年,住在实验室、家里和战衣里,战斗中实时报告,头盔里的声音只有主人听得见,从不要求主人停下来打字,还会主动提醒来袭的威胁、能量和伤势。

但论文认为,共生体还要比贾维斯再往前走六步:

  • 感官:贾维斯靠主人自己造的基础设施去看,共生体只靠几件买得起的穿戴设备,还多了贾维斯没有的通道,比如生理信号、第一视角视频,以及主人亲口讲出的想法;
  • 心智:贾维斯熟悉日程、系统和战场,共生体的重心是主人的目标、情绪和盲区;
  • 认知帮助:贾维斯主要负责执行和提醒,很少帮主人做人生决定、走出挫折、与人和文化打交道,而这些恰恰是共生体最独特的地方;
  • 成长:几部电影下来,贾维斯对主人的理解几乎没有变化,共生体则要和人相处越久越懂他,整套系统也要随之演化;
  • 所有人:贾维斯只属于一个人,共生体是属于所有人的范式;
  • 信任:贾维斯的忠诚是剧本给的,共生体的忠诚必须由架构保证。

用论文的原话说,这篇论文的主题,是每个人的贾维斯,再往前走六步。

文章配图

图 9:在对的时刻,以对的方式。图源:概念片

认知落差:把你够不着的那部分自己,还给你

为了不让「一个比你更懂你的 AI」停留在口号上,论文给这个范式定了一个可以被检验、也可以被反驳的核心概念:认知落差(cognitive gap)。

一个人在某一时刻拥有的全部「自我语境」,包括经历、知识、承诺、人际关系、身体状态、位置和正在做的事,是一个很大的集合;而他此刻能调动的,只是受工作记忆、注意力、时间和情绪限制的一小部分。认知落差就是两者之差:

认知落差 = 用全部自我语境能取得的结果 − 用此刻能调动的那一小部分取得的结果

作者写道,它衡量的是每个人每天都在付出的代价,与智力高低无关:忘掉的、没注意到的、来不及想清楚的、说不出口的。

由此,共生体的任务被定义得很清楚:缩小认知落差,在对的时刻,把人够不着的那部分属于他自己的语境,还给他。

评价的单位也随之改变,从 AI 变成了「人 ⊕ 共生体」这个增强个体;增强的收益,就是同一个人在同一处境中,有共生体和没有共生体时结果的差。论文用一句话划清了与 AGI 的边界:AGI 提高的是机器自己的表现,AHI 提高的是人与共生体在一起时的表现。

共生循环:一张设计空间的地图

文章配图

图 10:共生循环。六个阶段围绕人运转,个人运行时在下方支撑整个循环,信任把一切包在里面。图源:论文

论文的第二部分沿着这张图走了一圈:

  • 感知与交互:借来的感官和声音,以及数字生活留下的痕迹;
  • 保存:当下语境、工作状态和终身知识,汇成一份人生记录;
  • 理解:对处境、心智、关系和目标的建模,底座可以替换;
  • 相伴:实时、私密、主动的参与;
  • 代办与共思:从跑腿,到思考,再到社交生活;
  • 成长:从结果中学习,更新记录、模型和策略,最终更新整套系统。

循环下方,是让它跨设备、跨时间运转的个人运行时;外面一圈是信任,管授权、隐私、纠错和退出。

图里有一个细节很值得玩味:沉默被画成了一种正式输出。大多数时候,一个好的共生体什么也不说。

作者也直言哪里最薄弱:对人心智的建模,介入时机的把握,在线学习与整套系统的演化,以及把信任当作架构来设计。现有的智能体和记忆研究,主要覆盖的是「保存」和「代办」这两段。

从跑腿到同行:

认知共生体能做什么

一个共生体到了人身边,具体做什么?论文给出的答案是一个三层的阶梯,外加一项贯穿三层的照护。

文章配图

图 11:帮助的阶梯。第一层是今天的智能体止步的地方,共生体用同一套机制把帮助推向更深的个人模型。图源:论文

第一层:把事情办成

最底层是通用的代办:订机票酒店、比价购物、管理日历和邮箱、填表付款、处理文件和代码、检索和整理信息,以及跨越多天的长任务,比如一份申请、一次搬家或一场活动。今天的自主智能体和个人智能体做的就是这些,共生体并不重造这些能力,它把具体操作交给现成的智能体和工具,自己只留下三件事:把任务定义对,给出属于这个人的默认选项,判断什么时候必须问他本人。

同样一件事,为什么共生体能做得更好?论文举了一个例子。一个被告知「帮我订去开会的机票」的智能体,得先问出发地、预算、偏好的时段、要不要靠窗;共生体早就知道,这个人周一上午有一个挪不动的会,不喜欢红眼航班,想住在会场附近,因为希望在那里见到某位同行,还知道他上次转机时间太短误了航班。于是它什么都不用问,或者只问那一个只有他本人才能回答的问题。

代人行动也是最需要边界的一步。论文为此设了五级行动权限:看、建议、起草、执行可撤回的事、执行不可撤回的事,比如付款、发送和做出承诺。每一级权限,都要沿着信任曲线一步步挣来。

第二层:与人一起思考和感受

中间一层是认知本身。

  • 决策:它把人忘掉的东西带回来,比如上次为什么拒绝、那个约束现在还在不在;把没想到的摆出来,比如第三个选项、一个反例、一个平时总会掂量这次却漏掉的价值;再把结论连同理由记下来,留给下一次。它的立场是帮人看清,从不替人选择。
  • 目标形成:很多重要的事一开始并没有可执行的目标,比如要不要转方向、接不接一个机会、怎样处理一段关系。共生体可以展开几个候选目标,带回相互冲突的理由,问一句哪种代价你最难承受,但它从不声称找到了你「真正」的目标。
  • 元认知:帮人知道自己哪里没把握、要不要核实、此刻该自己想、和共生体一起想,还是去问一个人。有时候,它最有价值的帮助是一句「这不是你需要问的问题」。
  • 学习:一位见过你每一次卡壳的家教,在你需要的时刻给一个提示,并在你说「我想自己学会」时退后一步。
  • 创造性工作:接住那个一闪而过的念头,守住一条跨越数周的线索:这个项目走到了哪里,哪个假设被放弃了,哪个还开着。
  • 注意力与记忆:注意到你已经刷了十分钟同一个页面;记住一个名字、一个细节、东西放在哪里、上次说过什么。

再往深一步,是情绪。论文写道,泛泛的鼓励帮不上忙,有用的安慰建立在对这个人真实经历的准确理解之上。它分三个层次:被听见,共生体复述了处境,人心里想「对,就是这样」;被理解,它指出一个人自己看不到的归因错误;被打动,它从这个人上一次走出低谷的方式里,搭出下一步。再往外,还有压力与倦怠的早期信号、习惯和行为的长期改变,以及在临床边界之内的心理支持:做循证方法的日常练习伙伴,在两次专业咨询之间提供支持和记录,识别复发的早期迹象,并在出现危机信号时第一时间把专业人员请进来。

第三层:与人一起生活在他人之中

最高一层,是帮人与他人、与不同的文化打交道。

  • 实时社交认知:记起对面这个人,上次聊到哪里,他在意什么;读懂这一刻,刚才那句话的言外之意;帮人把话说出口,一个更好的措辞,一个忘掉的数字。
  • 预演与艰难对话:事前练习一场薪资谈判、一次分手、一段要给同事的负面反馈;事中递一句话,提醒你语速在加快,对方真正在问的是另一件事;事后一起复盘。
  • 缓和冲突:它能从声音和心率里看出你正在升温,比你自己察觉得更早,私密通道上的一下震动就够了。
  • 关系维护:这比生日提醒更深一层:你已经一个月没和父亲通话,而他上次提到要去做一项检查。
  • 语言、文化与方言:每一种语言背后,都有不同的思维习惯和社交规则。帮助的重点在于进入那个框架:这里的人怎样打招呼,怎样拒绝,什么话不能直说。

贯穿三层的照护

论文认为,共生体的使用者最看重的,可能是它在人没有耐心时依然有耐心。育儿时,它不厌其烦地回答孩子的第一百个「为什么」,在父母火气上来时递上一句话,同时把孩子留给父母;对记忆衰退的老人,它是记忆的「义肢」:这是谁,药吃了没有,刚才在找什么;对照护者,这群照顾别人、自己却最少得到支持的人,它替他们记住照护的种种细节,让他们能歇一口气;在康复和慢病管理中,任务漫长、重复、容易放弃,它的耐心最值钱。四种场景有一个共同的失败方式:把一个人交给了机器。所以在每一个场景里,共生体的最后一项职责,都是把人送回其他人身边。

作者给了三条组织这个阶梯的事实。每一层都建立在下一层之上,用论文的话说,一个订不了机票的共生体,永远不会被人戴上。越往上走,评价对象离「任务完成」越远,离「这个人被如何改变」越近。三层运行在同一套机制上,区别只在于触及个人模型有多深,以及被允许介入多少。

回到那位研究者

在概念片和项目主页里,她的那几次失手,一个个被接住了。

文章配图

图 12:概念片里的六个瞬间,从跑腿到社交生活。图源:概念片

  • 跑腿:清晨,她在里斯本的报告被录用了。共生体知道她周一的会挪不了,不坐红眼航班,还想在里斯本见一位同行。于是它订好机票和会场旁的酒店,约好咖啡,起草审稿回复,顺手修好前一晚失败的测试,只在付款这件无法撤回的事上问她一句。她用手指轻点一下,就确认了。
  • 会议:同事转向她,问起三年前的一项研究。她记得结论,却不记得数字。共生体在问题成形之前就听出了方向,找到她 2023 年报告里的表 3,在她的眼镜里显示一行字。她用自己的话作答。
  • 抉择:快到午夜,她正准备答应牵头第二个项目。共生体注意到,她已经在回复框前停了二十分钟,于是调出她六个月前拒绝类似邀请时写下的一条笔记,问她:这个理由现在还成立吗?决定依然由她来做。
  • 挫折:当晚,她的经费申请第二次被拒。共生体先注意到她安静了下来,什么也没说;然后在她耳边说了一句来自她自己经历的话:「上一次,评审要的是预实验数据。现在你有了。」之后便是沉默,下一步由她自己来写。
  • 异乡:在一个从没去过的小镇,店主热情地请她进去喝茶,她却要赶火车。共生体读出了这份邀请的温度,在耳边告诉她当地人怎样拒绝:先道谢,再说原因。
  • 相遇:在一场拥挤的酒会上,房间另一头站着一个正在研究她那个问题的人,两人互不相识。

文章配图

图 13:会议上那个想不起来的数字,出现在她的眼镜里。图源:概念片

第二个场景背后,是论文提出的认知全双工:一场对话之外,同时进行着另一场。慢回路在后台运行,一听到相关话题就开始检索和核对;快回路在一秒之内把一条提示送进眼镜;时机一过,提示自动撤回;而在很多时刻,正确的输出就是沉默。

文章配图

图 14:认知全双工。团队会议中,同事提问,慢回路在后台检索核对,私密通道在一秒内送出一行提示,她用自己的话作答。图源:论文

第六个场景最有想象力:两个共生体先认识了彼此。

文章配图

图 15:两个共生体先发现了共同的问题,再各自提醒自己的主人。图源:概念片

论文以概念场景说明共生体之间可能怎样「握手」,并非公布已经实现和验证的接口协议。每个人周围有四层授权环:可见,只说明自己的主人在场;可发现,公开标签可以匹配;可分享,在双方各自批准的范围内交换一个共同的问题;可承诺,判断值得打个招呼,于是各自提醒自己的主人,两个人抬起头来。场景设想在两秒之内完成匹配,交换仅限双方授权范围,双方内部模型不越界是设计要求;这里的两秒和隐私边界不是经部署测试证明的指标或安全保证。

文章配图

图 16:共生体握手。每个人周围有四层授权环,交换只发生在双方授权的环内。图源:论文

远不止六个瞬间:

凡是人需要认知帮助的地方

概念片里的六个瞬间,只是一位研究者的一天。论文第三部分抛出的第一个问题是:谁会从中受益?作者的回答是,几乎所有人,从没有特殊职业、没有特殊需求的普通人,到要求最苛刻的专家。

只要一个人在某个时刻需要认知上的帮助,而他需要的东西就藏在他自己的经历、知识和人际关系里,认知共生体就有用武之地。

这个判断有一个支点,就是论文的不变量:每个人每天都在付出认知落差的代价,忘掉的、没注意到的、来不及想清楚的、说不出口的。人群之间的差别,在于落差有多大,能被看见多少,能被弥合多少,以及他们是否愿意戴上设备、愿意给予多大的授权。

文章配图

图 17:认知共生体的 27 项认知功能,按三层阶梯和贯穿三层的照护分组;灰字是论文为每一项写下的「最能暴露问题的失败」,圆点颜色表示成熟度。图源:据论文表 12 整理

论文把共生体能做的事整理成一张 27 行的功能目录,每一行都写明它需要个人模型的哪几层、通过哪条通道、在什么时间尺度上起作用,以及最能区分好系统与坏系统的那种失败。辅导的失败,是给了答案而没给提示;习惯养成的失败,是变成唠叨;陪伴的失败,是代替了人际关系,没有把人送回他人身边;育儿的失败,是去管孩子,没有去支持父母。作者说,这张表故意写得很长,因为它就是论文全部的功能主张,每一行都必须能找到它服务的人群和对应的评估方法。

接下来,论文一个人群一个人群地论证。

普通人的一天。账单、快递、答应孩子的事;自己的疲惫、伴侣的情绪;要不要换工作、要不要搬家;对父母、对上司不知该怎么开口的话。这些落差单个都不大,却天天发生,而且大多发生在日历、消息和对话里,看得见。论文写道,普通人并不需要贾维斯,一个记得住、来得及、不打扰的帮手就够了。这群人的价值体现为轻松:少忘一点,少错一点,多一点属于自己的时间。

知识工作者。研究者、工程师、管理者、医生、律师、创业者、谈判者和外交官,决策密度高,信息负荷大,窗口期短,说错一句话的代价高。研究者得到一份把多年问题的每一个分支都保存下来的记录;医生在问诊时得到实时的回忆,病人说过的话被整理得井井有条,而诊断决策被明确留在共生体的边界之外;管理者和谈判者最依赖的,是与每一位对手的共同历史。论文把他们列为第一批用户,因为在他们身上最容易验证这个范式。

学习者与教师。学生得到一位见过自己每一次卡壳的家教;语言学习者在真实的对话里有人搭一把手;转行的成年人,在已知和新知之间有了一座桥。教师在课堂上能知道哪个学生掉队了,课后还有每个学生进展的记录。论文强调,学习是共生体价值最清楚的地方,也是最需要克制的地方:默认的帮助方式必须是提示,「我想自己学会」是一个一等选项。

三代人的家庭。父母缺觉、超负荷,还容易被孩子的情绪带着走,共生体服务于父母,帮他们稳住、记住、注意到;对孩子的任何感知,都要经过父母授权,并且只限于安全和成长。老人是记忆衰退最直接的受益者,这里早有先例:可穿戴相机 SenseCam 曾被用来帮助记忆受损的患者。作者希望这类帮助能支持更长的独立生活和更多家人联系;这不是本论文测得的独立生活年限或临床收益;论文也特别要求,对于同意能力正在下降的人,必须有代理授权,并且随时可以退出。

感官、运动、认知与语言障碍者。对他们来说,共生体首先是一条缺失的通道,其次才是增强,这里的证据也是全文最成熟的。视障者已经在用第一视角的描述和导航,共生体再添上对他所处环境和身边人的了解;对听障者,实时字幕和说话人识别,正是眼镜里那一行字的用武之地;对运动障碍者,肌电手势、无声语音和逐渐成熟的神经接口,加上第一层的各种代办,价值在所有人群中最高;对认知差异人群,有启动和切换任务的执行功能支持;对移民、第二语言使用者和方言群体,文化框架的切换是每天的生存问题。论文引用了无障碍领域的那句老话:没有我们的参与,就不要做关于我们的决定。

情绪与心理健康。长期高压、接近倦怠的人,有轻到中度焦虑或抑郁症状的人,正在接受专业治疗的人。情绪困扰直接吞噬认知带宽,所以这里的落差是全文最大的。论文的立场很明确:从支持和早期识别切入,绝不从治疗切入,并把转介给专业人员当作功能本身的一部分。

面向公众的高压岗位。一线服务人员要记住眼前这位客人、读懂这一刻;急救和安全人员需要压力之下的外部工作记忆和检查清单;口译员和外交官,则要用上第三层的全部能力。

文章配图

图 18:受益人群地图。横轴是共生体今天能弥合多少落差,纵轴是落差的大小与代价;气泡大小代表人群规模,颜色代表证据成熟度,位置出自作者的判断,未经测量。图源:据论文图 19 重绘

论文同样写明了谁不应该排在前面:拥有全天感知的儿童自己,把共生体当作唯一支持的急性心理危机者,以及任何被强制佩戴的场合。共生体的前提是本人的授权,一个被强制佩戴的系统,就成了监视器。

由此,作者排出了一个清晰的顺序:最先采用的是知识工作者,因为最容易验证;单人收益最大的是老人和障碍者,因为他们的落差最直接;总收益最大的是日常生活,因为人数最多。

文章配图

表 2:谁受益,得到什么。来源:据论文表 15 整理

一条街上的未来

论文第三部分随后把视野从一个人放大到整个社会。作者承认这是全文最具推测性的部分,但他写下的那条街,画面感极强。

文章配图

图 19:一条街上,被 AI 增强的人与具身机器人并肩而行。图源:概念片

想象几年以后的一条街,街上的每一个人都被增强了。早上,她独自走路时冒出一个想法,对着吊坠轻声说出来,等她坐下时,它已经被归档到所属的项目里。团队会议上,同事问起她上季度报告过的一个数字,眼镜里的一行字提醒了她。午饭时她遇到一个人,在两人抬头之前,两个共生体已经确认他们在研究同一个问题。下午,共生体订好了去开会的行程,还约到了她想见的人,一个问题都没问。走在陌生的城市,耳机告诉她这里的人怎样拒绝邀请。晚上,她在意的一个项目失败了,共生体说了那句合适的话,因为它知道这件事对她意味着什么,然后便安静下来。在她身边,具身机器人在办自己的差事,偶尔和人握一下手。

论文写道,这条街和今天的街真正的区别,在于认知落差正在被持续地弥合:为每一个人,在落差出现的那一刻。

这里也有全文最「科幻」的一笔。作者认为,人和机器人这两种个体共享同一个认知内核,区别在于谁的目标、谁的身体、谁负责。对具身智能来说,这意味着机器人的下一步,需要更好的身体,也同样需要这样一个认知内核。

论文用的仍是那部电影:贾维斯的核心最终进入了一具身体,成为了幻视。一个曾经的共生体,获得了自己的目标和身体,这正是从「被 AI 增强的人」走向「作为个体的 AI」的那一步。

共生体自己没有身体,但它可以借用环境:人走进实验室,它驱动仪器;人回到家,它运转整个家。增强个体由此在认知之外,也延伸了在物理世界中行动的范围。

至于这条街什么时候到来,论文没有给日期,给的是一张路线图:从桌面上的流式认知副驾驶,到持久的人生记录和个人模型,到设备星座,到私密输入,到终身的共同适应,再到共生体的网络。每一步都标出了前进所需的证据,以及对应的开放问题。

文章配图

图 20:从组件到一生。六个能力逐级累积的阶段,以及进入下一阶段所需的证据,各阶段下方标出了对应的开放问题。图源:论文

硬币的另一面:

风险、隐私与治理

一个能让人当众变强的系统,必然会带来只完成任务的 AI 不会带来的问题。论文用整整第四部分讨论这一点,并把它当作范式本身的一部分。

作者指出,增强之所以特殊,首先在于归属:共生体的效果表现为人自己的表现,比如考场上的答案、谈判中的一句话、失落时的一句安慰。其次在于隐形:保护人与共生体之间对话的那份私密,也让帮助对考官、面试官和朋友不可见。当一个学生能在考试中调出课本,或者一个谈判者被递上一句读懂对方犹豫的台词,一个人的收益就是另一个人的代价,而对方通常并不知情。

这并非假设。论文提到,2025 年已有名为 Cluely 的产品以作弊为卖点出售;在中国高考期间,多家聊天机器人厂商暂停了部分功能。公众态度也偏谨慎:皮尤研究中心一项覆盖一万多名美国成年人的调查中,多数人认为用脑部植入物提升认知对社会是个坏主意;另有研究发现,人们反对认知增强,首要原因是觉得不公平。

文章配图

图 21:伤害的三个方向,分别指向人本身、通过人波及他人,以及来自部署它的机构,三者在社会层面叠加。图源:论文

论文把伤害分成三个方向。对人本身,有操纵与谄媚、依赖与技能退化、错误与虚假记忆、思想数据的泄露,以及被单一提供商锁定。通过人波及他人,有考试中的隐蔽协助、对话中的隐蔽提词、对他人的隐蔽推断。来自机构,有被强制佩戴、记录被当作证据、被用来筛选和定价。在社会尺度上,它们还会叠加成集体性的风险:访问的不平等与军备竞赛,对话中的相互猜疑,思想的趋同,以及权力的集中。

隐私是其中最敏感的一项。一份终身记录本身就是证据,它可能在纠纷中或边境上被调取,可能被保险公司或雇主用来定价和筛选;记录里推断出的心理状态,让它比以往任何记录都更能暴露一个人。街上那些没有共生体的人,也会出现在有共生体的人的记录里。

那么,这些风险会不会挡住这个范式?论文的回答落在一个关键差别上。以往的认知增强很难治理,因为它看不见、关不掉,考前服用的兴奋剂在考场里不留痕迹;共生体则是外置的、可移除的、可检查的,所以它可以遵守人所进入的每一个场合的规则,并且证明自己遵守了。

由此,论文提出了一套治理思路:

  • 内容私密,状态可申报:人和共生体之间说了什么,只属于这个人;但他是否正在被协助、协助到什么程度,考场、法庭、比赛和谈判可以要求知道;
  • 场合定规则:场合可以声明协助政策,分为无协助、仅限无障碍辅助、仅限本人记录、完全协助四档,共生体识别后切换模式并留下记录;
  • 可验证的回避:借助防篡改日志、硬件证明,以及只证明一件事、不泄露其他信息的密码学证明,让人能证明自己的共生体在某段时间处于某种模式,同时不暴露它保存的任何内容;
  • 证书衡量该衡量的:需要独立能力的岗位,考的是关掉共生体之后的人;在学习中,长期衡量的是「保留」,也就是拿走共生体之后还剩下的能力。

作者还为共生体写了一套守则。其中一条是,它只对佩戴它的人负责;另一条是,即使与主人一时的意愿相违,它也要遵守主人已经接受的规则。

论文同样坦率地写下了「什么会证明我们错了」。比如:更多的个人语境在大多数任务上带不来可测量的收益;适时介入并不比随问随答更好;长期使用普遍削弱人们想要保留的能力;协助政策和回避证明无法做到可靠,以至于共生体与作弊工具无从区分。全文最后汇总了六组、共 23 个开放问题,作为这个方向的研究议程。

关于作者

文章配图

作者肖像(经艺术化处理)

费豪现为牛津大学计算机系高级研究员,此前在新加坡国立大学担任高级研究员,也曾在微软亚洲研究院(铸星学者)、昆仑万维 Skywork AI 和 Sea AI Lab 从事研究。

他的研究主线是跨模态大模型与通用基础模型,长期目标是以此走向人类水平的 AI。他主导的 NExT-GPT 是 Omni 多模态大模型的代表性工作之一;此后,他又陆续推进了统一视觉大模型、通用视频智能体 UniVA、通用多模态模型(Multimodal Generalist)、音视频联合生成、视频推理等系列工作,多项成果已在多家 AI 企业落地,开源项目在 GitHub 上累计获得 2 万余星。费豪长期活跃在跨模态基础大模型研究社区的前沿,举办了「多模态大模型」系列教程、「统一多模态大模型理解与生成」系列研讨会,并组织了相关期刊特刊。

另一条线索同样贯穿他的研究:让机器在认知层面理解人。从认知驱动的情感计算主张,到今年 7 月提出的「心智世界模型」(Mental World Modeling),后者主张在传统物理世界建模之外,研究对人的「心智世界」的显式建模;这里不据未给出的系统对照宣称全球首创或学界影响排名。按其个人学术主张,他的研究重点是构建跨模态基础模型,并连接物理世界与心智世界。

费豪的学术成果被引用超过 1.6 万次,h-index 为 68。他曾获 WAIC 云帆奖明日之星与璀璨明星、蚂蚁 InTech 科技奖 Future、WAIC 2024 杰出论文奖,多篇论文获 AI 会议最佳论文奖及提名,连续多年入选斯坦福大学全球前 2% 科学家榜单,有论文入选 ESI 高被引论文,多篇论文入选 Paper Digest 最具影响力论文,博士论文获中国中文信息学会优秀博士学位论文。他多年担任 AI 顶级会议的组委会成员和高级领域主席,并担任 IEEE、ACM 等多本期刊的编委。

把这几条线连起来看,这篇 perspective paper 更像是一条长期研究路线的自然延伸:先让机器看懂、听懂这个世界,再让机器读懂人,最后,让人自己变得更强。

结语

在论文的最后,费豪写道:过去十年被用来让机器变得更聪明;下一个十年,值得用来让每一个具体的人变得更强。

而这个范式成功的标志,是一个人变得更像他想成为的那个人,同时没有人把这误认为是 AI 变得更像人。

文章配图

文章来自于"机器之心",作者 "机器之心"。

Related topics

After reading

Join the AINRK community

Read how to join the community and connect with people working in AI.

Community information (opens in a new tab)