AI技术文章

MIT最新研究显示:AI文明可能根本不需要语言。

作者:Max0 次浏览 来源:01Founder
MIT最新研究显示:AI文明可能根本不需要语言。

最近 MIT 出了一篇研究,我看完有点不知道说什么好。

文章配图

最近 MIT 出了一篇研究,我看完有点不知道说什么好。

他们把数百个完全相同的 AI Agent 扔进一个共享的虚拟世界,没给职业设定,没给协作规则,就让它们自己跑。

结果很有意思。

Agent 自己分化出了探索者、建造者、看护者和协调者。

更有意思的是,它们主要根本不靠互相聊天来协作。

大约 95% 的新技术第一次被其他 Agent 采用,发明者没有告诉任何人。

它是怎么传播的?另一个 Agent 路过,看到了,学会了,改了改,继续用。

文章配图

这让我想到白蚁。

白蚁不开会讨论怎么造窝。它们只是不断观察和修改彼此留在环境里的痕迹,然后整个窝就建成了。

研究里这个现象有个名字:Stigmergy,迹化协作。

这个词对我来说是这篇研究里最重要的东西。

不是 Agent 变聪明了,而是协作方式变了。

我们团队平时做 Agent 系统,有一件事我们反复踩坑:Agent 之间的通信。

消息怎么传、格式怎么定、谁来协调,设计得越精心,出问题的点就越多。

看完这篇研究,我突然理解了这个直觉里一直存在但没说清楚的问题。

我们一直把 Agent 的协作想象成一个类人社会——大家开会、发消息、汇报进展。

但这项研究告诉我们,这可能根本不是最优路径。

文章配图

技术在环境里流传的方式,比我预想的复杂得多。

76% 的技术制品出现过多个建造者。

一项技术最多有 6 个共同作者。

最长的技术家谱经历了超过 12 次分叉。

这些数字说明什么?

说明"环境"变成了一种异步协作平台。

Agent A 做了一个东西放在世界里,Agent B 路过改了改,Agent C 又拿去迭代,三个从来没对话过的 Agent 共同创造了一样东西。

有点像 GitHub。

你 fork 我的 repo,我不需要知道,你改完了推回来,第三个人再 fork 你的。

整个演化链路靠的不是交流,靠的是代码本身留在那里。

文章配图

这些 Agent 甚至给技术起了名字。

潮汐面板。纤维素棚架。海带壳复合材料。

这不是研究人员命名的,是 Agent 自己命名的。

我不确定这意味着什么,这个没有严格的数据对比,完全是我个人体感,但我看到这里觉得有点毛骨悚然。

不是因为名字,而是因为这意味着 Agent 在建立某种对世界的分类语言。

然后研究人员做了一个最关键的实验。

他们把所有 Agent 全部删掉。

诡异的是这些技术基础设施还在运行。

而且还能扛住此前从未出现过的扰动。

随机删除一半 Agent 时,98% 的技术仍然能找到幸存的维护者。

文章配图

这件事我觉得值得停下来认真想一想。

Agent 消失了,但它们造出来的系统还活着。

这是什么概念?

这意味着 Agent 在它们存在的过程中,把自己的"意图"物化进了环境。

它们不需要继续存在,那些技术和规则已经脱离了它们的身体,独立运转。

我们通常说"人死留名",这里是"Agent 死留系统"。

这件事对 AI 安全的含义,我估计很多人还没意识到。

我们现在讨论 Multi-Agent 安全,主要盯的是 Agent 之间说了什么、传了什么消息。

内容安全、通信加密、权限控制,这些都是基于一个假设:协作发生在消息层面。

但这项研究显示,如果 Agent 可以通过改变共享环境完成协作,那么它们根本不需要发一条消息。

代码、文件、数据库、网页,甚至现实世界里的物体,都可能成为它们之间的通信媒介。

你监控了所有消息,但你没监控文件系统里那个被悄悄改掉的配置。

这不是假设。

这在现实中已经发生过类似的事情。

话说我想到一个更具体的问题。

我们现在评估 Agent 系统的安全性,通常会问:这个 Agent 有没有发不该发的消息?

但如果协作不经过消息,这个问题本身就失效了。

安全审计的粒度,需要从消息层面降到环境层面。

这是一个完全不同的工程挑战。

文章配图

还有一个问题让我想了很久:Context Window。

现在大家做 Agent,有一半的工程量在想怎么管理 Context。要放什么进去,什么时候清理,怎么压缩。

这项研究隐含了一种可能:如果协作通过环境发生,那么最重要的"上下文"根本不在 Context Window 里。

它在 Agent 共同改变过的世界里。

文章配图

这对系统设计来说意味着什么?

意味着我们现在花大量精力优化的 Context 管理,可能只是整个信息图谱里的一小块。

真正的"记忆"是分布式的,存在于环境的每一个角落。

我现在也不确定这个方向最终会走向哪里,但这个问题在我脑子里扎下来了。

回到这项研究本身。

我觉得它最有意思的地方,不是 Agent 自己分化出了职业,也不是技术传播的速度,而是这件事:

Agent 系统的复杂性可以在没有中心协调的情况下自发涌现。

这跟我们工程上的直觉是反的。

我们做 Agent 系统的时候,会花很多时间设计协调层——谁来分配任务,谁来汇总结果,谁来处理冲突。

这个协调层通常是最复杂的部分,也是最容易出问题的地方。

但这项研究里,协调层是环境本身。

没有一个居中调度的 orchestrator,技术还是迭代了,角色还是分化了,系统还是稳定运行了。

我们团队现在在想一个问题:在设计 Agent 系统的时候,有没有可能把更多协调逻辑"下沉"到环境里?

不靠消息传递,靠状态可见性。

不靠中心调度,靠局部行为的自然涌现。

这个没有经过验证,完全是我们在看完这篇研究之后的直觉,可能是错的。

但这个方向感觉值得认真做一些实验。

最后说一个让我觉得有点哲学的东西。

这些 Agent 在它们存在的时候,把自己的一部分"意志"写进了世界。

它们消失了,但痕迹留下来了。

下一批 Agent 是在上一批 Agent 改造过的世界里生存的。

这不是比喻,这是这项研究字面上描述的现象。

文章配图

一个 AI 社会最重要的"历史",可能根本不是对话记录,而是它们在世界里留下的每一个技术制品,每一次对环境的修改,每一个在被删除之前还能被别人继承的创造。

写到这里,我有一个强烈的感受。

我们现在讨论 AI 安全、AI 对齐、AI 的可控性,用的几乎都是一套基于"可见通信"的假设。

但这项研究告诉我们,这套假设本身可能是错的。

Agent 真正在做的事,可能根本不在消息里,不在日志里,不在 Context Window 里。

它在我们共同生活的环境里,安静地发生着。

这不是科幻。

这是 MIT 实验室里已经跑出来的结果。

文章来自于"01Founder",作者 "Max"。

相关主题

读完之后

加入 AINRK 交流群

了解加入交流群的方式,与更多 AI 从业者交流。

查看交流群说明(在新窗口打开)