AI news

深度|前OpenAI CTO、Thinking Machines创始人:未来并不是命中注定的,人类和AI系统都还手握方向盘

By Z Potentials1 viewsSource: Z Potentials
深度|前OpenAI CTO、Thinking Machines创始人:未来并不是命中注定的,人类和AI系统都还手握方向盘

Z Highlights: 未来并不是命中注定的。人类和AI系统的手都还放在方向盘上,我们仍然可以协作。 最先进的AI系统,可能会成为人类有史以来最不可思议的思想工具;但这需要非常有意识的研究和产品工

The full text has not been translated yet. The Chinese original is shown below.

文章配图

Z Highlights:

  • 未来并不是命中注定的。人类和AI系统的手都还放在方向盘上,我们仍然可以协作。

  • 最先进的AI系统,可能会成为人类有史以来最不可思议的思想工具;但这需要非常有意识的研究和产品工作。

  • 品格和价值观非常重要,但道德并不是全部。治理结构和决策机制不应该取决于某一个人,而应该有制衡、透明度和共享工具。

本次访谈由Bloomberg主持人Emily Chang对话Thinking Machines Lab联合创始人兼CEO、前OpenAI CTO Mira Murati。访谈发生于Bloomberg Tech 2026,讨论交互模型、人机协作、AI治理以及前沿AI实验室的未来。

01 交互模型:让人类和AI真正协作

Emily Chang:我们先从今天以及你们正在做的事情谈起。你们正在Thinking Machines开发交互模型,也就是你们所说的“让人类始终参与其中”的模型。这到底是什么意思?

Mira Murati:在过去一年半里,我们一直在为建立一家前沿AI实验室打基础。而结合我们特定的研究重点,交互模型可以说是我们对于“人类与AI协作”这一核心押注的首次集中展示。我们之所以创办Thinking Machines,正是因为我们想建立一家真正专注于人类与AI协作的前沿AI实验室。当然,这件事包含很多层面,也需要一些具体的研究押注。但我们希望通过交互模型,展示我们在其中一个最初研究方向上的工作。

交互模型是一种新的模型类型。今天我们所使用的大多数模型,它们基本上都是“轮次式”的。也就是说,你说一句,它说一句;然后在你给出提示、告诉它你想做什么之后,它就会离开当前互动去“思考”。而当它在思考的时候,它几乎就像又聋又瞎一样,无法感知外界正在发生的其他事情。

接着轮到你说话。而当你说话的时候,它也并不能真正实时感知你是如何说话的。相比之下,人与人之间的互动是非常丰富的。当我们沉默、思考、彼此交流时,互动中其实包含了大量信息。

因此,交互模型能够捕捉这些细微差异。它们不是基于轮次的,而更像是基于时间连续展开的互动:模型会持续接收音频、文本、视频等输入,同时持续给出输出。现在,我们把这个过程切分成20毫秒的小片段。这样一来,模型就能够捕捉到诸如打断、同时说话这类现象,并真正在人类和机器之间创造出一种丰富的、高带宽的互动。我们认为,这对于真正实现能动性,并随着AI不断发展,让人类更深地参与到这个循环之中,是非常关键的。

Emily Chang:你们基本上是在从零开始打造一个AGI实验室。OpenAI、Anthropic、Google、Meta都已经有了明显的先发优势,而且它们都在竞相构建更智能的模型。那么,你们正在押注的、而它们没有押注的东西是什么?你认为他们低估了什么?

Mira Murati:首先,推动AI前沿的发展是一件极其正和的事情。我也认为,在技术发展上,世界有足够的空间容纳许多不同的视角和路径。多元性是好的。拥有多元的技术建构方式、不同的产品形态,对世界来说是一件好事。当然,这是一件相当困难的事情。所以这也是为什么真正的参与者并不多。进入这一领域的门槛非常高。但如果说要创造出某种差异化的东西,我确实认为这里仍然有很大的空间。

我一直非常热衷于推动前沿AI系统的发展。这其中蕴含着改变文明的巨大潜力。但这种结果并不是命中注定的。我们如何构建这些系统、如何部署这些系统,真的非常重要。到目前为止,一个做得还很少的方向,是把机器智能带到更接近知识所在的位置。推进前沿AI系统有一条路径,是非常强调自主性的。它并不太依赖现实世界中的复杂性,也不太依赖人类日常经验中的那些混乱与不确定性。这确实是一种很快推动AI系统变得更加自主的方式。自主性当然是其中的一部分,而且是非常重要的一部分。但一个缺失的部分,也是我们目前还没有投入太多工作的部分,是更加关注人的意图,关注互动中的复杂性,让人们更多地参与进来,并且在概念上把前沿AI系统建设得更像“思想工具”。最先进的AI系统可能会成为人类有史以来最不可思议的思想工具。

那么,它如何改变我们的思考方式?我们仍然在思考,但它正在改变思想本身的性质,改变我们所思考的对象。其实,这一部分对我们来说并不陌生。自人类历史开端以来,技术就一直在深刻改变我们思考的内容。比如语言、文字、数字。你可以想象一下,如果我们必须用罗马数字来做乘法,那会多么痛苦。后来我们发明了今天所使用的数字体系,这就开启了一整个数学领域。一个孩子都可以很快地做数学运算。也就是说,它使非常具体的新思维方式成为可能。这正是我们面前的机会:扩展我们能够思考的内容,让我们拥有新的、具体可把握的思考对象。但这需要在研究和产品方向上非常有意识地投入工作。

02 从OpenAI到Thinking Machines:奔向自己的技术信念

Emily Chang:我在2023年初采访你时,ChatGPT刚刚改变了一切。当时你是OpenAI的首席技术官。我采访过的一些人说,你基本上是在实际运营整个公司。所以,当你后来离开并创办Thinking Machines时,你是在奔向某个目标,还是在逃离某些东西?

Mira Murati:我非常确定,我是在奔向某个东西——当然,是在我弄清楚那个东西究竟是什么之后。但我在OpenAI的经历非常了不起。那是一段极其宝贵的经历。我非常幸运,能够和世界上一些最投入、最有才华的人一起工作。这是非常特别的事情。我很感激那段经历。后来,我逐渐形成了自己对于这项技术应当如何发展的看法,而且是非常强烈的看法。当你已经对一件事形成如此坚定的理解之后,还能有机会从零开始重新做一件事,其实是非常罕见的。这是一种难得的特权。拥有Thinking Machines这样一家公司,给了我们一个机会:我们可以专注于自己最有信念的方向,并围绕这种信念来建设和组织整家公司。

Emily Chang:带我回到那一年OpenAI的董事会危机。那一年晚些时候,你在宣誓作证时说,你曾担心OpenAI面临灾难性的解体风险。你也对Sam Altman的领导方式提出过担忧。但在那个时刻,你必须采取行动。现在回头看,你认为自己当时做对了吗?

Mira Murati:那是一段非常紧张的时期,情况也非常复杂。我相信很多人都经历过那种看起来几乎不可能处理的局面:你必须在很短的时间内做出非常艰难的决定。而这种复杂性中有一部分,在外界看来,好像是一夜之间突然发生的。但对我来说,这背后其实有多年的思考,包括关于使命、治理,以及如何建立一个能够承担责任、构建持久而具有变革性技术的团队。

这个组织中长期存在着很多复杂性。我们对这些问题思考了很久。而这一次发生的具体事件,这个急性爆发的时刻,在时间上被压缩得非常密集,也非常紧张。当董事会向我征求反馈时,我分享了我的反馈,而且我仍然坚持那些反馈。当他们做出决定,并要求我出任临时CEO时,我也这样做了。而当我意识到他们的决定可能会给公司带来灾难性的后果,事情可能会分崩离析时,自己必须非常迅速地行动起来。虽然从表面上看,一切都显得非常混乱,

但在每一个具体时刻,我都很清楚自己必须做什么。因为我最在乎的是使命,是使命的延续,是那些人,是那个团队。这并不是一个抽象的东西,而是真实的人:是我共事了很多很多年、并且非常在乎的人。而这一切当时都有可能崩塌。所以对我来说,我必须做什么是非常清楚的:我需要创造并提供连续性和稳定性,帮助把Sam带回来,恢复秩序,让团队重新就位,之后才能交付GPT-4o和o1。正是这一原则让我非常清楚自己该做什么。

回头来看,自己本应该在理解过渡计划这件事上停下来多想一想。当然,以事后诸葛亮的角度来看,当时其实没有任何真正的过渡计划,也没有太多关于透明度、如何让团队跟上、如何提供连续性的思考。回头看,我确实应该在这一点上停下来多想一想。

Emily Chang:很有意思。Helen Toner曾作证说,前OpenAI董事会成员认为:“Mira当时在等着看风向会往哪边吹,但她没有意识到,她自己就是那阵风。”你觉得,如果你当时没有做你所做的那些事,会发生什么?

Mira Murati:OpenAI很可能会解体。

Emily Chang:那起案件后来因为技术性原因被驳回了,所以法院从未裁定OpenAI的领导者是否违背了它的使命。那么,构建世界上最强大技术的人,他们的品格到底有多重要?也就是说,谁的手放在那个控制旋钮上,这有多重要?

Mira Murati:人的正直、品格和价值观非常重要。因为每天你都必须做出大量决定,很多是非常细微的决定。你必须信任你的团队,相信他们会做出正确判断。我确实认为,人们对这一点有很多关注,这很好。但关注较少的是制度设计、决策机制、透明度,以及如何提高人们自身的能动性,让他们能够真正为自己做判断。也就是说,不应该总是由某个权威来告诉你:“这个是安全的,这个是好的”,然后给它盖一个批准的章。相反,每个人都应该能够自己权衡,判断什么对自己有效、什么适合自己。

我们今天构建AI系统的方式仍然非常集中化。这在某种程度上是过去发展路径的遗产,因为过去我们没有真实世界中的数据和经验。推进AI的唯一方式,某种意义上就是在孤立状态下、在真空中进行。但今天已经是一个不同的时代了。我们现在可以从真实世界中的能力表现、张力和局限中学到很多东西,并利用这些数据和信息来实际引导研究方向。这使人们能够真正为自己思考。人们经常会问我关于ChatGPT的问题,问它产生了什么影响。当然,从技术角度来看,它非常了不起。但ChatGPT最重要的影响,是把AI带入了公众意识之中。人们通过与它互动,开始理解AI到底是什么,而不是仅仅被别人告知AI能做什么、它的能力和局限在哪里。

03 AI治理:不能只依赖个人品格

Emily Chang:AI这个时代对一位领导者提出了什么要求?我们现在应该信任那些掌握权力的领导者吗?我们应该信任Sam Altman吗?

Mira Murati:每个人都应该拥有工具和信息,从而能够为自己做出这些判断。理想情况下,治理结构和决策机制不应该取决于某一个人。应该有制衡机制。谁在开发这些系统,以及这些人的品格如何,确实非常重要。但我也认为,讨论有时过于集中在这一点上,而没有足够广泛地思考系统层面的制衡机制。即使是出于善意的人,也可能犯错,也可能误判某个决定会带来的后果。因此,道德并不是全部。你还必须思考实际的决策结构、透明度和治理机制。这些都是复杂的问题。而如果你想让尽可能多的人参与到这些事情中来,你就必须分享知识,分享工具。这也是我们在实验室采取更加开放方式的部分原因。

Emily Chang:这正是我的下一个问题:你过去学到的一切,如何塑造你们现在在Thinking Machines所构建的东西?又如何影响你们构建公司的方式,以及你想创造的文化?

Mira Murati:是的,我非常坚定地相信,继续构建前沿AI系统的方式,就是让人类一起参与进来,让人类始终处在循环之中。不过,“让人类处在循环之中”这个说法其实并不能完全准确地描述它,因为这听起来像是某种检查点:我们签字批准某件事,然后系统就可以继续运行了。但我说的更像是创造这样一种系统:它不是自主地不断前进,然后把文明甩在身后;它更像是一辆双人自行车。两个人都在踩踏板。当然,当你们上坡的时候,也许更强壮的那个人会踩得更用力,但两个人的手都还在车把上。

这一点非常重要,因为这是一种不同的系统。它是一种为协作而设计的系统,而这正是我们在Thinking Machines试图构建的东西。这非常具有差异化。我希望它能够提高人们所拥有的能动性。同时,它也会帮助我们把研究方向引向更符合价值对齐的输出。也就是说,除了实用性之外,这种方法本身也会带来对齐:真正创造出在现实世界中有用的技术。

Emily Chang:你们招募了很多顶尖人才。我们也看到过九位数薪酬交易的报道。同时,也出现了一些备受关注的离职。你会如何描述这场人才争夺战?它有多残酷?我们又应该如何理解这些离职?

Mira Murati:拥有合适的人才,当然是建立一家前沿AI实验室非常重要的一部分。这些人不仅要有能力做这件事,也要与你的整体使命、信念和目标保持一致。不过,我不会把它称为一场“战争”,因为这可能暗示出价最高的人就会赢。但在大多数情况下,在这个领域工作的人都非常关心推动整个领域的发展。当然,现在确实是一个极其疯狂的时期,而且其中很多事情都是前所未有的。在如此激烈竞争的时期,从零开始建立一家前沿AI实验室,是一件强度非常高的事情。这就会带来很多不确定性和不可预测性,也会带来我们所看到的一些波动。但当你试图在如此短的时间内压缩进展时,其他初创公司或公司可能在五年、十年里经历的事情,无论好坏,都会在几个月甚至一年之内发生。我们现在看到的一部分现象,就应该放在这种“进展被高度压缩”的背景中理解。

任何好东西出现时,也往往会伴随一些坏东西。所以你必须在两者之间取得平衡。人们离开有不同的原因。也许他们的热情发生了变化,也许他们想从事的工作方向发生了变化。薪酬数字中的那些高额数字之所以吸引人们的想象力,是因为它们确实非常大。但我也认为,对于一些最受追捧的人才来说,这并不是主要故事。这里面发生了很多事情。从零开始建立一家公司已经非常紧张,更不用说是一家前沿AI实验室了。所以,这也是从0到1建设公司过程中挑战和痛苦的一部分。

04 未来不是命中注定的:人类仍要留在循环之中

Emily Chang:Dario Amodei曾预测会出现大规模白领失业。不过Sam最近又收回了一些关于“就业末日”的预测。你认为,这个行业在哪些方面过于悲观,又在哪些方面过于乐观?你对未来的愿景是什么?

Mira Murati:在我看来,预测某种反乌托邦或乌托邦的未来,都显得过于简化。因为事实是,在如何构建这项技术、如何构建这些工具、如何部署它们的问题上,我们其实拥有很大的能动性。所以,未来并不是命中注定的。当然,这些风险确实存在。我们都理解,构建前沿AI系统可能带来的巨大潜力,这也是我们为什么要从事这项工作。围绕不确定性和负面影响,已经有很多讨论。我同意其中很多风险。

也许我不同意的地方,或者说我会选择一条不同道路的地方在于,我们仍然拥有很大的能动性。现在这个阶段非常重要:人类和AI系统的手都还放在方向盘上,我们仍然可以协作。我们必须把这个阶段处理好。由新能力、能力巨大变化所带来的断裂性越小越好。这也是为什么我们在Thinking Machines采取这种路径,也是为什么这家公司会存在。

Emily Chang:你说目标是让人类始终处在循环之中。但是否会有某个时刻,人类不再需要处在循环之中?如果到了那个时候,会发生什么?

Mira Murati:这是有可能的。关键更多在于对齐目标、对齐意图和价值。但是,如果你现在就把“进步”简化为把人类从这个发展循环中移除,那么我很难看到,未来当AI系统变得更加强大时,我们还有多少可能性把这件事做对。所以更可能、也更持久的一条道路,是以一种能够推动先进文明发展的方式推进AI。而这需要我们尽可能长时间地让人类留在循环之中,并真正确保这一阶段是有意义的。

Emily Chang:你们已经筹集了很多资金,外界也有很高的期待。如果说过去几个月的AI新闻说明了什么,那就是外面的竞争非常残酷。你觉得自己有那种“杀手本能”去对抗OpenAI、Anthropic、Meta、Google、中国的公司以及xAI吗?这是一个竞争非常激烈的世界。

Mira Murati:竞争确实极其激烈。是的,我们确实筹集了很多钱,我们对此感到自豪,但这本身并不是什么伟大的成就。我们并不是为了打破某种纪录而开始做这件事,真正重要的是你拿这些资源做什么。我们不是一家普通公司。因此,我们确实需要大量资本,来建设基础设施、科学基础,以及所有真正有资格构建差异化前沿AI系统所需要的东西。所以这部分本身并不独特。

至于“杀手本能”,我会说,那并不是驱动我的东西。这里其实有很大的空间。我们正在构建一种具有近乎无限潜力的技术,而要捕捉所有这些潜力会非常困难。真正激励我的,是捕捉其中一部分潜力,在世界上创造有用的东西,以一种有用的、增强人类能动性并推动文明进步的方式,把这项技术带到世界中。健康的竞争是存在的,而且竞争是好事。它会创造出更好的产品、更好的技术,也会在很多方面提高标准。我尊重很多正在做这件事的公司。但我的动力并不是每天早上醒来时想着如何消灭竞争对手。不是这样的。

Emily Chang:你说过,你们计划在今年晚些时候发布一个预览版。你们现在进展到什么程度了?我们会看到什么?随着其他这些公司上市,你觉得它们会不会被分散注意力,从而给你们更多发展空间?

Mira Murati:我们走在自己的道路上。当然,竞争非常激烈,我们也必须快速行动。但重要的是,要把这种速度与持久的长期进展平衡起来。我非常在意我们今天做出的决定,是否有利于我们长期的成功。这也是我每天都努力向团队灌输的一点。这里面有很多细节,比如你如何建设团队,如何建设基础设施,以及如何真正抵抗短期压力。在某些情况下你确实也必须接受压力。但对我们来说,这只是第一步。展示交互模型,并把我们思考和关心的东西变得更具体,这是第一步。我预计在接下来的几个月里,我们会展示出更强的能力,包括模型层面更强的能力,以及沿着这一方向推出更多产品。我们会让这一点变得更加明显:真正让技术和产品自己说话。

Emily Chang:假设Thinking Machines的成功超出了你最疯狂的想象。五年后,会出现什么今天还不存在的东西?

Mira Murati:预测未来是一件极其困难的事情。但我会说,最重要的是创造这样一种未来:无论我们每天或每周工作多少小时,我们都能对未来拥有一种能动感、尊严感和可能性感。我希望我们会继续提升这些能力,让它们推动大量进步。同时,我们要以这样一种方式来做这件事:让我们仍然保持希望,也保持一种相信自己能够塑造未来的可能感。

Emily Chang:让“不可能”少一些,让“可能”多一些。谢谢你。

原文:

Thinking Machines’ Murati on AI’s Next Chapter

https://www.youtube.com/watch?v=A_jIpryR5js

文章来自于微信公众号 “Z Potentials”,作者 “Z Potentials”

Related topics

After reading

Join the AINRK community

Read how to join the community and connect with people working in AI.

Community information (opens in a new tab)