AI news

深度|Sam Altman万字访谈:OpenAI最难的一课,是杀掉像Sora这样的好点子

By Z Potentials0 viewsSource: Z Potentials
深度|Sam Altman万字访谈:OpenAI最难的一课,是杀掉像Sora这样的好点子

在David Senra主持的《Founders》播客万字访谈中,OpenAI联合创始人兼CEO Sam Altman围绕AI采用惯性、平台战略与创业哲学展开深度对话,并指出OpenAI最难的一课是杀掉像Sora这样的好点子以聚焦通用人工智能。

The full text has not been translated yet. The Chinese original is shown below.

文章配图

图片来源:David Senra

Z Highlights

  • AI是人类发明过的最不可思议的技术之一,但社会和经济仍会适应得更慢。改变行为比技术宅们意识到的要难得多。

  • 我们现在处在一个拥有全部技术拼图、却还没有迎来那个彻底改变人与技术交互方式的iPhone时刻的世界。

  • 与人有关的东西,在AI之后的世界里会变得更值钱,而不是更不值钱。让人深深地掌控未来、深深地被赋权人才是这一切的全部意义。

  • 把东西放到世界里,从真实客户那里获得反馈,这是做出好产品的方式,也是做出安全产品的方式。我们即将看到有史以来最大的一次创办小企业的繁荣。

  • 杀掉好点子,为伟大的点子让路,这是任何创业者或企业最难学的一课。从成功里学到的教训比从失败里学到的更有用。

Sam Altman是OpenAI联合创始人兼CEO,曾任Y Combinator总裁,从AI迷少年、创业者、投资人一路走到OpenAI核心领导者。本次访谈由《Founders》播客主理人David Senra主持,发布于2026年8月23日,围绕AI采用速度、OpenAI建设、战略取舍与创业哲学展开深度对话。

01 从Blockbuster到ChatGPT,AI采用的惯性悖论

David:我刚才提到Tobi Lütke,还有我之前跟他录过节目。你为什么觉得他是当下最有意思的CEO之一?

Sam:Tobi最打动我的一点是,在AI发展的非常早期,以及之后这条曲线上的每一个节点,他都是最激进拥抱AI的CEO。他自己亲自上手写软件,亲自做实验。他会给我们发极其详细的产品反馈,关于产品功能、关于模型能力的反馈。他比任何人都更早说出这样的话:我们不是一家 NPC 公司,因此我们打算采用智能代理,否则我们就彻底完蛋了。我们要自己搭建它。

每次我跟他聊天,他都处在所有人,无论是不是CEO,所做的事情的最前沿。他自己动手,他对这件事有非常深的直觉,而且他总是比其他任何CEO领先六到八个月。

David:你还记得吗?他大概一年半以前,可能2024年,写了一封信,说你要做的第一件事就是看看AI能不能解决你的问题。而即便在当时,18到24个月之前,大家都疯了,觉得这很荒谬。

Sam:荒谬。这就是我的观点:他一直都走在前面,他一直是对的,他一直allin。没有炒作,就是"这是它现在真正能做的事,这是我觉得它很快能做到的事,这是我打算怎么推动公司",以及一种极其深刻的理解,知道现在到底处在什么位置。

David:我从来没想过这一点,对你这个位置的人来说,有这样一个给你极其强烈、直接、清晰的产品反馈的人,是多么大的好处。

Sam:很多人都会发产品反馈。但他是唯一一个同时具备两个条件的人:一家大公司的CEO,以及极其准确、详细、处于最前沿的反馈。

David:他跟我说过,我不知道是那次节目里还是节目后,但他非常坚持。他说:"而那个人会是我。"而我想听听你真实的看法。他说我们会把2026年看作所有生意都"待价而沽"的一年。他说会有人做出Shopify的AI-native版本。他还说:"我们会在2026年回头看。"所以晚上他简直在重新构建一切。如果你从零开始,你会用现在的技术做什么?

Sam:这正是我想说他的另一件事:他亲自动手。他自己用这些工具,自己写软件,自己试模型,自己重新想象自己的工作流程。大多数到了那个级别的CEO,都是一层一层的团队在试图把这个东西落地,试图让你开心,试图把粗糙的边缘磨平。如果你不亲自做这件事,你很难真正获得那种手感。而他全程亲力亲为,据我所知整晚都在干。

David:我不确定2026年会不会是"所有生意都待价而沽"的一年。这一点我可能跟他有一点分歧。但我理解那种精神,我也确实理解那种感觉正在发生。

Sam:你觉得那真的可能吗?无论是2026年还是2046年?

David:显然不是字面意义上的每一种生意。

Sam:我觉得有些东西是反 AI 的。AI 越强大,一些跟 AI 完全无关的生意反而更难被竞争,因为我们真的会想要那些真实、非技术化的体验,或者我们会更在意体育球队之类的。所以,不,不是所有东西。但我认为会有很多软件生意非常"待价而沽"。

David:那你在时间线上会持不同意见吗?

Sam:我在时间线上持不同意见。我觉得它会花更长一点时间。

David:你能多说一点吗?

Sam:我爱startups。我觉得startups是经济里最酷的东西,我整个职业生涯都在试图真正理解startups。我原以为,当我们到GPT-4,我觉得那是2023年,之后很快,软件生意就会立刻出现比实际多得多的颠覆,更多生意被争夺。我大概有几件事想错了,其中一件是关于速度的:经济有巨大的惯性。人们继续做他们正在做的事,继续从同一家公司买东西,继续想以同样的方式使用他们的工具。这在很多方面其实是好事,它会让摆在我们面前的这场大转型进行得更平顺、更缓慢。我对此很感恩。但我认为这意味着我们所有人都对时间线过于乐观了。即便有了这项不可思议的技术,AI 是人类发明过的最不可思议的技术之一,社会和经济仍会适应得更慢。

David:挺有意思的。我们开始录音前聊过这些历史上的类比。显然,我是靠读历史吃饭的。你刚才说话的时候,我脑子里想的根本不是OpenAI、AI和Sam,而是在读Larry Ellison的传记,80年代的他是这样的:"各位,这不是软件的问题,是人的问题。我们得让他们相信我们能装上软件。他们根本不用。我们得改变他们的行为。技术已经在了。现在我们得去适应人,让他们真正开始用这项技术。"我自己的例子是:Netflix出来之后开始寄DVD,甚至在它开始streaming之前,我都惊讶于人们还是去Blockbuster(美国曾经最大的影视租赁连锁品牌,后被Netflix颠覆)租碟。我上学放学路上都会经过一家Blockbuster,人们还是去,这让我非常惊讶。这是一个一直留在我脑子里的例子,关于习惯的力量。人们做事的方式、改变行为,比技术宅们意识到的要难得多。

David:回到Tobi写那封公开信、或者说写给他公司内部那封信的轩然大波,你采用这项技术的速度比任何人都快,因为你在某种程度上就是在发明它,对吧?有没有什么事让你真的对自己的行为感到震惊?比如"我知道有更好的做法,我甚至正在创造那个能更好的产品,可我还是跨不过这个习惯、这个惯性"。

Sam:百分之百,以前也有人问过我,我一直在等这个问题。在我看来,我自己最"心理上不自洽"的一点是:20年来,我一直以同样的方式使用电脑。我现在有了一个叫Codex的神奇东西。你也有,人人都有。这意味着我应该彻底换一种方式使用电脑。我不应该再在一个个消息应用之间复制粘贴,不应该再漫无目的地刷邮件、去挑一封"打开和回复时最不痛苦"的邮件来应付那些我根本不想处理的事,不应该再维持一个待办清单、以我长久以来那种方式去做这些例行公事的电脑任务。可是,我脑子里好像被编码进了某种东西:做这种事才叫"工作",才叫"高效"。如果你问我,我绝不会说我喜欢那样做,事实上我会说相反的话,而且我认为我说的是真心的。但从"显露偏好"来看,我现在明明有更好的做法,可以更快,可以让Codex帮我处理更多日常,把这一摞邮件处理完,把待办清单上的事做完,把这些破事都搞定,可我还是用老办法。这毫无道理,除非我其实暗中喜欢这样、或者这样做让我感觉良好。

David:你觉得要发生什么,你才会更深层地采用自己的产品?

Sam:我真的不知道。它正在逐渐发生,而这可能就是正确答案:这些事情必须循序渐进,彻底改变一个人根深蒂固的习惯和工作流程是困难的。我觉得我们可以用这项技术造出更好的产品,让这件事变得更顺畅。但现在,感觉我们所有人都踩在两个世界的中间,我们还有一台可以用老方式使用的电脑,同时又有能用这种惊人新方式操作电脑的Codex,而我们不确定什么时候、为了什么该用哪一个。我认为这在很大程度上是产品失败。

我们现在所处的阶段让我想起iPhone之前的smartphones。我是早期采用者,2003年或2004年就有过一台Palm Treo(Palm公司2000年代初推出的早期智能手机系列,是iPhone之前的智能手机代表之一)。

David:你有一台Sidekick(Danger公司推出的早期智能手机,以全键盘侧滑设计著称,2000年代深受科技圈喜爱。)?

Sam:我从来没有。我觉得它们超酷,我想要一台。当时很多技术已经到位了,缺的是多点触控,但更主要的是缺了那些让iPhone成为iPhone的产品创意。我觉得我们现在就处在一个拥有全部技术拼图、却还没有迎来那个彻底改变人与技术交互方式的"iPhone时刻"的世界。

02 高风险赌注可以,只要押的是一旦成功就价值巨大的东西:从AI迷孩子到OpenAI创始人的非共识之路

David:我们刚才说Tobi在亲自动手搭建这些东西,对吧?我们有个共同的朋友Josh Kushner。他说,Steve Jobs思考的方式、他经营公司的方式,和你很像,这个对比很有意思。Jobs当然不自己写代码,也不自己造硬件,但他说 我就是patient zero(原指传染病中第一个被感染的人,这里比喻自己是产品的第一个、最深度的用户)我做的产品,是我自己想用的产品。"基本上我们看到的Apple的一切,就是他想要的东西。有一本书里有个很棒的故事:他们本来要就某台新MacBook开个会,团队为Jobs准备了一大堆演示,他们非常紧张,因为他气场太强了。他走进来,他们以为会开一个小时的会,他走进来,把笔记本拿给他看,然后他说"on/off"。按一下按钮,开机;再按,立刻关机。然后他想打开MacBook的盖子,有延迟。他就说"make this",意思是MacBook要这样,然后就走出了房间,整场会就结束了。Apple的历史里有很多这样的例子。你是怎么做的?你怎么改进产品?只是通过你自己的需求吗?你是怎么想这件事的?

Sam:我现在的大部分精力都在research和compute上。我很希望能有更多时间花在产品上。我们这里有很棒的人在思考产品,但最重要的一件事是造出聪明的models,并且能够高效、充足地运行它们,服务很多人。如果我们能把这件事做对,我相信其他一切都会随之而来。从哲学上讲,我非常倾向于:去找到那个高杠杆、困难、能延续指数增长的问题。对我们来说,那就是 models 和 compute。

David:为什么它们天然适合你?

Sam:以我们现在这种方式扩展compute,需要一条复杂的供应链。有很多有意思的合作伙伴关系要去理顺,而这正是我喜欢做的。还有一些很有意思的财务挑战:你打算如何为这个可能是、或至少正在迅速成为历史上最昂贵的基础设施项目融资。构建这种规模compute所涉及的技术问题,从设计你自己的chip,到晶圆厂和做机架的人的供应链,再到这些东西的电力系统,我一直对energy很感兴趣。它们全都汇聚在一起。所以在围绕构建这种规模compute这件事上,跨技术、商业、政策、供应链、物流,有太多有意思的问题。

David:我过去是startup investor,在我的职业生涯里,我觉得最接近startup investing的事情就是managing a research program。它们也有很多非常不同的地方。平均而言,researcher和founder表面上看起来不一样,原因很明显。但在如何发现non-consensus的赌注、如何决定在哪儿建立信念、如何理解指数增长长什么样、如何管理outlier talent、甚至如何更进一步识别他们这些方面,有很多相似之处。这就是我们所在的这栋research building,也是我坐的地方。

David:再多说说你从startup investing里学到的、和research之间的相似之处。

Sam:最大的一个就是power law。投资里人们总在讲这个:你必须重新编程你的大脑,因为我们天生似乎并不适合这样思考。你最好的那笔投资,其回报会超过你其他所有投资的总和。你第二好的投资,其回报会超过除此之外所有投资的总和。AI research,至少在这方面,也是一样的。我们刚起步时,人们认为AGI几乎不可能,或者说完全不可能。

David:那是哪一年?

Sam:2015年。我们因为说自己要做AGI,被这个领域所有的思想巨人痛批。然后当我们开始真正聚焦large language models时,我们又被痛批,说这完全荒谬。而我们理解,至少我从我的startup背景出发理解,我想其他人以其他方式也理解,高风险赌注是可以的,只要你押的是那些一旦成功就价值巨大的东西。Research就是这个样子的。那些能成为伟大researcher的人,多少是非共识的、方法新颖的、精力充沛的、非主流的,"非主流"是不断浮现在我脑海里的词。

David:你得再多说说"非主流"。能更具体一点吗?"他们是那种'有棱角'的人吗?"

Sam:你不会想去投资一个founder,他对同一个想法的看法,跟你之前谈过的一千个人只有细微差别,还试图说服你、也许也说服他自己,说自己完全不同、在做全新的事,但本质上只是试图合群、跟所有人走同一条轨道、做他们"应该"做的事,也就是创业。他们听了Peter Thiel太多次说"你应该做点不一样的事",于是就去模仿那种姿态,但并不是真心的。对我来说,区别非常清楚:一种是真正跟大多数人想法不同、并且愿意坚持非常不受欢迎的信念的人,这些信念可能错,但如果对了,至少会"对得很彻底";另一种是套着同样想法、只是贴了层薄皮的人。

2015年底我们创立OpenAI时,世界上做AGI的努力屈指可数:有DeepMind,还有一两个我数得出来的。做这件事是非常non-consensus的。同一年,大概有,我就拿它举例,因为它正好冒出来,但还有其他类别,大概有成千上万个founder在做photo-sharingapps。那大概不是一个好选择。今天,很多人想开AI labs。有那么一小撮人,两三个吧,在做一些完全新的事情,这在AI发展到今天之前是不可能的,但现在看来似乎还不是个好主意。而这正是我作为startup founder一直想投的东西,也恰恰是让我大多成功的那个东西。对researcher也有类似的情况:很多researcher会追逐上一个"行得通的东西",而有一小部分researcher对某个新想法有很高的信念。我认为我们过去是、现在也是最适合那些人的research lab。

David:我记得几个月前跟Dario聊过这个。他觉得,就追赶你们那种方式而言,有三巨头,钱、资本门槛,不会再有第四个更大的玩家。但他说有大概10%,我忘了具体数字,我就编一个,就说10%,的可能,会有某个"僧侣式"的researcher,用一种我们从未考虑过的角度去接近它。

Sam:完全同意。我不知道该怎么给这个数字,但确实存在某种可能。我不觉得我是编的数字,但它就是一个小百分比。那确实存在某种可能,而且我喜欢这一点。我觉得这就是事情保持令人兴奋的原因。

David:让我困惑的是:你从founder到investor,再回到founder。但为什么是2015年,一开始是什么让你对artificial intelligence产生兴趣,让你说"嘿,这事儿太反共识了。大家都觉得我疯了,但我还是要做。"

Sam:我一生都对AI感兴趣。我是个非常书呆子气的孩子。我是那种周五晚上在电脑上玩、看sci-fi、读sci-fi的孩子。我一直觉得AI会是最神奇、最疯狂的东西。我从没想过我真正能去做它,但我一直喜欢它。我甚至上大学某种程度上就是为了学它。大一和大二之间的那个暑假,我在AI lab工作,当时什么都不work。事实上,我记得很清楚,有位professor告诉我:"这些方向你都可以试。但有一件事我们确定不work,就是deep learning。我们试了很长时间。这是最稳妥的毁掉职业生涯的方式。"而我是个容易受影响的大一新生,总之,我就认定那是真的。于是我去做了别的事。当时,那是2005年左右,我很清楚AI不work。然后我碰巧意外地进入了startups,但很快就深深爱上了它。所以我甚至不会把它叫做职业绕路,因为回头看它超级有帮助。而成为一名startup investor很棒。硅谷那种常规的职业路径是:你先当founder,然后半退休,再变成investor。

David:我会拿这句话要求你的。我们不需要更多退休然后去投资的founder。这个领域里的investor已经太多了。但我想说的是,我走的其实是相反的方向,我先做investor,然后经营公司,这很不寻常。

Sam:非常不寻常。而且我对此超级感恩。因为如果你真的以investor的身份认真研究、观察公司,你会获得一整套不可思议的学习和模式匹配,这对我经营OpenAI超级有帮助。但它是与正常方向相反的,所以这是非常罕见的事,我强烈推荐。

David:为什么有帮助?

Sam:如果你在经营一家公司,你在过去已经面对过一定数量的类似决策,一些关键节点式决策,你见过什么work什么不work。而当你必须做出高风险的战略转向,或者以非常狼狈的方式解雇一位高管时,你只能依靠过去五到十年积累的、有限的个人经验。但作为investor,你基本上旁观了所有关键节点。你没有那种日复一日经营公司才有的实操练习,但你见过很多重大的关键节点,你整天都在看这些。所以光是我手头那套数据集的丰富程度,就很了不起了。我会想:"哦,那家公司遇到类似情况时是这样,或者我见过这个founder犯过这个错,或者这个founder做对了。"

David:我们聊过你研究工业革命。我们之前也聊过一些我们都读过的伟大传记。我朋友DanielX是这么说我的,因为我在另一个播客《Founders》上做这个项目10年的好处就是,他说我就像一台用历史上最伟大创业者训练出来的LLM,但温度被调得很高,因为我疯了。因为我对这件事痴迷得有点奇怪,对死去的创业者上瘾。但它确实有帮助。比如我在跟一个founder聊天,他说到他们遇到的一件事,我就会说:"哦,Carnegie做过这个,Rockefeller做过那个,你也许可以试试这个。"

Sam:那你是从所有这些里得出一个大洞察,还是说对任何给定场景,你都有这些人各自做了什么、它们如何组合起来的对应?

David:我觉得这取决于founder的性格。我读你的博客很多年了,我觉得你是个很棒的写作者,你非常简洁,那种简洁真的吸引我,而且我爱编号列表。很奇怪我们写作方式一样。我读你博客的时候,心里想的是:"这正是我基于所有这些阅读会得出的结论。"有一小撮可以套用的原则,但它真的取决于founder是谁、他们想做什么。

Sam:这就是我想搞明白的。回到我们刚才聊的。你跨了很大一步,因为你可是,据我所知,SiliconValley有史以来最好的investor之一。你本可以光有钱、不用真正工作,因为investor挺懒的。

David:不,这两个都干过,我想我可以说:经营公司比当investor难得多、难得多、难得多。

Sam:完全正确。而且在我看来,那才是人们应该做的事。所以你就想:"我不要走轻松的路。我要去做史上最难的事,人们觉得不可能的事,我会被嘲笑的事。"

David:对。我还是需要搞明白。你从小就迷这个,它为什么会吸引一个孩子?那时候AI为什么会吸引你?

Sam:它对每种电脑怪咖都有吸引力。我不觉得这在我身上有什么特别的。它只是让人觉得"不可能"。我想大多数人会说:"那当然会是史上最酷的事,但它完全不可能。"我奇怪的地方在于:"好,那就试试。"但我认为每个人都想过它,每个人都会觉得它很棒、值得去追求。

David:所以这是你从小的一种性格特质:当有人告诉你你做不了某件事时,你的第一反应是抗拒?

Sam:不是抗拒,而是"你确定吗?为什么不行?试试看。看看会发生什么。也许我行,也许我们行。"我是个非常乐观的孩子。而且,一件事看起来越不可能,我就越好奇。我们能够发明一项技术,让我们能做其他一切事,以一种没有任何单一技术能做到的方式赋权于人,这个想法一直显得天生就极其诱人。我想要那个东西,我想要能做其他一切事。我还有一个从小到大的性格特质:真正给予人们更多的力量、更多的能力,是很有意思的。从某种意义上说,这就是技术的全部脉络。而我当然一直是个技术宅,但AI是我想象中那个最强版本。

David:你当时觉得它能让什么成为可能?比如你小时候想:"这看起来是个很酷的技术。我想做X。除非AI被发明,否则我做不了X。"

Sam:你总是很难记得:这里面有多少是我当时真正想的,有多少是你现在正在努力构建的东西。小时候我非常迷robots,我们学校有个robots club。而当时的robots可笑地原始。我甚至记得在夏令营,我们有个小乌龟机器人,可以用电脑控制它,在地板上或桌上跑,我当时觉得那是最酷的东西。物理的东西被电脑控制着动起来,有些东西让我一直觉得很神奇。

现在我极其感兴趣的是AI能在推进scientific discovery上做什么。作为成年人的记忆里,我觉得我小时候也觉得那很酷。但那感觉不像是真的,我猜这就是记忆被上色的一个例子。但现在,AI能去发现新的物理立论、治愈疾病,以及它已经在数学领域上做的事,我觉得这会是其中最重要的领域之一,甚至比AI能做的人类其他任务的自动化更重要,就为了帮助我们理解更多东西。我们之前聊过《The Beginning of Infinity》这本书。从今天的视角重读那本书,我会想:天啊,AI真的会帮助我们做这件重要的事,理解一切,或者说尽可能多地理解。我当然也对那种"StarTrek"式的巨大繁荣和丰饶感兴趣,以及AI能如何推动它。也许"对科学感兴趣"这个记忆更真实。我一直热爱科学,以及这个想法:因为我们聪明,我们就能搞清楚如何理解世界、做出预测、做那些没有这种深刻理解就做不到的事。那似乎天生就很棒。

David:很有意思,人类对AI的期望在时间上有多么一致,因为你描述的东西非常相似。我刚刚第二遍重读了Claude Shannon的传记,我忘了,因为我大概五年没读这本书了,我忘了他和AlanTuring在Bell Labs时曾经每天见面喝咖啡。那是1940年代,他们就是聊AI,而且两个人都为之着迷。他们当时就觉得这是必然的,觉得它会在大概15年内发生,也就是1955年,我们会拥有比人类更聪明的computers,而这在当时根本不存在,他们有的是模拟版本。任何觉得这事不会发生的人,他们都觉得绝对荒谬。他们还会问:"你想让电脑做什么?"他会说:你一遍又一遍听到这些。我读过那些人当时写的一大堆东西,我非常难过他们看不到今天,因为他们每件事都太对了。我们终于到了AI正在解新颖math problems的时刻。它在发现别的东西。它,你可以争论写得好不好,我会说写得不太好,但它正在写poetry。我觉得他们会说:"好吧,你做到了。就是它,我们成功了。"那本来会很酷。

Sam:这就是那种奇怪的现象:每个人都"哦,它永远做不了X"。我跟音乐行业的人聊过,他们说"它永远做不出伟大的音乐"。然后他们会问:"你觉得它能做播客吗?"我说:"当然能。它至少能做人能做的一切,我甚至会说比现在更好,比我们能做到的更好。"有个非常奇怪的现象:它永远不会超越"我恰巧活着的这个当下"正在发生的事情。这背后有一个深层的人类心理缺陷。但我认为有个更有意思的问题。假设它真做出了一个很棒的播客,两个AI的对话比你我更有趣。你觉得人们会在意吗,还是他们会想要那个有真人的版本,因为我们全都痴迷于人?

David:这个更有意思。就像"哦,这两个我可能天生就喜欢或不喜欢的人,正在展开一段对我来说很有趣的对话。"我觉得对纯粹的参考类内容,比如我另一个播客,就是"嘿,这本书里有几个有趣的观点",那也许会被颠覆。但尤其是对在这个事情发生之前出生的人,也许你儿子会不一样,但对我来说,我觉得人类永远会被人类吸引。我发自内心深深地相信这一点。我觉得有很多其他工作会面临重大转型,但与人有关的东西、与人和人的连接、以及人喜欢人有关的东西,在AI之后的世界里会变得更值钱,而不是更不值钱。

Sam:不过也许我其实是聊这个的错的人,因为我内心深深渴望,尽管我的全部工作都是数字化的、向全世界广播的,我深深渴望更多模拟的生活。我喜欢读纸质书。我跟Kelly聊的时候说过:"我不想上Zoom。给我打电话,或者我们当面聊。"我喜欢实体的东西。

David:我也一样。我不读ebooks。

Sam:对。我不喜欢Zoom会议。我喜欢跟人在真实世界里待在一起。

David:我确实觉得有一小撮怪人,而且这座城市里大概住着很多这样的人,他们不喜欢人类,只想跟电脑交流。但我认为那只是人类里极小的一部分。

Sam:我也觉得那是人类里极小的一部分。这就是为什么我认为,即便有了super intelligence,整个世界大体上也不会那么不同。人们仍然会从根本上被设定为关心他人、想待在他人身边、与他人互动。也会有一些人迷上models、觉得人类碍事,或者认为人类是需要对付的危险。但对大多数人来说,人才是全部意义所在。我觉得非常重要的一点是:当我们发现那样的人时,要把他们指出来,确保他们不会攫取权力。

03 用治愈癌症换取你放弃自由:AI时代最危险的不是技术,是权力集中

David:我当然同意。也许我对AI最担心的两大风险,跟我刚才说的略有不同,一是失控:AI不知怎么变得过于强大,强大到我们无法保证想要的控制。二是权力过于集中:出现一家公司、一个模型或一个人拥有过多权力。而在这两种情况下,根本问题在于,让这两件事里任何一件发生,都是非常反人类的立场。正确的做法是:让人深深地掌控未来、深深地被赋权,人才是这一切的全部意义。我们不会坐在这儿,因为我们不信任或不喜欢人类,就逐渐把控制权交给一个AI model。说"我们就把全部信任放在这个model上,让它拥有世界上所有的权力和决策权"是非常厌世的话。但我认为世界上确实有些人觉得那才是正确结果。

还有另一个版本:因为不信任人,我们必须限制谁能接触到这项技术、如何使用它。而所有这些可怕的事都可能发生,出于对这些的恐惧,我们要把权力集中到少数几家公司手里。他们会说:"我们不让别人用这个,但我们会给他们一些好处。"我对此的漫画式概括是:我觉得AI领域有些人实际上在说:"我们会给世界带来治愈所有疾病的方法,让一切变得极其便宜,作为交换,人们要放弃自主权、对未来的影响力和权力。"还要打着安全的旗号,同时带来彻底的、猖獗的不平等,会有人掌握巨额财富和权力,而其他人只是得到"还不错的一切"。这是一个糟糕的推销话术。这是一个非常反人类的推销话术,可不知怎么地,竟然有人愿意说出口。

Sam:你觉得他们为什么愿意这么说?

David:我觉得是恐惧和权力。当人们谈论AI的风险时,有很多人对这些风险的规模非常紧张,被它深深攫住,觉得有必要保护世界免受其害,于是他们会说:"我们应该在这里用大量自由换取安全,因为这跟我们见过的其他风险不一样。"但我觉得这最终也会变成为大量追求权力的行为辩护的方式。

Sam:我读到的所有东西,我刚才说的Shannon,或者Turing,至少在我读过的书里,都更偏乐观:"我们要发明那些让生活更美好、能替我们做事的东西。"

David:你说得完全对。回到Shannon和Turing那个年代,他们谈论的是AGI会有多么美妙、会做所有那些事。

Sam:而当我们开始时,确实承受了来自"末日论者"的巨大压力。末日论者中我同意的那部分是:这是一项强大的技术,我们应该偏向安全,应该在每一级技术上谨慎行事。我不同意的那部分是:它是一个无法解决的问题。

如果你回到OpenAI的开端,我觉得当时会有两种普遍看法。第一:我们完全不可能、而且肯定不可能在10年内造出非常接近AGI的东西。第二,即便我们造出来了,我们肯定也没法让它安全。如果你有一个在很多方面比很多最聪明的人、大多数最聪明的人都聪明的AI,那么末日论者会说,到那时世界肯定已经被毁灭了,alignment问题肯定已经失败了。当时就有这些非常自信的、关于十年后会怎样发生的立场。

而我们造出了那个东西,我认为大多数人会说,在当时,它会被描述为非常接近AGI。而且很多好事发生了,那些"世界末日"的疯狂坏预测并没有发生。所以我认为这应该更新人们对未来的预测。我们面前仍有更高风险的挑战要解决。

但我们的方法,这是我从startups学到的另一件事,做事的方式是:把东西放到世界里,从真实客户那里获得反馈,看它们在哪儿崩坏、在哪儿不崩坏。这是做出好产品的方式,也是做出安全产品的方式。而我们在AI safety上取得的进展,比我认为大多数人开始时预期我们要取得的要多得多。

因为太多人,每周有十亿人在用我们的产品。每一次我们得到新一级的model,我们把它放到世界里,看看什么work、什么不work、哪里人们需要我们放宽护栏(因为他们有想用它做的好事)、哪里我们有alignment失败、哪里我们有安全系统失败。ChatGPT才推出不到四年,十亿人在用它处理敏感和重要的事情。而我们能在这么短的时间内、用如此强大的技术,交付一个被广泛认为安全的东西,当然它有各种问题,我觉得我们在象牙塔里是绝对做不到的。这就是我坚信的、如何构建又好又安全又稳健又实用的技术和产品的方式。我认为这是Y Combinator的一个伟大教导。而且这在大多数AI safety人士看来,大概完全不可能:走到这个阶段,还保有着我们现在这样的安全保证水平。

我确实认为从这里开始会变得更难,但我不认为你靠与现实断开连接能解决它。

David:为什么从这里开始会变得更难?

Sam:因为现在世界上最聪明的人,大约跟世界上最聪明的models一样聪明。而这一点即将翻转。

David:对。我觉得那是对的。我觉得models就是如此不可思议地强大,并且处在一个如此陡峭的改进轨迹上,以至于那些"未知的未知",也许相对而言不会更难,但从绝对意义上它们似乎更难了。而且我觉得我们将不得不做一大堆艰难的决定:什么时候推迟开发,什么时候说"好,现在让我们与现实接触",或者"让我们再等等,更深入地去研究这个"。

Sam:我最近跟一个人聊过,有句话一直留在我脑子里:FAA帮助让飞行变得极其安全。飞行,从表面上看,是极其危险的事。而你大概不假思索就会登上飞机。而在飞机出现的早期绝对不是这样,而且在人类历史的长河里,飞机没那么古老。他们有极其健全的事故报告,极其清醒。他们从不会对什么事一笔带过。他们想尽可能多地提取信息。从某种意义上说,我觉得对任何新技术,这样的方法都非常有效,而且常常被低估。

所以当我们开始部署models、说我们要把ChatGPT放到世界上时,我们知道model并不完美,我们知道它会幻觉,我们知道它能做这些其他事。但我们也知道,这个世界必须体验这项技术。我们必须学会如何让它安全。而且我们必须把权力交到人们手里。我们不能用它来强加我们的世界观。我们不能用它坐在实验室里试图想清楚所有影响,那反正也行不通,因为社会和models会共同进化。我们必须把它当作一个共同产物,一起做这件事。然后我们会做非常好的事故记录。当出了问题时,我们会研究它。我们会发布一份非常清晰的复盘报告。我们会尽可能多地学习。我们不仅会改进自己的技术和产品,还会努力把这些经验分享给其他正在构建AI的人。我觉得到目前为止,这出奇地有效。

David:有件事对你来说一定很困惑,因为它对我毫无意义,你知道,我本质上只关注创业者和创业这件事。我做的所有播客都是为了创业者的利益。我很高兴其他人也听,但它高度聚焦于寻找有用的信息,无论是来自某个死去的创业者的传记,还是跟你这样的人聊天,让其他创业者能从中受益。所以在这种背景下,没有多少,每个人都在用AI,每个人都讨厌AI。这到底是怎么回事?

Sam:人们总是害怕快速的社会经济变革。我们之前聊过工业革命。我也喜欢读以往的技术革命。而人们对工业革命期间正在发生的改变,并没有普遍的温情脉脉的感受。我认为,人类社会有一些内置的惯性、对快速变化的怀疑,这很可能是人类的一个优点。我认为这在动荡时期、或者在局部的疯狂或诸如此类的时期,很可能对社会有帮助。所以其中一部分可能是好的,而且我认为这是人类生物学的一个特性,我信奉不要试图与之过强地对抗。

我也认为,很多正在构建AI的人一直在外面说:我们有25%的概率会毁灭世界,而且没错,我们要抢着去做,因为不这样的话,那些坏人会抢先做。"这看起来很吓人。作为一个领域,我们并没有把好处是什么、坏处如何被缓解解释得很清楚。而且我们肯定也没做好,即便人们有答案,比如说什么会有universal basic income,或者工作将变成可选,或者别的什么,关于"重要的是让人们在世界上拥有更多而非更少的权力和个人自由"这一点,为什么重要、如何重要,几乎没有什么讨论。而这关系着大多数人的切身利益。人们影响自己未来的能力、集体设计社会走向的能力,以及随之而来的自主权,非常重要。而且我觉得AI领域的很多人,他们自己感受得到这一点,但他们并没有花多少时间思考、反思或承认这对其他人有多重要。

所以回到那个对推销话术的概括,"亲爱的农民们,我们将赐予你们治愈癌症的礼物、物质财富、伟大的娱乐,你们别抱怨了,未来所有决定都由我们来做,只要相信我们就行",我们就是仁慈的独裁者。

作为一个热爱创业者的人、一个研究近几个世纪这个不可思议的经济奇迹如何运作的学生,真正地赋权人们去做新的事,去推动他们相信的东西,去拥有创办公司、发明技术、追求想法的自由,以及让这一切发生的周围的那套系统,没有比这我更坚信的东西了。而且我认为,即使人们从不把自己看作创业者,即使他们可能永远不想创办大公司,他们也能理解那有多重要。而当你听到人们或含蓄或明确地说,有了AI这类事情会变少,因为一小撮人将拥有权力,但他们能做出伟大的决定、保护所有人的安全,我觉得这对他们来说非常可怕。

我还认为,即使也许大多数人不创办真正的大公司,也有很多人想创办较小的公司。而这一直很难。这需要相当多的特权、运气和资源才能做到。而我们即将看到有史以来最大的一次创办小企业的繁荣。我认为AI正在赋能这件事。现在,出于某种原因,这个领域,包括我们,没有充分谈论这一点,尽管我们看到了所有迹象,而且它很棒。我们也没有构建足够的产品来加速它。但我认为我们会看到比这多得多的事。

David:有意思,我们之前聊到TobiLütke,在那次对话末尾,我想那段在节目里,他提到一件我从没想过的事。他说:"你和我干的是同一件事。我们都在努力创造更多创业者。他在为创业者搭建基础设施,我在为他们做教育和激励类的播客。"而结合你刚才说的,疯狂之处在于:我不仅认为在任何新行业里,AI行业是在教育人们这件事上做得最烂的,大概是我见过的做得最烂的。而且我觉得其中一部分原因,就是你们有能力走出去谈你们看到的东西、去教育。

有一本很棒的书叫《The Intel Trinity》,讲的是Intel的故事。它叫"三驾马车"是因为三个主角是Bob Noyce、Andy Grove和Gordon Moore。书里有一个我从没忘记的精彩故事。他们从发明集成电路到microprocessor(微处理器),然后意识到这项技术太重要了,而且会吓到潜在客户。于是他们走出去,这三个人停下手里正在做的事,走出去开始教育潜在客户、投资人、整个国家。他们说过,有段时间他们开设的课程比当地社区大学整个课程目录还多。他们就是把它当成头等大事:"我们要走出去,教育大家了解这项新技术。"可为什么AI界没人这么做呢?

你现在就在做。这正是我想跟你聊的原因之一,因为我一直在用AI,我觉得它令人着迷。但你的视野让我的看起来像蚂蚁的视野。你脑子里有太多东西我想挖出来。"嘿,你有所有这些背景。你在发明这项不可思议的技术。我很想知道其他人是怎么用它。"其实,在我们讲到"其他人"之前,我听到你说过一句有意思的话,跟你刚才说的发明技术有关。技术正在快速增长,但采用应该缓慢而审慎。我还听你在另一个播客上说:"嘿,我甚至在考虑,我到底该让AI看到我电脑上多少东西?"你想聊聊那个吗?

Sam:对最新一代models,我不想说它们"够聪明了",因为我觉得我们应该始终追求它们变得更聪明,但它们确实相当聪明。而到了这一步,我更感觉到限制来自AI掌握的我身上有用context的多寡。我希望AI尽可能多地了解我,来帮助我。我希望它去做那些我自己做不到或不想做的事。我不会去读我们内部Slack上每一条帖子。我不会去读每一个客户讲述ChatGPT在哪里帮了他们、在哪里坑了他们的故事。我做不到。还有一些别的事,我大概可以比现在读更多research papers,但那很费脑力。我希望有一个AI agent,它持续努力地对我有用,能看到并理解比我更多、或者比我一个人有时间、有精力去看的context,在我做决定时帮我把这些context带进来,给我好的建议。

所以我觉得,我们把太多注意力正确地放在了model智能上,在产品端,我们还没有足够想清楚这件事意味着什么:给一个model比任何人都多的context,并帮助那个人在重大决策上获得建议。我的感觉是,我们正处在能看到一种非常不同的、与 AI 协作方式的悬崖边上,在那个维度上,人类就是无法做到这么好。有很多非常聪明的人,但没有人能在短短几秒内读完几万页的context,并真正准确地运用它。这是AI能做到的事,它会非常新,是一个不可思议的补充。

David:你读过所有这些传记。会有一些时刻,你模模糊糊记得某个东西,如果你能从其中一本里想起一个具体的轶事,它就能在某个瞬间真正帮到某个创业者,就在你跟那个特定的创业者聊天的时候。但也许你忘了,或者记得不确切。我自己建了一个AI tool,我在内部用它。你知道它是什么吗?它只训练了,从2018年起,我把读过的每一本书的每一条笔记和划线的句子都存进了这个数据库,我会去搜它。然后当你们的工作出来之后,我又加了,所以它训练了那些,每一条笔记、每一条划线和《Founders》每一集的逐字稿。我每天用它来做每一集节目。比如我正在做Claude Shannon那集,Shannon那集是两三周前出的,不管具体是什么时候。我会问:"嘿,Bob Noyce对这事是怎么说的?或者Rockefeller遇到这种事是怎么做的?"然后我做了那集节目。我读过那本书,记过笔记,但我不记得了,因为那是七年前的事了。太不可思议了。

04 Sam Altman的好点子献祭与OpenAI的平台赌注

David:我们聊聊你怎么思考经营公司这件事。你花时间,你说你的主要精力是获得更多compute,然后是research,对吧?所以你想要世界上最好的models,但你如何看待,你必须要自己做产品吗?你现在做了Codex,对吧?我甚至不知道产品线是什么。收入都是从哪来的?

Sam:其实,我觉得我们应该更多是一家platform company,而不是product company。我们当然会做产品,但你有多少个产品?

David:你现在有多少个产品?

Sam:我们刚把ChatGPT和Codex合并到一起。所以我们以前有ChatGPT、Codex和API。Codex这个名字取得不太好,但它不只是写代码。它几乎能做任何工作,这让人们很困惑。很多其他人也一样。我认为大多数人想要的是一个单一界面,通往他们个人或他们公司的AGI,能在他们需要时帮他们处理任何事,再加上一个API能力,可以在其上构建任何他们想要的东西。这才是我们应该提供给世界的platform。我们会在cost-performance曲线上的每一个点都出售伟大的AI,我们会是最好的。你想要顶尖的AI去发现science,很好。你想要极其便宜的AI去做大量不要求天才级智能的工作量,我们也覆盖你了。把它想成一种新的公用事业、一种新的商品,随你怎么叫,人们想大量使用AI,他们想要低成本、想要快、想要好用、想要有他们的context、想要顺滑。我们都有。

然后还有一个单一产品:我最终要问AI一点什么。也许AI应该主动给我提供东西。但你会拥有这个从聊天机器人起步、现在也有了coding agents的界面,我认为在某个时点它会感觉更像一个持续的agent,连接到这个运行在你需要的任何载体上的AI。但就这些了。我不认为我们应该去构建每一个产品类别。我不认为我们应该去试图跟所有客户竞争。我不认为我们应该试图吞并整个经济。我认为我们应该提供这个platform,努力让一亿家新企业和八十亿人用它做各种新的事。所以,一个直接的产品界面,一个让人们想怎么用就怎么用的API。这些最终也会越来越融合。然后一切就取决于人们拿它做什么、在它之上构建什么、以及别的什么。

David:你犯了哪些错误,才不得不学到这些?我觉得你不得不杀掉一些好点子,放弃去追求伟大的东西,用你全部的强度和专注。

Sam:对,我觉得杀掉好点子,牺牲好点子去追求伟大的点子,是任何创业者或企业最难学的一课。杀掉好点子很痛苦。而且无论你以为自己会怎么做,每个人,也许只是由选择成为创业者的人的天性决定,在这件事上都做得一团糟。我做得一团糟。我知道我在这件事上很糟。

但比如说去年,我们杀掉了sora,那是个好产品,好玩又酷,但用掉很多compute,而且不如我们把算力投进去的Codex重要。我们杀掉了我们叫Atlas的网页浏览器。我再次觉得那是个伟大的产品,是最好的浏览器,但对我们来说,不如把那些人才放到别处去专注重要。在一个compute有限、人力有限、资源有限的世界里,我们非常认真地想了想,然后说:"你知道吗,面向知识工作、最终面向科学的人工通用智能,是我们能做的最重要的事。"任何为生成那种智能所做的前置工作,构建我们自己的chip,构建我们自己的数据中心,写好的基础设施软件,当然还有训练models,所有这些显然都很重要,但然后,我们就只是把AI作为一种服务提供出去,让人们把它用于智力追求、用于工作、用于scientific discovery、用于让个人生活更高效。让我们拥有那种灵活的通用platform,不要做太多别的事。

05 Sam Altman的思维导师与OpenAI起源

David:任何从事复杂工作的人,而你现在大概排在任何在世的人的前列,都需要有人帮他们整理思路,对吧?这极其有益。你在每一本传记里都能看到这一点。你在历史里都能看到。你需要一个可以交谈的人。其实有一个好笑的故事,讲这件事能有多极端。Charlie Munger有个叫"猩猩理论"的东西。你听说过吗?他说,一个相对聪明的人可以走进去,跟猩猩坐下来,把自己的所有问题、脑子里所有事都告诉它,然后猩猩显然什么也不说,什么都不说。这个人离开,而且他的状况变好了。仅仅是"被迫把自己的想法整理成某种结构"这个行为。显然,如果有一个非常聪明的伙伴,Munger为Buffett扮演了这个角色。Buffett是史上最聪明的人之一,有史以来最伟大的投资人。他仍然需要向别人整理自己的思绪。

你正在经历,我想不出,你几乎拥有一种独一无二的生活体验,尤其是对你这么年轻的人来说。所以我很好奇:谁在你生活里扮演这个角色?你会去找谁,谁能哪怕稍微共情一下你日复一日到底在应付什么鬼东西?

Sam:大概有三类。第一类:很多在这里待了很久的researchers。我们基本上是一起经历过这一切的,我们发展出了一套共享的语言、直觉、标准,随你怎么叫,而我无法在公司以外跟任何人复制这种东西。

至于事情现在的形态、接下来可能发生什么、技术可能会往哪走,就商业和世界的纯问题而言,在我职业生涯的很长一段时间里,Peter Thiel和Paul Graham是我在职业各个阶段学得最多的两个人,而且如果我有一个非常不明显的难题卡住了,我仍然会去找的两个人就是他们。而且,我找了很久,也没有找到任何人具备同样的那种超级非线性思考的能力。如果说大语言模型做的事是预测下一个词是什么,那这两个人是我最预测不出下一个词的人。而这是一项超级宝贵的技能。

David:你带着"天啊,我卡住了,我把这些选项都想遍了"进去。然后有个人能告诉你:"我觉得这些选项没有一个好。这里有件你没想到的事,现在看起来完全明显且正确。"就是一种你从未在任何地方听过的、完全不同的视角。这更像是一种对你自身思考的"提示",而不是明确的建议,比如"去做X"?

Sam:它常常是"这里有一件具体的事"。

David:那你能举一个来自Peter的例子吗?

Sam:Peter让我觉得非常着迷。而且他其实正是我想到的那个人。我刚才想到这个问题,是因为你说我们不得不为伟大的东西杀掉好点子。我们砍掉了Atlas,我们专注,专注,专注。当你听Peter谈专注的重要性时,那是非常明显的事。如果你有一个正在work的东西,让它更work,沿着这条线走下去,从中拿走一小时去探索别的东西,成本太高了。你应该在已经work的东西上走得更深。极端处有大量价值。

我们发布ChatGPT之后,那是个有点奇怪的东西,因为人们不太知道拿它干什么,而它增长得非常快,但感觉非常不稳定,或者几乎像一种低价值增长。人们用它只是因为对跟它聊天、以及它能做什么感兴趣。所以公司里有很多人说:"我们得想点别的。这不是可持续的价值。"我记得跟他聊过这个,比如五个六个我们可以专注的替代选项。那大概是ChatGPT发布两个月后,差不多那样。而他说:"除了它正在增长,这既罕见又伟大,之外,做任何事都是明显的错误。"它当时还没有后来增长得那么快。他说:"它的力量就是Google搜索框的力量。它是一个文本框,你可以输入任何东西,然后它做对的事。而它不符合当前Silicon Valley的智慧,你知道,你得有信息流,你得有网络效应,你得有,因为我们这些东西一个都没有,所以大家才担心,你知道,你得有一种让人们积累更多的方式。这发生在我们有记忆功能之前。人们会积累更多context。人们会被锁定吗?人们会拥有所有的,"

他说:"那些东西,人们只是追逐Google商业模式20年了,这是第一个冒出来的东西。而且很明显,空文本框对Google有效,那你为什么不对它加倍下注?它正在增长,它非常灵活,它有所有那些迹象,唯一的问题是它不符合当前SiliconValley的智慧。"然后我说好吧。于是我们对它疯狂投入,结果非常好。

David:就他刚才说的而言,他是一种"简单的天才"。有时会有更复杂的,但那是"非常重要的简单天才"的一个例子。PaulGraham呢,有没有什么建议、或某种引导、或一个方向,是他把你推向的?

Sam:你刚才说那个,这对很多YC founder来说是一个梗,你会去参加他的办公室时间,他会说"你知道你该怎么做吗?",然后他会这样晃着手指。"你知道你该怎么做吗?"有时候接下来那句话很棒,有时候很糟。但重要的是,有一种创造力和开放的天地,就是"让我们多试一些东西"。我们聊过迭代部署的精神。在创业上也是一样,他真的,我认为,把创业生态推向了这样一个世界:你必须交付一个v1,你尴尬地早,这不重要,即使它可以好得多,因为来自客户的反馈,你会把它变得好得多、好得多。我甚至不记得发布前有没有问过他:"嘿,你觉得我们该发布这个东西吗?"但我知道他会说什么。我知道它还早,我知道它还很尴尬,我知道正确的事就是把它推出去、放到人们面前。

David:所以你对Paul Graham的心智模型已经如此完整,以至于在这个案例上你甚至不需要问。那就是你会说"这里有确定性"的那种情况。

Sam:我给你讲个好笑的。就在他去世前,去世前几个月,我去了Charlie Munger家跟他吃晚饭。我问他:"你多久跟Buffett聊一次?"他说:"从不。"我说:"什么?"他说:"我们以前每天聊好几个小时。Buffett只要假装拿起电话给我打电话,就已经知道我要说什么了。"那当然是65年紧密合作之后才有的,但我觉得太好笑了。也有很多次我预测不到他会说什么,这正是我觉得它有价值的原因。但就发布这件事而言,当你对自己的产品感到尴尬时,我知道他会说什么。那一条,我不会说它是YC战术建议里最有价值的一条,但它排在最前列。

David:你在这次对话里提YC的次数太多了。我必须探究一下,因为我们之前聊过。听着,我不是记者,我是爱好者。我没有问题清单。我面前坐着一位世界级的founder,我想知道这个人的脑子里到底在想什么,我想自私地把信息挖出来给我自己。所以为什么,我只是震惊于你在对话里提到它的频率,经历过YC、然后又经营YC、跟他们保持关联,对你的生活影响有多深。你能展开讲讲吗?

Sam:有那么一支乐队,不太成功,专辑卖得不多。但他们影响了后来所有音乐人。我想那支乐队叫The Band,真的,是Rick Rubin讲这个故事,我记得可能是Velvet Underground。但你懂我的意思。用这种方式谈论YC其实不太公平,因为YC用传统指标衡量,比如创造的市值什么的,是屈指可数的几家最有价值的科技公司之一。但YC在多大程度上彻底影响了过去20年里科技行业、创业、企业家精神发生的所有事,我觉得这还只是被部分理解。OpenAI就是其中一个例子。不仅是从我们如何把产品推向世界的方式,还有我们运营research lab的哲学。我觉得如果你去跟这一代大科技公司的很多其他经营者聊,他们会讲类似的故事,即使他们没有经历过YC。

David:但那里面发生的是什么?是YC给你的一套操作系统吗,因为你听到"做这五件事"什么的,还是更像一种构建公司的哲学?这是我这个外人感到困惑的地方。

Sam:我觉得是两件大事。确实有一部分是"该做什么"的操作系统。但我认为它是经营公司的哲学。迭代部署的理念、让技术人员掌权、愿意在公司各个层级押注那些充满活力和野心但也许经验较少的年轻人。然后还有随之而来的、发生在YC之前的科技生态里的、对整个生态的改变。

所以,如果我们把时钟拨回2004年,把技术往前投影到2016年,但创业生态的其他任何方面都不变,成为创业者意味着什么、资本如何流动、所有那些谁有资格经营公司、所有那些事,我不认为OpenAI会成为可能。我认为 YC 在整个生态中引发的那些改变,更多杠杆流向创始人、年轻的技术创始人能够筹集大量资本、能够不用非常过硬的简历就去做雄心勃勃的事,没有这些,OpenAI 不可能成为可能。所以这是一种挺大的改变。

David:这一切是不是也跟你认为"从founder到investor、很长时间、再回到founder"对你有利有关?

Sam:那些好处也都有。而且我不会说我真的经历了"founder到investor到founder",因为我第一次当founder时并没有做得那么好。就像一家公司,你会从失败里学到一些教训,但我认为你从成功里学到的要多得多。

David:有一句,我简直不敢相信,我觉得是某部伟大的俄国小说。我很惭愧不知道是哪部。开头是"所有不幸的家庭各有各的不幸,所有幸福的家庭都是相似的。"

Sam:对。这就解释了它为什么跳进我脑子里。但我认为这真的很对。当我审视我在某件事上失败的教训时,我学到的是关于韧性和决心的一些泛泛的东西,以及"别做什么"。但大多数事情都不work。所以事情不work的原因有很多。而且我认为要拼凑出正确的因果关系更难。

而当我真正做成了某件事,当我理解Y Combinator的哪些部分真正奏效,或者OpenAI的哪些部分真正奏效,把这些教训应用到未来,比试图应用那些"什么都没做成"的反面教训要有帮助得多。所以,当然,你应该从每一个数据点尽可能多地学习。从失败里学,从成功里学。但以我自己的经验,当我试图应用那些教训时,我从成功里学到的教训非常好,我本该更多地应用它们。而我从失败里学到的教训,要么相当泛泛、我本来就知道,要么会妨碍别的什么。而且我认为这对很多人来说大体上都是成立的。

David:但这不是有点像,我们已经知道该做什么、该避免什么了?关键是提醒,是不断的提醒。我听过的对我另一个播客《Founders》最好的描述是:它是创业者的教堂。如果你认真想想,我以前在周日更新,我应该恢复那样。但它真的只是我在讲同一个东西,是那个贯穿历史反复出现的同一种人格类型。只不过现在这个人恰好在造船,这个人造了技术。他们活在不同的时代。同一种人格。这是肯定的。

我有点痴迷于"长久存在的东西"这个想法。公司,最好的公司能活很久,但没有城市久。而城市和国家又不如宗教久。然后我想:在所有人类造物里,什么活得更久?我会说我想不出别的,也许宗教是另一个。于是我开始研究。我长大的过程中,我妈妈是原教旨主义基督徒,所以我整个童年都被迫去教堂。我开始分析:世界上所有主要宗教有什么共同点?就是,哦,我们有共享的知识基础,通常是一本书,对吧?我们定期跟志同道合的教友聚会。而且不是说我周日去教堂,然后"我们上周聊了耶稣,这周聊聊别人",不是。我们一遍又一遍回到同样的书、同样的故事。

所以,我读你的博客,你甚至说过这个,关于YC结束的某种东西。就像你在重复同样的东西。你一直讲给他们听,然后他们离开教堂,借用这个类比,然后他们就不再做同样的事了。甚至不是那些教训。关键是那个持续的提醒:这件事很重要。

Sam:我极其强烈地同意。但我认为最好是被提醒那些正面的东西,多跟用户交流,更早交付产品,获得更多反馈,对招聘和录用的人设立更高的门槛,而且要更快。但我认为好的才是好的。

David:你有条最棒的推文,我会对着手机说。你写的是:"别去什么大会、晚宴,其他一切都别管。本质上就两件事:做产品,或者卖产品。你不在做产品,就在卖产品。这就是你真正需要做的全部。"我觉得,这又回到了那个"简单的天才"。

然后,这是我觉得最迷人的另一部分。昨天有人问我:"我遇到的每个founder,通常都能找到某种历史对应,让我能说'哦,那家伙有点像Vanderbilt。那家伙像Rockefeller',或者这些人里的任何一个。"然后他们问我:"Sam的历史对应是谁?"我说:"没有。我想不出一个,因为我还不够了解他,我还不理解他怎么思考。"

我刚跟Doug Leone聊过,他谈到他雇佣过的一个家伙Nubank的创始人他原来是VC里的一个分析师,然后离开去创立了最成功的公司之一。我说:"我从没听说过这种事。Doug,你呢?"——Doug 可是把一辈子都献给了风投这行。他说:"没有,那是唯一一个。"所以,非常罕见。大多数人是从founder、不幸卖掉公司、然后当investor,而不是把公司经营到死那是我偏好的做事方式。

我好奇的是:你刚才说"我从成功里学到的更多"——你说的成功是指啥?是你在YC那十来年里见过的那一万家公司吗?但显然,里面也就那么几家、十来家算得上世界顶级。所以你的意思是,那些公司的成功,对你来说也有学习价值?

Sam:完全不是。我是说,我觉得人们确实会。你是个了不起的学生,但也有不少相当不错的企业家精神的学生。人们,我觉得,常常会去翻找那些真正奏效的东西的教训。而就像你说的,那是一遍又一遍同样的东西,换着行业重复。但你得被提醒很多次,而且它不迷人。

David:我开始这场对话前完全没准备——我之前跟你说过,这纯粹是为了我自己长见识。但即便是那些影响过你的人,比如Peter Thiel,他会说"不,傻瓜"。他显然会说:"不,傻瓜,这事儿正在奏效,你干嘛还要去搞别的,不去做正在奏效的事?"所以肯定有过这种时候:你心里想"嘿,这条建议我给别的创业者讲过一百万遍了",然后突然一拍脑袋:"哦,我自己现在居然都没在践行我自己的建议。"

Sam:我认为,看看"什么是新的、什么你没有现成建议可循",也是有启发性的。OpenAI跟我之前所有做过模式匹配的东西真正不同的地方是:从我们创立公司到发布第一个产品,中间隔了四年半。这跟YC的建议完全相反。虽然管理一个research team,在很多方面跟挑选和建议founders相似,我们在多大程度上学会了这些,因为我觉得我们做到了,但你是如何穿越这个世界的这一段的:你没有来自客户的外部信号,你只是试图做那件按正常标准是灾难性创业建议的事,四年半不交付产品。那非常困难。我们试了所有这些办法,关于我们如何用"我们的research是否真的在work"来替代"客户是否真的喜欢这个产品"的信号。

其中一个实际上奏效的办法是:在Dota2那段时间,当我们试图用强化学习在一款游戏里击败人们时,我们放了一个leader board,人们可以直接看到不同的想法表现如何。那是客观而真实的,人们想往上爬。但我们必须尝试所有这些办法来基本上模拟终端用户,而那是一个我完全没有模式匹配的全新问题。

David:你是怎么一步步走过来的?你的思考是什么?你是怎么做到的?

Sam:我们问了一群曾经待过伟大research labs的人。而OpenAI起步的时间,正好是Silicon Valley每个人,把它当作自己的虚荣项目,包括我,都想建research lab的时候。有很多关于Bell Labs黄金时代或Xerox PARC(Xerox施乐旗下的传奇研究中心,全称为 Xerox Palo Alto Research Center,位于加州帕洛阿尔托。1970 年代发明了图形用户界面(GUI)、鼠标、以太网、激光打印机、面向对象编程等革命性技术,但 Xerox 公司本身未能将这些成果商业化,反而被 Apple、Microsoft 等借鉴)的书非常流行。每个人都在谈论这个。有大量的讨论。事实上,我甚至看到那边有一本关于Bell Labs的书。但活着的记忆里,真正知道怎么做的人并不太多。所以我们跟Alan Kay聊了很多,还跟其他几个人聊了。我们得到了一些关于什么造就一个好research lab的建议。有些真的很好。有些没能很好地转化到当下。

David:你也没有那台庞大的、垄断性的印钞机。Bell Labs是独立分拆出来的。Polaroid在基本上垄断摄影的时候做了多得多的research。我刚刚读了Honda创始人的传记,对吧?那个家伙创造了有史以来最成功的机动车。Honda Cub连续卖了大概60年,数百万辆。而他的整个理念,他得出了跟Bell Labs一样的结论,他认为研发实际上必须分离。它从公司里分拆出来,拥有独立的股权,就像Bell Labs那样。我们可没有那个。

Sam:不,我们确实没有。当我回想那些早期日子,我主要的感觉是:我一直在尝试融资、然后失败。那是我对OpenAI早期日子的主要记忆。那么多努力,那么挫败。我真希望我们有个那样的印钞机。

我记得OpenAI对我来说最清晰的记忆之一。它是在2015年底宣布的。但第一天是2016年新年刚过,我们12个人、或者11个人,出现在Greg Brockman的公寓里,大概周一或周二早上9点半,差不多那样。就说是1月4号吧。所有人都到了,这是一次巨大的努力,每个人走进来时都带着极大的兴奋。就像开学第一天,随便你怎么说。然后很快,人们环顾房间,有点"呃,我们现在做什么?"有人说:"好,我们应该弄一块白板。"Greg叫人去找白板。白板来了。再环顾一圈。"我们现在该干什么?"你能感觉到房间里的能量垮掉。我们没人知道该怎么办。它不像做一个产品创业公司。不像"让我们做这个产品,让我们跟客户聊聊"。而是"好吧,我们说要做AGI。也许我们该写几篇papers。好吧,我们写papers。也许我们该想一些想法。好吧,我们想想法。"每个人都有那种"我完全不知道自己在干什么"的时刻。那是我的时刻之一。我们刚刚推出了这个东西。我们没一个人知道我们要做什么。

所以我们做了我们会做的事,最终我们发现很多东西都不work。最终我们找到了某种制造、然后评估研究赌注的节奏。显然远非完美。但我们确实找到了一条可以循着前进的"梯度"。我们搞清楚了如何获得那些非常聪明的人需要的资源,以及如何确保我们不会完全迷失在荒野里。而在几年里,大多是混乱的摸索,我们最终做出了大部分重大发现。那个从纸面上的无监督情感开始的东西,变成了GPT-1,然后是最终某个GPT。Scalinglaws(缩放定律)那项工作给了我们信心,不仅是买算力的信心,还有如何扩展models的理解,它就这样汇聚起来,经过这个过程还有好多其他事。在这个过程中我们学到了排行榜那个主意是work的。我们还学到了外部演示的巨大力量,为了某个researchers们真的很想打动的权威人物。然后我们还学到了一大堆不work的东西,比如虚假截止日期。

David:经历那种体验一定非常令人迷失。你们12个人在一个公寓里,连块白板都没有,不知道干什么。快进十年,十亿人在用。非常奇特的体验。你记日记吗?

Sam:我的孩子出生的时候,第一个孩子,我一天结束回到家,会抱着他摇着哄睡,就跟孩子说话什么的。所以我得想出一些话题来聊。所以我会跟他说我的一天、我们在挣扎什么、我在担心什么、正在发生什么。做这件事对我来说挺有意思的,我想"这有点意思,将来对他来说有这些也会很有趣"。所以我开始给他写信,每个周日我都会给他写一封信。我就是聊,然后把它写下来。我大概只写了八封什么的。

David:好。Jeff Bezos有句关于建设Amazon的名言:"我们在努力做那些将来能骄傲地讲给孙辈听的事。"而那些事都很难。你给儿子写信这件事,天啊,继续写信。如果你不那样做,这个很快,因为我读够了这方面的书,大多数时候,你猜怎么着?Founders不会在40岁写自传。他们70岁才写,那时他们回头看,希望自己能重来一遍。有太多东西已经随时间的流沙消失了。他们都重复同一句话:"我真希望我当年记日记了。"所以即使你不写,你有足够的资源。我会做的:写,让人写一本书,哪怕只为了内部用途。你读过Michael Moritz的《The Little Kingdom》吗?

Sam:我没读过。

David:那是Michael Moritz写的Apple前六年历史。他写了那本书是不是很疯狂?他是个了不起的作家。这个疯狂的作家后来成了有史以来最好的风投家之一,我猜。但重点是,有那本书。Steve Jobs当时甚至还没被赶出Apple。所以你能看到实际发生了什么。你会想要这个的。你现在可能不想要,但你60岁或70岁时绝对会想要。

Sam:最有趣的是写信给孩子的那种心态。你真的没法躲在任何东西后面。你会想:"我真的很在乎我的孩子会怎么看我。"所以"这件事发生了,感觉不太好。下周得换种做法。"那是一个非常、极其有意思的心智框架。也许我会找到某种方式再做一次。

David:希望你喜欢这一集。请记得无论在哪里收听都要订阅并留下评价。也一定要听我的另一个播客《Founders》。近十年来,我痴迷地读了400多本历史上最伟大创业者的传记,寻找你可以在工作中使用的想法。你在这个节目里听到的多数嘉宾,最初都是通过《Founders》找到我的。

原视频:Sam Altman on Building OpenAI & Betting on the Impossible

https://www.youtube.com/watch?v=kG8AoExkX40

编译:Yirui Wang

文章来自于微信公众号 “Z Potentials”,作者 “Z Potentials”

Related topics

After reading

Join the AINRK community

Read how to join the community and connect with people working in AI.

Community information (opens in a new tab)