AI news

喝点VC|No Priors投资复盘:未来两三年仍会诞生千亿美元公司,但要成为数万亿美元公司就相当困难

By Z Potentials2 viewsSource: Z Potentials
喝点VC|No Priors投资复盘:未来两三年仍会诞生千亿美元公司,但要成为数万亿美元公司就相当困难

当算力真正成为稀缺资源时,人们会发现,在任何一个机构里,往往只有几十名研究者贡献了大约80%的成果。真正昂贵的不是研究者本人,而是与他配套的算力。因此,如果拥有一定的Token预算,你要把它分配给谁,为什么。

The full text has not been translated yet. The Chinese original is shown below.

文章配图

图片来源:Sarah Guo & Elad Gil

Z Highlights

  • 当算力真正成为稀缺资源时,人们会发现,在任何一个机构里,往往只有几十名研究者贡献了大约80%的成果。真正昂贵的不是研究者本人,而是与他配套的算力。因此,如果拥有一定的Token预算,你要把它分配给谁,为什么。

  • 如果只关注等式的一边,就一定会限制事物发展。如果一边在外部施加限制,一边让内部进步继续指数式推进,而人工智能世界的一年相当于正常时间的三四年,那么内部机构就会领先整整一年,这是巨大的优势。

SarahGuo,人工智能风险投资机构Conviction创始人兼合伙人,曾任Greylock Partners普通合伙人,长期关注人工智能、企业软件与基础设施投资,代表性投资项目包括Harvey、Mistral AI、Cognition、Sierra和HeyGen等。EladGil,硅谷连续创业者、科技投资人及企业经营者,曾联合创办MixerLabs和Color Health,历任Twitter企业战略副总裁,并曾就职于Google。其早期投资项目包括Stripe、Airbnb、Figma、Coinbase、Anduril和Perplexity等,著有《High Growth Handbook》。

01 世界能容纳多少家万亿美元公司

Sarah Guo:各位听众,欢迎回到No Priors。今天只有我和Elad,我们会聊聊风险管理、RSI,世界上究竟能容纳多少家万亿美元公司,以及监管俘获的种种弊病。

Elad Gil:Sarah,最近怎么样?

Sarah Guo:Elad,很高兴见到你。我们已经很久没有只是坐下来聊聊天了。

Elad Gil:是啊,太久了。怎么回事?你最近都去哪儿了?

Sarah Guo:在华盛顿特区忙着帮公司,也想抽一天休息。你呢?

Elad Gil:现在人工智能领域发生的事情实在太多了,真的太多了,一刻不停。这是个非常令人兴奋的时期。

Sarah Guo:你是在寻找下一家万亿美元公司吗?

Elad Gil:是的,这个问题很有意思。过去五年左右,我们看到三家公司大致从接近零的状态成长到一万亿美元市值?五年前Anthropic基本还不存在,OpenAI也仍处于很早期,我想GPT-3当时才刚刚发布。SpaceX的交易估值大约是800亿或1000亿美元。随后,这些公司的估值突然出现了巨大的跃升。现在很多人因此认为,未来三到五年还会诞生一批万亿美元公司。但这在人类历史上前所未有。通常要花20年?SpaceX从21世纪初一路走来,Google则始于20世纪90年代,这些通常都是15到20年的历程。可我们刚刚经历了一次奇怪的五年跃升。

所以我觉得,现在许多人都在看一些非常令人兴奋、很有前景的领域,比如机器人、材料,而在他们心里,每一个领域都会诞生一家万亿美元公司。也许其中一些公司能在未来十年达到这个规模,但未来三到五年再出现很多家,可能性并不大。我能想到一家或许可以做到,但不会有很多家。

Sarah Guo:哪一家?

Elad Gil:我不会说的。

Sarah Guo:Elad,那我该把钱投到哪里?

Elad Gil:我也不知道,就像扔飞镖一样。所以我们这里才放了一块飞镖盘。

Sarah Guo:所以你认为,这其实只是一个格外优质、很特殊的时代批次,而不是整个生态系统会一直变得越来越大?

Elad Gil:它更像是一种“间断平衡”。进化理论里有一种观点叫间断平衡:先出现寒武纪大爆发,随后进入整合期,事物在一段时间内保持相对稳定,然后又迎来一次爆发式上升。技术史也有点像这样。我们经历过一轮大型社交网络浪潮,但如今并不会源源不断地出现十几家新的社交公司。我们也经历过SaaS浪潮,之后格局逐渐稳定。刚刚我们又经历了一轮巨大的人工智能浪潮,而且后面当然还会有更多变化。也可以说,互联网经历了四五个阶段:20世纪90年代的互联网,随后是早期社交网络,一直延续到2010至2012年前后。

还有SaaS、云计算、大型网络安全公司,也有加密货币这一轮浪潮。所有这些浪潮都在发生,有时一项技术还会经历两个阶段,比如比特币就经历过几个不同周期,其他技术也会如此。人工智能无疑还会在模型能力上出现某种重大突破,届时我们会再次迈上一个台阶,一批创业公司也会突然涌现。但我们经常看到这样的时刻:某些事物从零迅速增长,随后其中的公司成为整合者,接下来的问题便是后面还会出现什么。我认为现在至少已经出现了一部分整合者。问题在于,未来几年还会有多少家巨头公司出现。这不同于讨论未来20年会怎样;20年内会出现大量有意思的东西。

未来两三年仍然会有很多事物大幅增长,也仍会诞生许多千亿美元公司,但要成为数万亿美元公司就相当困难。

Sarah Guo:我倒想认识一下你说的那些投资人,因为我更常遇到的问题,是投资人缺乏想象力,无法设想一件事物能比上一个时代最接近的参照市场大多少、好多少。我认为,重新思考市场规模的能力,仍然是当下各个投资阶段都被低估的一项关键技能。以我们共同投资或其他人投资的一些应用公司为例,很多投资人在理念上已经承认,人工智能公司能够交付服务价值,但他们的实际行动并不像真正相信这一点。他们看问题仍然比较线性。比如在看Harvey或Abridge这类公司时,他们会按席位、按律师人数或按医生人数计算TAM。

但他们并没有真正追问:如果一家公司可以按照结果收费,它会变成什么样?也没有真正思考编程领域正在发生的变化——这里的使用量和价值可能还会增长100倍。我认为编程市场远比任何人过去设想的都大。我们两个人一两年前可能都说过这一点,但现在证据已经摆在眼前。你不需要是天才,也能把这种逻辑推广到其他领域。

Elad Gil:证据确实已经出现,但另一个问题是什么才是万亿美元市场,什么又只是千亿美元市场?两者都是很大的数字。我大约在2010年写过一篇博客,讨论一家公司的市值要达到100亿美元有多难;现在,这个数字几乎只是某些新型模型实验室的一轮种子融资。别误会,我认为很多公司都可能达到1000亿美元,但真正能达到一万亿美元的不会有那么多,这是完全不同的数量级。所以问题是,哪些领域真的能够形成万亿美元市场?你只要反推支撑这种估值所需的收入就知道了:一家公司的收入很容易需要达到500亿至1000亿美元,而且利润率还要不错。

因此,真正的问题是:哪些单一公司能够拥有500亿至1000亿美元的收入来源?这和“总体可寻址市场是不是很大”不是同一个问题。那当然是极其庞大的TAM,而全世界只有很少的市场能达到这种量级。目前大概有十几家公司接近这个区间,但未来五年还能新增多少家?这才是我的问题。我问的不是未来20年,而是未来五年有哪些公司能做到500亿至1000亿美元收入。这样一来,你思考问题的方式就会改变。很多公司都能做到50亿或100亿美元收入,从而成为千亿美元公司。

Sarah Guo:我的视野可能放得稍微更远一些。但如果只看未来几年,我不知道除了推理以外,还有多少市场能达到1000亿美元收入。你认为在这个时间范围内还有什么?

Elad Gil:也许是某些供应链或能源类技术。

Sarah Guo:也许吧。确实可以列出五六个看起来很有希望的领域。

Elad Gil:另一个问题是,如果它是一家实体产品公司,比如能源、机器人等,它真的能以这么快的速度建立足够的实体业务规模吗?我并不是怀疑某些市场足够大,而是怀疑公司能否以那么快的速度触及那个规模。

02 前沿实验室阴影下的创始人雄心

Sarah Guo:完全同意,这正是问题所在。至少以我的观察,大家正在集体按照“公司具备快速增长到万亿美元的速度”来投资,而这和市场本身是否足够大是两回事。现在人们把两者混为一谈。与此同时,我还看到一种几乎相反的现象:一些非常优秀的创始人因为害怕新型模型实验室,而选择进入细分市场,于是正面竞争反而变少了。回看Harvey、Open Evidence、Decagon,或Sierra、Nerd等公司三四年前、四五年前所进入的市场,再看两年前的Cognition,它们选择的都是可能进入这些实验室路线图的大市场。但现在,这两种现象似乎正在同时发生。

一方面,在中后期科技市场中,人们仍然按照“许多公司都能迅速达到万亿美元”来投资,而我不认为这种速度真的存在。当然,有些公司可能达到200亿美元,有些达到1000亿美元,也有些会归零。另一方面,新一批公司正在涌现,问题是:面对实验室正在做的事情,创始人还能有多进取、多有雄心?我认为这正是许多人转向硬件公司的原因:“实验室永远不会做这种硬件,所以我们来做。”于是又出现所谓“美国活力”、人工智能的细分应用,以及本应由推理云提供的某些产品,诸如此类。

我觉得很多这类公司可能会更具衍生性,而与此同时,也仍然有人在做巨大而惊人的事情。并不是每一家创业公司都如此,但至少在我的观察中,出于对实验室的恐惧,越来越多人选择做更小、更细分的事情。我认为这也是一种负面变化。

Elad Gil:你的意思是,他们过于畏缩了;其实应该迎着正面竞争上,因为完全可以做出更好的体验,在产品、分发等任何层面直接竞争。

Sarah Guo:我想是的。当然,有些市场确实会被实验室自然吞掉,但还有很多市场不会。现在人们却同时避开了这两类市场。

Elad Gil:我们的投资组合里也有一些公司正在挑战相当核心的前提,所以我不认为所有创始人都过于畏缩。

Sarah Guo:不,我也不是说所有人。我是说这种情况正在增多,而且主要出现在最新的一批项目里。我不是在说那些已经成立一两年的公司,而是说趋势线正在移动。再强调一次,并非所有人都如此,只是这个群体已经足够大。更重要的是,这不只是任意一群创始人,而是优秀创始人中的一部分。我不担心中位数水平的创始人,我关心的是最优秀的创始人正在做什么。

Elad Gil:最近我确实更经常感到失望:一些创始人的雄心没有达到他们本可以达到的程度。所以,也许这就是你说的趋势。

03 创始人何时应该出售公司

Sarah Guo:我们之前谈到过,公司或者创始人应该在什么时候出售公司。以现在这个时间点来看,你的想法或判断框架是什么?

Elad Gil:有少数公司永远不该出售,至少短期内绝不该卖。如果你是Anthropic,就不该卖;如果你是Open AI,也不该卖。总有少数公司不应该出售。但在任何时代,大多数公司至少都应认真考虑这个选项,而且通常会存在一个使时间价值最大化的窗口:在那个窗口内出售,可能得到最好的结果。这个窗口通常只有12到18个月,也就是公司可能达到其历史最高价值的一段时间。最近我们看到的一笔大型退出,或许就是这种情况。还有一些公司也应该积极考虑出售。从治理规范的角度看,公司也许可以像Ben Horowitz曾经写过的那样,每年预先安排一次董事会,专门以非情绪化的方式讨论:未来六个月是否应该考虑退出?

因为会议是预先安排的,所以既不是创始人在推动出售,也不是投资人在推动,只是一场理性的讨论。讨论的答案完全可以是“不,我们应该继续前进,我们仍然相信前面还有某些重要机会”。但这种讨论非常有用,因为在当前周期里,人工智能世界的一年,可能相当于正常周期的三到四年,因此三年就像十年。回想三年前人工智能领域存在什么:无论模型能力、垂直应用、AI并购整合,还是基础设施等任何方面,世界都完全不同。我们正在一条加速的时间线上,一切都变得更快。

这意味着,你需要更频繁地重新检查自己的判断,因为底层事实变化得比以往任何时候都快。我不知道,你怎么看?你对退出或不退出的判断方法是什么?

Sarah Guo:我同意,有一类公司永远不该卖,除非它们已经无法为未来融资。如果要说当下出现了什么新的原则,我会在那场董事会——无论你认为该按季度还是按年度举行,如今都应比几年前更频繁——提出一个问题。那就每六个月问一次:随着成本下降、能力提升,你是否仍在捕获价值?如果你站在这场长期结构性变化的错误一侧,又无法跨到正确的一侧,那么你确实应该出售公司。如果你对如何站到历史正确的一边没有好办法,这就是需要认真追问的问题。

再以我们的朋友Cursor为例:你想依靠资本和算力获取能力来竞争吗?现在是否恰好处于公司价值可能达到最高点的时刻?这是个有趣的问题。更广泛地说,我觉得这是一项非常个人化、也很有意思的风险管理判断。人们应该认真问自己。以“从不考虑出售”为荣是毫无意义的。“Situational Awareness”的案例提醒我们,每个人也都必须先活下来,才有机会获得回报。对冲基金和公司不同,但两者都必须存活下来才能持续复利。至少,你需要让融资结构与你的论点所需时间相匹配,并确保公司能够持续获得融资,最终抵达你承诺的目标。

Elad Gil:融资仍然会存在。三家万亿美元级公司在短时间内迅速崛起,使大量风险资本开始回流。于是投资机构会募集越来越大的基金,又必须把这些钱投出去,它们会把钱投向未来的万亿美元公司。因此,我认为未来一两年估值还会持续上升,而且幅度可能远超迄今为止的水平。其中当然会有一些真正优秀的公司,也会有很多公司配不上这样的估值,但总体而言,融资会变得更容易,而不是更难。所以在我看来,问题与其说是能否融资,不如说是:你认为公司真正最可能实现的结果是什么?

不要听投资人怎么说,不要听媒体怎么说,也不要听Twitter怎么说。坐下来把账算清楚,并记住公司最终可能只按10倍左右的倍数交易,也许是15倍。那么你的公司到底值多少钱?还要记住,增长最终会放缓。你可以判断放缓会发生在什么时候,但必须把这些都算进去:未来的股权稀释、潜在结果、以及实现它需要投入多少年。最后你会得出结论。这里其实有两类机会成本或风险管理:一类与当前事业的价值有关,但最大的机会成本是你的时间。你人生中生产力最高的那些年,此刻正被押在这家公司上。

你可以拿着一笔可观的钱离开,去做下一件大事;因为你已经成功做过一次,人们还会愿意再次与你合作。你也可以继续下注,而且继续下注可能正是正确答案。对某些公司来说,当然应该如此;但对另一些公司来说,也许现在确实到了离开的时候。老股转让是一个中间选项,但我不认为它总是那么好,因为它解决了一些短期需求,却没有真正解决根本问题。很多2020、2021年创业的人,五年后仍在经营那些已经无法奏效的公司。想想他们被困住的五六年间,人工智能发生了所有这些变化。这对一位优秀创始人的代价是什么?

我认为,这才是人们较少谈及却真正重要的成本——你一生的成本。人只能活一次,而且生命很短。你真的愿意最终一直经营一家持续挣扎、资本投入过多、却还拥有十年现金跑道的公司吗?2020、2021年那一批公司中,很多人现在就是这种状态,仍在经营不奏效的企业。因为我们总在谈人工智能,已经把他们忘了。这是巨大的浪费。

Sarah Guo:我真正想说的是,即使现在和未来一年仍有大量资金在风险投资体系内流转,或由这些巨大回报创造出来,私募市场也完全可以在很长时间内既不理性,也不正确。因此,审慎管理公司的融资能力,就像避免被追加保证金一样重要。有些创始人所做的事情依赖一种技术判断,或者依赖对市场最终结构的判断;当投资人长期相信某些在他们看来错误甚至愚蠢的观点时,他们会非常沮丧。但创始人的工作就是在这种叙事或信念体系中找到出路。

如果他们认为局面已经不可持续,或者像你所说,自己的时间正在被浪费,那就应该出售公司。但情况也可能更糟:创始人固然承担资产高度集中的风险,可他们至少不是面对散户市场的非理性行为、又要应付下季度赎回的对冲基金经理。两者只是不同的环境。因此,事情并没有简单到“融资现在等于免费”。不过我同意,资金会自然地向被认为规模更大的机会倾斜。

Elad Gil:或者说,被感知到的规模。对,“被感知到的规模”很重要,而不一定是真实规模。

04 RSI、加速与倦怠

Sarah Guo:这里很多人正在研究或讨论的另一件事是:如果你去和实验室里的人交流,会感受到一种巨大的躁动能量。大家认为,再过大约六个月,或者到今年年底,编程就会被彻底解决,成为一个已经完成的问题。到明年年底,我们大概还会拥有某种轻度RSI;届时模型会开始训练模型本身的很大一部分。我认为最初可能更多发生在预训练环节,之后也可能更快地影响整个预训练过程。

正因如此,很多人会想:“如果我的职业生涯只剩一年或一年半的有效工作时间,那我应该每天工作16小时,因为在被人工智能取代之前,每一周都占我剩余生产时间的约2%。”你怎么看?我是该相信它,还是应该思考如果它真的发生会怎样?

Elad Gil:你相信吗?

Sarah Guo:如果研究这一问题的顶尖科学家相信,模型能够改进自身训练过程,而且这只是我们已经在代码和数学领域看到的趋势的延伸,那当然应该相信。

Elad Gil:但你也相信这个时间表吗?

Sarah Guo:我所掌握的情况是:过去五年里,每隔18个月,就会有一些非常聪明、甚至高度自省的研究科学家觉得,递归式自我改进的拐点或ASI距离我们只剩18个月。因此,这个预测的可靠性并不明确。从代码扩展到训练代码和数据流水线工作,我觉得更容易相信。真正的问题是,对于那些较难验证、更加复杂的领域,你要如何收集数据?或者,我们是否会先撞上实体算力可获得性的限制?我认为,与算法上能否实现相比,后者可能才是更大的限制因素。

Elad Gil:实体算力的限制实际上强化了寡头垄断,它为每一家实验室的进步速度设定了上限——如果我们假设算力大体上按比例分配给生态中的几家大型实验室,那么在算力约束无法解除的情况下,市场在某种程度上就被强制维持为寡头格局。至少,这会迫使各参与者之间的竞争比原本更加接近。我觉得这是这个时期一个很奇特的副作用。问题是,这种约束什么时候解除,解除后又会是什么样子。这是一个非常令人兴奋的时代。

Sarah Guo:我刚才想的是,相信“只剩18个月”会产生哪些二阶效应,因为这意味着18个月后可能出现一轮倦怠。我认识一些实验室里的人——其中一家还是你投资的——有段时间甚至会问我,他们该不该结婚。两个人想结婚,却担心不知道18个月后世界会变成什么样。我只能说:你应该结婚,继续往前走,一切都会好起来。所以,我们确实处在一个非常躁动、令人兴奋、工作强度极高的时期。是的,这一切很有意思。

Elad Gil:我倒觉得这有点悲剧。

Sarah Guo:真的吗?为什么?

Elad Gil:一些非常出色的研究者朋友对此的反应,让我觉得有些悲哀。在心理上,它最接近一种“人们以为自己快要死了”的状态。假如人生只剩两年,你会像今天这样度过吗?还是会采用完全不同的方式?这其实是一个相关的哲学问题。确实有人会想:“既然18个月后就会出现RSI,我的贡献似乎不再重要。那么我该结婚吗?还值得工作吗?该去旅行吗?还是只应该工作?”我认为,如果人们按照自己仍拥有漫长未来来行动,心理状态会稳定得多,也更容易获得满足。不过,也许你会认为这是一种盲目。

05 Token投入回报率

Sarah Guo:许多二阶效应正在发生,或者即将发生。其中一部分来自这种信念体系以及日后可能出现的倦怠。还有一部分来自我在一些实验室观察到的现象:当算力真正成为稀缺资源时,人们会发现,在任何一个机构里,往往只有几十名研究者贡献了大约80%的成果。这是一种很有意思的人类幂律。如果认真观察,任何领域最多都只有几十个人真正推动整个领域。无论乳腺癌研究、数学的某些子领域、物理学的某些子领域,还是创业生态和创始人,通常都是少数、几十个人推动了绝大部分进步。人工智能研究也一样。

于是,算力越来越多地被差异化配置给这些人。我知道一些实验室已经放慢招聘研究人员的速度,除非候选人达到非常高的门槛,因为真正昂贵的不是研究者本人,而是与他配套的算力;这才是真正的瓶颈。这里可以提出一个更广泛的概念——Token投入回报率,也就是类似ROIT的指标:如果拥有一定的Token预算,你要把它给谁,为什么?这有点像过去的工程部门。公司的内部工具团队总是缺乏资源,因为至少很多科技公司宁愿让同一批工程师去开发产品,也不愿让他们开发能提高其他职能效率的内部工具。因此,我觉得所谓SaaS的死亡被夸大了一些。

相对于把同样的Token投入核心产品、获得巨大的利润率提升或实现其他成果,你为什么要把Token花在一堆每年本来也没有付多少钱的SaaS工具上?所以,我们正在从“所有人都用AI,想做什么就做什么”的阶段,转向衡量支出、把更多东西迁往开源的阶段。下一波变化则是:哪些项目和哪些人应该获得明显更大的Token预算?这笔投入的回报是多少?我认为这将是下一轮转变。这还需要时间;很多大企业现在仍停留在“大家都试试AI”这一步。

Elad Gil:你认为三到五年后,一家公司或一个人合适的算力、也就是Token预算应该是多少?我应该把它看作房租一样的固定支出吗?

Sarah Guo:不能一概而论,要看这笔预算用来做什么。人们也忘了,Minecraft被微软以数十亿美元收购时,团队大概只有五个人或十个人。大家总说将来会出现价值数十亿美元的单人公司,但Minecraft基本就是这样,至少大致如此。那件事大约15年前就已经发生了。总有人能够以远超常人的程度利用技术,而人工智能把这种差距大幅放大。所以到了某个阶段,除非你已经找不到更多高效的人,否则为什么要把Token分给那些相对无法充分利用它的人?这类人才也可能耗尽。这又回到“所有工程师会不会失业”的问题:短期内大概不会。但即使在人工智能出现之前,某些公司也已经有不少生产力并不高的工程师。

尤其是在一些大型科技公司。我认为,其中许多人会成为GE、PG&E或Hershey's等公司的抢手人才。即使未来某个时点真的出现工程师被替代——我不知道何时发生,也不知道是否会发生——他们仍有大量去处。许多企业从未拥有招聘这些人才的能力,却非常需要他们带来的技能。即便一个人在Google或Meta的环境里表现平平,放到某些传统企业里也可能极其出色。因此,我认为工程人才会以一种出人意料的方式渗透整个企业版图。这大概还要很多年,我只是说,这很可能是最终结果。

Elad Gil:同样地,如果你是某家大型实验室的第800号研究员,却没有获得明显超额的Token配额……

Sarah Guo:你完全可以把精力投入那些自己具有比较优势和深刻理解、同时又能受益于这一切的领域,比如解决供应链瓶颈、推动生物等领域加速,或者把技术扩散到其他有价值的行业。在我看来,这比担心数学走向终结,然后去度假等着世界……要令人兴奋得多。

Elad Gil:可以做事的地方很多。我也认为,随着时间推移,一部分研究者最终会流向这些领域。由此会产生一个有趣的问题:如果你是一家顶尖人工智能实验室,究竟需要多少研究者?这个数字和现在的人员规模是什么关系?现在的人数正好吗?需要扩大到五倍?还是只需要一半的人,但每个人都必须超过某个门槛,因为算力受限,而你希望把算力配置给最好的想法?从平均意义上说,最好的想法只来自一部分人——并非永远如此,但平均来看如此。所以,所有这些因素最终会如何展开?排在临界线之后的第n+1个人又会去哪里?

第n+1个人其实有非常多去处。他们依然极其优秀,仍然处于钟形曲线的最顶端。我不希望这段话被误解为这些人不够出色,只是到了某个时点,机构会在这条幂律曲线上划出一道界线。

Sarah Guo:你可能会喜欢这个笑话,也许你听过,因为这是个流传已久的前Google员工笑话。当Google大约有五万人时,人们问:运营Google到底需要多少人?如果去问搜索和广告部门的人,他们会说,大概需要搜索和广告部门20%的人;如果去问搜索和广告之外的人,他们则会说,需要五万人,也就是Google的全部员工。所以,对于贡献究竟有多集中,人们可能有非常不同的看法。

Elad Gil:我不知道,我从没在Google工作过。不过,我们当然知道……

Sarah Guo:我在Google工作过,我觉得那里是个很棒的地方。你问搜索部门吗?我做过一段时间移动搜索,也做过一点广告。我参与过很多移动业务,后来还做过不少与人工智能广告有关的工作。

06 什么可能改变当前人工智能的发展轨迹

Elad Gil:我可以问一个完全不同的问题吗?你能想到什么因素会在当下打断整个发展轨迹吗?比如,市场过热、外界对债务和回报情况产生恐慌,导致投资者或其他参与者削弱对资本开支的承诺。我们已经看到一些很轻微的迹象,但尚未形成真正压力。最后,技术层面是否可能发生颠覆?例如Transformer的替代架构现在还重要吗?有没有什么技术会让整个格局看起来截然不同?

Sarah Guo:技术始终存在未知数。除此之外,我认为另一种可能,是试图限制我们已有模型或开源模型的使用,从而显著压低进步速度。

Elad Gil:监管也是一个因素。你认为加州接下来会怎样?他们通过了亿万富翁税,加州民主党也公开表示支持。如果你是一家我们所投资公司的创始人,公司如今价值超过100亿美元,明年是否会被迫出售资产?假设法案正式生效,会不会有几十位创始人不得不卖掉大笔公司股份?

Sarah Guo:监管者似乎并没有完全想清楚这项政策如何执行、如何合规。但我认为,最直接的效果是,大量试图在加州创造价值或做新事情的人会选择离开,而且已经有人在离开。整个生态系统当然很难迅速迁移,但这是我能想到的、把整个生态赶走的最快方式。你认为会发生什么?

Elad Gil:以我的理解,这部法律的表述相当宽泛。一旦通过,未来可以再次实施,也可以降低适用门槛。而且越来越多的人在讨论,2028年还可能在加州增加“离境税”。也就是说,如果你真的尝试离开,他们会把拿走你一大笔资产当作某种惩罚。

Sarah Guo:所以你的预测是,2027年会出现大规模人口迁往迈阿密?迈阿密终于要成真了?

Elad Gil:我认为这需要一些时间。我觉得起草法案的人就是希望资本外逃,希望这些人离开。对加州而言,两个非常负面的信号,一个是这项法案,另一个是某种选票收集倡议;它们以不同方式让加州的未来可能变得更糟。我仍然像往常一样希望加州能够解决问题。但如果存在一个容易迁移的替代选择,会有更多人离开。我确实认识不少人,他们现在已经开始走,或者计划在今年秋天、未来一两个月离开。

Sarah Guo:你的第二选择是哪个生态系统?

Elad Gil:很多人正在考虑几个不同地方,关键在于两年后每个地方能否形成临界规模。我认为,很多生态会自发聚集。人们会谈天气以及其他各种因素,但现实是,波士顿过去也是主要创业中心之一,现在在生物科技领域仍然如此。它在20世纪90年代初逐渐失去竞争力,而在80年代,波士顿曾经是硅谷的主要对手,尽管那里的天气很糟。因此,真正重要的是:哪里聚集了足够多的聪明人,共同从事相近的事情?这种聚集通常会催生一场复兴。

Sarah Guo:我觉得,围绕能源领域,得州出现了大量优秀的技术人才迁移和创新,这非常令人兴奋。这确实是对监管环境和需求的回应。我看到很多人从硅谷或其他地区搬过去,因为那里允许开展实验,而且现在已经形成了一个非常令人兴奋的生态系统。

Elad Gil:能源和硬件领域确实正在那里形成一条不断扩大的硬件走廊。它最初主要围绕El Segundo,因为SpaceX和后来的Anduril都在那里。现在SpaceX、Tesla的一部分业务等又迁到了得州。因此,除奥斯汀以外,得州另一个区域也在形成新的生态。我们确实正在看到这种迁移,而且这种迁移纯粹是监管推动的,不是因为得州客观上更适合或更不适合居住。当然,居住条件会有影响,但真正推动人口流动的是监管变化。

07 架构、算力与监管俘获

Sarah Guo:你没有接我刚才关于架构和技术的话题。你怎么看模型架构?

Elad Gil:我认为,无论底层采用什么架构,整个行业最终都会消耗掉所有可获得的算力和电力。因此,寻找更节省内存或电力的架构,会比以往任何时候都更有吸引力。但要在规模以及硬件适配方面追上Transformer,仍然相当困难。随着资源压力增大,人们会更愿意尝试并押注替代架构,但我不认为这会改变行业前进的方向。无论出现什么新架构,它都可能被复制,随后大型实验室也会采用,而它们仍掌握全部算力。这是概率最高的结果,但不是唯一结果。也可能出现一种较低概率的情形:某家新型实验室找到一种全新的方法,把它保守得极其严密,在其上完成规模化,模型突然远远优于所有竞争者。

这样一来,它就能负担更多算力,其他资源和人才也会向它聚集。可以想象这种情况。但也可以想象,那个团队只要有一个人离职加入Anthropic或OpenAI,知识便会扩散,很快所有人都会掌握它。迄今为止,模型领域基本就是这样演进的。

Sarah Guo:如果占主导地位的因素是算力获取能力,并且它由此形成寡头垄断,你认为这些实验室会不会利用算力优势,控制它们希望进入的其他垂直领域?或者说,真正能够保护人的安全措施到底是什么?具体风险是什么?可能的结果又是什么?

Elad Gil:这让我想到Janssen Pharmaceuticals的Janssen。他被认为是有史以来最优秀的药物开发者之一。YouTube上有一些很精彩的旧访谈,是他三四十年前讨论制药行业的监管俘获。他认为,药品变得如此昂贵、研发如此缓慢,第一项原因是监管俘获,第二项原因是风险收益机制:美国食品药品监督管理局过度关注安全和风险,却没有充分考虑收益。我不是说他的判断一定正确,但按他的说法,那里不存在“风险收益权衡”,只有风险。因此,所有事情都会变慢,因为监管者只看等式的一边。我们完全可以想象,人工智能实验室里也会形成类似机制:即使潜在成果更大,即使相对于风险,正面收益要大得多,安全负担仍然被抬得极高。

这又回到刚才的逻辑:只关注等式的一边,就一定会限制事物发展。如果你一边在外部施加限制,一边让内部进步继续指数式推进,而人工智能世界的一年相当于正常时间的三四年,那么内部机构就会领先整整一年,这是巨大的优势。因此,一个很有意思的问题是:对于不同事物,我们作为社会愿意在风险收益光谱上的什么位置停下?比如,相比于更早通过人工智能模型获得更好的医疗服务,我的电子邮箱遭到入侵真的严重到不可接受吗?这就是我们面对的权衡。所有这些问题最终都需要社会共同解决。

Sarah Guo:这里的一部分困难在于,对监管者和许多政策制定者而言,技术人员告诉他们“必须先让技术发展、看看会发生什么,而不是一开始就控制住它”,这种立场听起来并不舒服。

Elad Gil:技术行业一直都是这样说的,历史上也一直如此。任何技术当然都可能被用于负面目的,但每项技术同时都有正面和负面的应用。生物技术可以制造病毒,也可以治愈癌症;核技术可以带来自由、廉价而充足的能源,也可以制造武器。真正看现实,法国目前仍有70%的电力来自核能。70%啊,那些事故在哪里,那些所谓的大麻烦又在哪里?什么都没有发生。美国只有18%,而且40年没有建过核反应堆。日本是25%,同样非常安全、能源也很充足。但20世纪70年代的安全游说团体,实际上扼杀了我们获得充足清洁能源的可能。

Sarah Guo:不过,我们现在又开始建了。只是需要建得更多。

Elad Gil:实际上没有建多少。因此,我们已经看到,安全导向确实可能造成有害结果。它伤害了电力和能源生产,也伤害了医疗的某些方面,还伤害了许多领域。问题在于,对于人工智能,我们要把尺度放在什么位置?这里存在许多种世界、许多种情景和许多种结果。作为一个社会,我们可以共同决定:在安全、风险和结果构成的转盘上,要把指针放在哪里。

Sarah Guo:Elad,结束之前,你现在最期待的、处在这个转盘正面一端的事情是什么?

Elad Gil:有太多事情让我兴奋。从人类生产力、教育、医疗,到日常生活和生活质量,再到自动驾驶、老年人照护等方面,我们能做的事情太多了。这一切能够带来非常多的好处。所以,我对许多应用都感到乐观,也正因如此,我才会谨慎思考我们究竟应该把尺度放在哪里。社会应确保具备适当的安全保障,但从历史上看,在大型产业上,我们往往走得太远。科技之所以能如此迅速地取得成功,并对人类产生如此巨大的影响,正是因为它受到的监管相对较轻。我认为最好继续保持这种状态,否则我们会失去乐观、失去动力,也失去进步。这正是生物科技曾经发生的事情,也是许多领域长期以来发生的事情;能源行业也曾长期如此。

原视频:https://www.youtube.com/watch?v=6l8oAO_LBx4

文章来自于微信公众号 “Z Potentials”,作者 “Z Potentials”

Related topics

After reading

Join the AINRK community

Read how to join the community and connect with people working in AI.

Community information (opens in a new tab)