AI news

Anthropic 联创:文科生也能进 AI 的核心房间

By Shirley1 viewsSource: 十字路口Crossing
Anthropic 联创:文科生也能进 AI 的核心房间

通才,是被低估的优势 相比 Dario,Anthropic 的另一位联合创始人 Daniela Amodei 平日深居简出,少见公开发声。 这场 47 分钟的对谈里,她难得谈起几件 Anthropic 不太对外解释的事:为什么主动暂缓发布 Mythos 模型、为什么当年选择离开 OpenAI、为什么决定不在 Claude 里放广告。 这些选择合起来,就是开篇那句话的注脚:做好事的愿望,和做得好这件事,是强相关的。 嘉宾背景 Daniela Amodei 是 Anthropic 联合创始人兼总裁。 她毕业于英文文学专业,早年关注国际发展与全球健康,曾在国会山、政治竞选和早期 Stripe 工作,

The full text has not been translated yet. The Chinese original is shown below.

通才,是被低估的优势

文章配图

相比 Dario,Anthropic 的另一位联合创始人 Daniela Amodei 平日深居简出,少见公开发声。

这场 47 分钟的对谈里,她难得谈起几件 Anthropic 不太对外解释的事:为什么主动暂缓发布 Mythos 模型、为什么当年选择离开 OpenAI、为什么决定不在 Claude 里放广告。

这些选择合起来,就是开篇那句话的注脚:做好事的愿望,和做得好这件事,是强相关的。

嘉宾背景

Daniela Amodei 是 Anthropic 联合创始人兼总裁。

她毕业于英文文学专业,早年关注国际发展与全球健康,曾在国会山、政治竞选和早期 Stripe 工作,2018 年加入 OpenAI。

2020 年 12 月,她与哥哥 Dario 及另外五位联合创始人共七人离开 OpenAI,并于 2021 年创立 Anthropic。

核心观点

1. 通才路径:进入 AI 不只有写代码这一条路

Daniela 的履历完全不像 AI 行业领导者:英文文学、国际发展、国会山、竞选、Stripe,最后才到 OpenAI 和 Anthropic。她把这条路径背后的能力定义为通才:保持好奇、跨学科学习、清楚自己的比较优势。

AI 行业需要的不只是写代码的人,也需要能在不同领域之间翻译、连接、判断的人。

2. 奔向,而非逃离:Anthropic 的创立逻辑

七位创始人当年从 OpenAI 离开不是因为冲突,而是对"AI 应该如何被构建"有一幅更清晰的愿景:"我们是在奔向某样东西,而不是在逃离。"这也是 Anthropic 选择注册为公益公司的原因。

Daniela 给所有未来联合创始人的测试很简单:让你们各自画"我们要建什么",如果一个画独角兽,另一个画鸭嘴兽,就别合伙。

3. 彻底负责:安全是经营动作,不是口号

Anthropic 把 "AI 安全" 定义为彻底负责(radical responsibility):在问题真正出现之前,就提前想清楚技术可能如何被滥用。

最具体的压测来自 Anthropic 自家的 Mythos 模型。这是一款能力极强、客户都希望尽早交付的前沿模型,但其在网络攻击方面有显著的潜在滥用风险。

Anthropic 为此启动“玻璃之翼”计划(Project Glasswing),进行额外安全评估和修补,主动推迟发布。Daniela 把这事说得很直白,今天难的不是"要不要做安全",而是时间不够,模型能力跑得比安全评估快太多。

4. AI 与就业:不是替代,而是工作形态的重组

Anthropic 的经济指数研究显示,AI 当下更多是互补而非替代,目前接近替代的主要是客服这类场景。

Daniela 强调,很多工作不是简单消失,而是边界会被重新划分。对擅长跨领域翻译、解释、判断的人,这种重组其实是机会。

5. 走出硅谷气泡:全球南方对 AI 反而更乐观

硅谷的 AI 采用率是一个高度异常的样本,实际使用存在明显的人口学差异:教育、性别、种族、财富、地区都会影响采用。

全球南方(Global South,泛指亚洲、非洲以及拉丁美洲等发展中和新兴经济体)对 AI 的乐观度普遍高于发达国家。在资源稀缺的地区,AI 反而被看作一种可以拉平差距的力量。

6. 认知外包:最大的风险,是人主动放弃思考

Anthropic 的 81,000 人定性访谈浮现出一条暗线:人们本可以自己思考,但因为 AI 给得太快太顺手,就直接放弃了。

这种现象在认知科学里被定义为“认知外包”(cognitive offloading),是比"刷手机式分心"更深的能力流失。

Claude 的学习模式(Learning Mode)是一种反向尝试:不直接给出答案,而是像一位导师一样引导用户重新进入思考过程。

7. 人类能力的重新定价:解释、陪伴、判断与关系

当 AI 能承担诊断、写代码、分析这类任务后,与人共处、解释、关怀的能力反而变得更珍贵。

Daniela 以医生为例:AI 会越来越擅长诊断,但无法真正观察你、安抚你。她引用了一项医学研究发现,和医生关系融洽的病人,临床结果好于那些不喜欢自己医生的人。

医患沟通技巧(bedside manner)未来会成为衡量医生价值的核心指标。这对受过人文训练的人来说,是一个更明确的信号:那些过去被贴上"软技能"、"不够硬"标签的能力,比如倾听、共情、跨界判断、与人建立关系,正在被市场重新定价。

以下是完整逐字稿

从英文文学到 OpenAI:generalist 如何进入 AI

文章配图

🙍‍♀️主持人:

你和你哥哥一起建立了世界上最重要的 AI 公司之一,但你们成长过程中并没有为此做过任何规划。你的背景是文科,你学的是英文文学,早期的职业生涯是在政治领域。能不能多讲讲,你最初的职业规划是什么?

👩‍🦳Daniela Amodei:

哦天哪。首先,你能在这里用上 "规划" 这个词,已经很客气了。我都不知道我在任何阶段是不是真的描述过自己有规划。

我觉得这其实是很多人都会有的故事,那些后来去创业的人,或者人生轨迹里走出过一些不寻常路径的人。我只是在追随当下最让我感兴趣的事,去找那个我擅长什么、我对什么感兴趣、什么能在世界上产生大影响这三者交叉的点。

对我来说,刚走出大学,顺便说一句,我是 2009 年毕业的,那不是一个特别开心的毕业年份。你那时会想:"我有一个文学学位,没什么技能,谁会雇我?" 但当时我就有一种很强的冲动,想让这个世界变得更好。

我觉得这是我和 Dario 从小都有的特质。对我来说,这种冲动最初导向的是国际发展和全球健康领域的工作。

我当时想的是:怎么能让世界更公平?怎么能让每个人都有机会获得食物、水和药品这些最基本的东西?

虽然这不是我现在直接在做的事,但那段早期经历给了我一个思考"如何在世界上做好事"的基础。你要怎么构建一件有意义的、有真正目的的事,毕竟你每周要在上面花 50 到 60 小时。

从那里开始是一段曲折的旅程:我去国会山工作过,做过竞选活动,然后回到了硅谷(我本身就是旧金山人),加入了一家当时谁都没听过的小公司 Stripe。我在国会山的朋友当时说:"你要离开去做什么?支付?" 现在回头看是个很好的决定,但当时这家公司大概只有 40 个人。

然后从那里事情就像滚雪球一样越滚越大,我去了 OpenAI,再然后联合创办了 Anthropic。

🙍‍♀️主持人:

你跨过了不同的领域,没有被你之前学过或做过的事限制。这种心态从哪里来?是什么让你觉得,背景不必定义下一步?

👩‍🦳Daniela Amodei:

我觉得我在某种意义上真的把自己看作一个generalist(通才)。

如果你看我的背景,你会想:"这位女士到底擅长什么?" 我没有法学学位,我不是计算机科学家。但我觉得,能够保持好奇、能够跨学科学习、能够在你工作的任何领域里都坚持想要产生影响,这是一种被低估的素质。

我在 Anthropic 招聘的人身上经常看到这种品质,在我合作过的很多科技行业的优秀人才身上也是。这种人好奇、聪明、想学、想帮忙,这其实就是除了"工程师"之外,每一个岗位的核心描述。其他岗位你不会说"我要这个学位、那个学位",你要的就是这些品质。

但对我来说,这一直是兴趣和影响力驱动的。

我当时想:"我出生在美国,能获得所有那些我们习以为常的基本资源,但世界上有些人就是没有,只是因为他们出生的地方不同。我怎么能让这件事更公平?"从那里我开始觉得,我达不到我想要的影响层级,我得有些技能。

于是我去做竞选,结果发现,一小群年轻、努力、有动力的人真的可以改变世界。

后来去硅谷也不算意外。在那里你会发现,一样可以改变世界,但创业公司有更多钱,节奏也比每周 80 小时的竞选要轻松一些。

但我觉得那些核心品质就是,真正追随你的热情。因为当你在意你做的事,你自然就想付出更多,不管是出于兴趣还是某种意义感。

🙍‍♀️主持人:

你的 AI 生涯是从 2018 年加入 OpenAI 开始的,那时它还是一家很小的实验室。突然之间你身处在那些谈论神经网络、Transformer 架构和 scaling laws(缩放律)的房间里。你是怎么学会那种语言的?

👩‍🦳Daniela Amodei:

我觉得我在两个维度上都有不错的铺垫。

第一是我已经在 Stripe 待了将近六年,和很多工程师一起工作过。研究和工程当然不一样,但有一些重叠和共通。

第二是我从小就和一个非常聪明、技术导向的物理学家(也就是我哥哥,Anthropic 的联合创始人)一起长大。再加上其余五位联合创始人,他们也全部都是工程师或研究员。

但我觉得最重要的是,这两段经历让我形成了一种"不要害怕技术"的心态。

它最终就是一套技能,这套技能确实很被看重,但它是任何人都可以学会的。背后的基础,那些术语和行话,刚开始确实会觉得难以招架。

但只要你愿意一直问问题,并且你身边有耐心的人(我在这方面非常幸运),你就可以一直问到自己真的搞懂了为止。

第二点是要清楚你的职责边界和别人的职责边界。研究员们能做的很多事,我可能没法做。我可能训练不了 GPT,肯定训练不了 GPT-2 或 GPT-3,但我能带去他们也做不到的东西。

所以理解你的comparative advantage(比较优势),知道你怎么融入更大的生态系统,这本身需要很多人际层面的技能。

好奇心是一种内在的特质,但也是可以训练的。这些东西加在一起,让我有能力在这种角色里做得不错。

创立 Anthropic:不是逃离,而是共同奔向一个愿景

文章配图

🙍‍♀️主持人:

2020 年 12 月,你、你哥哥,还有一群同事一起离开了 OpenAI。你和 Dario 为什么决定创办 Anthropic?

👩‍🦳Daniela Amodei:

最初离开的有七个人,我和 Dario,加上五位联合创始人,之后又陆续来了一些人。对我们来说,这件事的根本就是专注在这项技术最终应该产生什么样的影响上。

我们七个人虽然各有不同,但都是非常正直的人,非常在意自己构建的东西会带来什么后果。

最终我们觉得,在一家新公司里去创造我们想看到的那种愿景,比在原来的公司里要容易得多。

我经常会被问到这个问题,所以我想说的是,我们其实是在奔向某样东西,而不是在逃离。

我们想创造一个组织,让那些对我们重要的价值观(围绕安全和责任)成为我们一切工作的前提。

这就是为什么我们选择注册为公益型公司(Public Benefit Corporation)。我们花了一段时间才搞清楚“该以怎样一种形式来表达这件事”,是的,我们会是一家商业实体,我们认为 AI 会创造巨大的经济价值;但用正确的方式把这件事做对,对我们来说极其重要。

这是把我们七个人团结在一起的东西。我们在 OpenAI 时都做过模型能力、安全和政策相关工作,所以在新公司里去构建这种结构会更容易。

🙍‍♀️主持人:

你不只是和哥哥一起在建 Anthropic,还有五位其他联合创始人。在场的很多人很快也要第一次选联合创始人,我们都知道这件事经常以糟糕收场。要让它成功,需要什么?

👩‍🦳Daniela Amodei:

我觉得我自己只是非常幸运,我们七个人是一个非常特别的群体。

我想说的第一件事是,人际关系的重要程度比你想象的要大得多。

比如说,你们怎么处理冲突?我和 Dario 已经"打架然后和好" 40 年了,因为他是我哥哥,我从小就抢他的玩具。

所以我们知道怎么一起走过冲突,并且毫无疑问最后我们还会爱彼此。

至于其他几位联合创始人,我认识 Jared 大概 15 年了,认识 Chris 也 15 年了。

Tom 和 Sam 是室友,Jared 和 Sam 在斯坦福读博士时一起工作过。所以我们之间有一段很长的历史。Dario 和我之前都带过其他几位联合创始人,他们要么向我们其中一人汇报过,要么向我们两个都汇报过,多数是后者,都在 OpenAI 时期。

所以我们已经有了一个"我们知道怎么互相给反馈、怎么一起工作以及了解彼此"的现成结构。

另一件重要的事是,你必须确保自己对要做的事有非常强的共识。

如果把你和你的联合创始人锁在一个房间里,让你们各自写下或画出"我们要建的是什么",结果不该是一个人画了独角兽,另一个人画了鸭嘴兽。

那种情况就是你以为你们在做同一件事,但其实不是,这种合作通常不会有好结果。

我们其实在某种意义上被"预选"过,我们曾经处在一个让我们都觉得"不太对劲,我们想做另一件事"的环境里,但这件"另一件事"我们已经有共识了。

所以测试方式是尽可能地去做压力测试。在创业之前,先一起去度个假,合租一个房间。如果度假回来你想的是"我超想跟你多待一段时间",那很好。

但如果你想的是"我需要再度一个假来从这次度假中缓过来",那可能选错人了。

Radical Responsibility:安全不是口号,而是经营决策

文章配图

🙍‍♀️主持人:

我想回到你刚才说的一点。Anthropic 与 AI 安全的关联很深,但我想确保大家真的理解这意味着什么。当你说 "AI 安全" 的时候,你到底指的是什么?

👩‍🦳Daniela Amodei:

这是个很好的问题。这个词在过去几年里其实有点被用滥了,它在很多场合都成了一个 catch-all(万能筐)。

但对我们来说,最顶层框架就是:对我们正在研发的技术,承担一种 radical responsibility(彻底的责任)。

我们经常用社交媒体公司来类比,现在公开吐槽他们已经很流行了,所以我也来吐槽一下。

如果你回到过去,那些创建这些科技公司的人,他们并不是想着"我要创造一个青少年女孩饮食失调的流行病",那不是他们的初衷。

但他们想的是"我要优化什么指标?" 他们想建一家公司,看到爆炸性增长,那就朝着那个方向建。当时也确实没有必要做更多,因为我们从没见过这种量级的规模、这种采纳速度。

但你可以想象一下,如果能回到过去,跟那时正要开 Facebook、Instagram、Snapchat、Twitter 的人说:"如果我真的去把这项技术可能出问题的路径提前想透,想想所有意料之外的外部性是什么,然后提前去尝试避免一些不好的事情发生?"

AI 这一代算是沾了点便宜,前一代技术已经替我们试过错,我们可以说"哈哈,我们不会重蹈覆辙了",但这是巨大的特权。我们可以说"你们犯过那种错,我们这次不犯了"。

我们要很小心,要去思考,因为我们更了解这项技术,我们能不能利用对技术的理解,提前识别并避免那些可能变坏的路径?

怎么去想象一个一切都顺利的世界、也想象一个一切都失败的世界?

对我们来说,"安全"包括所有那些大事,比如阻止有人用我们的技术开发化学和生物武器,顺便说一句,AI 确实有这种潜力,也包括网络战。

我们最近因为决定搁置 Mythos 模型的发布而上了很多新闻,还有很多围绕用户健康、儿童安全、虚假信息、选举诚信等议题的工作。

这些不是我们发明的新东西,我们是站在前一代安全和安保团队的肩膀上,从过去那些最重要的科技公司里学经验,再问自己"我们如何做得更好"。

🙍‍♀️主持人:

Anthropic 是一家 AI 安全公司,但也是要产生收入的。你怎么平衡这两者之间的张力?

👩‍🦳Daniela Amodei:

这个问题我们也经常被问。我会说,这两者之间发生冲突的频率,比你想象的要低。

我们大部分收入来自企业客户,没有哪家企业是希望模型不安全的,没人会说"我希望 Claude 多产生一些幻觉",或者"如果 Claude 在你问它问题时输出有害内容就太好了"。所以直到不久前,这两件事是 100% 一致的。

安全对生意来说是好事,因为企业本来就是风险厌恶的,他们不想要那种难以预测或不靠谱的 AI 技术。

话虽如此,我们现在进入了一个新阶段——模型能力发展得太快,张力其实是关于时间的。

不是说模型不能做出惊人的事情,而是我们还没有完全理解(以后会更明显):这些风险到底有多严重?所有的风险是什么?我们怎么去减轻它们?

这有时意味着我们要做一些不寻常的动作,比如Project Glasswing。

我们当时说:"这一类新模型,发布给所有客户就太好了,他们都会想用,但我们还没有足够的把握。

我们需要更多时间去做一些工作,让模型用起来更安全。" 这种感觉是不舒服的。对客户说这种话也不舒服,他们会说"我们都相信网络防御,但我真的想用上那个模型"。

在这种时候,我们就回到使命本身。我们说:"我们理解你们的诉求。我们也希望尽快把这项技术给到你们。

但在我们确信所有该做的修补都完成之前发布它,就是不负责任的。"

AI 如何改变工作、教育与全球采用

🙍‍♀️主持人:

我们不能否认,人们在谈及 AI 的时候,存在着大量的恐惧。担心 AI 会减少工作机会,因为对人类判断的需求会下降,你认为这种恐惧合理吗?

👩‍🦳Daniela Amodei:

我觉得这其实是一个非常复杂的问题。我的看法是AI 会改变工作的种类和形态。

今天确实有些工作是因为 AI 才出现的,五年前并不存在;同时也会有一些工作,未来因为 AI 而不再存在。我们的 Economic Index(经济指数)研究,专门看人们到底在如何使用 AI 技术。

多数情况下,AI 表现为互补技能:AI 是在为工作赋能,而不是在替代工作。除了极少数情况,比如客服会被 AI 大量取代。

Anthropic 在发布的“劳动力市场受 AI 影响“报告中指出,AI 的理论覆盖能力与实际部署之间仍然相差甚远。以计算机与数学类职业为例,LLM 理论上可以影响该领域 94% 的任务,但在 Claude 的实际使用数据中,真正被覆盖的仅有 33%。办公与行政类职业的理论暴露度高达 90%,实际覆盖率同样只是一小部分。换言之,技术的大规模替代并未在当下全面发生,AI 还远未触及它的理论天花板。

文章配图

👩‍🦳Daniela Amodei:

如果你以后要给 Comcast 发邮件,大概率不会再是真人回复你了,但我不知道这个(客服)跟五年前是不是真的有什么本质不同。

所以我预期未来会有一些工作,跟今天的某个工作类似但又不完全相同,我们不知道这些新形态具体长什么样。

今天讨论最多的当然是编程,软件开发者。在我参加的很多次商业会谈中,CEO 们经常会身体微微前倾、压低声音说:"我女儿在斯坦福读大二,她本来要主修 CS,是不是不该学了?"我的答案是:我们不知道。

但我猜测,软件开发者依然会存在,只是他们不会再写那么多代码。软件开发者要做的事远远多于"手放在键盘上",他们要和产品经理谈,要紧密地和客户合作。

这部分的占比会扩大,而那些更容易被 AI 完成的部分会收缩,但这会让“可能做到的事情”的边界完全不一样。

🙍‍♀️主持人:

在教育、领导力、社会层面,需要发生什么,才能让人们觉得自己准备好了、被激发了,而不只是焦虑?

👩‍🦳Daniela Amodei:

我觉得有几件事。

第一,我们要以谦逊作为起点和方向,承认我们不知道答案,但要去研究。Anthropic 一直试图做到的,就是尽可能保持彻底的透明。我们一直说:"我们没有所有问题的答案,我们确实需要研究这件事,这样才能告诉大家我们看到了什么。"

有时候人们也会公允地说:"哎,你们传递的负面信息太多了。" 我们的确说了"我们认为未来可能会发生什么",但更重要的是更早地启动这场对话,因为我们不希望大家被打个措手不及。我们发布经济指数报告就是为了告诉大家:"这是人们今天在如何使用 AI",因为我们希望大家对"我们认为这会走向哪里"有理解。

第二,我们要在很多不同的层面进行创造性的、实验性的尝试。AI 怎么样能不只是"我在工作里用"这一件事,而成为人们生活中的一种基础和粘合?工作很重要,但我们也要重新思考工作、意义、社交生活之间的连接。这些东西未来都会很不一样,我们需要在练习里学会。

第三,超出了一家科技公司单凭一己之力能解决的范围,它会成为一个社会和政治议题。如果人们觉得自己的工作正在被 AI 替代,他们会在意,“我对 AI 会带给我的未来感到焦虑,我对我孩子的未来感到焦虑",民意调查里都能看到。

所以这是一场需要在多个层级、政府、公民社会和大学里进行的更宏大的讨论:当 AI 能完成今天人类做的很多事情之后,我们还想要一个怎样的世界?

🙍‍♀️主持人:

但核心其实是 adoption(采用率)。在斯坦福我们每天都在跟 AI 打交道,但斯坦福和硅谷不是整个世界。是什么阻碍了硅谷以外的 AI 采用?

👩‍🦳Daniela Amodei:

你说得太对了。对我们在 Anthropic 来说(可能在斯坦福也是),大家好像只想谈 AI。当然,大家只想跟我谈 AI,这可能是我的问题。

但你说的没错,在美国其他地方,AI 还不是让人们感到舒适的话题,很多人也不知道怎么以高熟练度去使用它。

你会看到那些惊人的数字,多少人在用 AI 工具。但这是有人口学差异的:使用者多数是受过大学教育的人(不是绝对,但偏多),男性多于女性,存在种族差异,存在财富差异。如果你看全世界,分布是不均的。

此前斯坦福大学发布的《2026 AI 指数报告》曾指出,生成式 AI 的普及速度已打破历史纪录,但技术精英与普通公众在 AI 对就业与经济影响上存在巨大的认知鸿沟。在 AI 如何影响未来 20 年人类工作方面,73% 的专家认为 AI 将产生积极影响,而公众中只有 23% 持相同观点,近 64% 的美国人预计 AI 将导致就业岗位减少;在 AI 对医疗保健和经济的影响评估上,同样存在超过 40 个百分点的乐观度差异。

文章配图

文章配图

文章配图

👩‍🦳Daniela Amodei:

有意思的是,把这个跟我们采集到的另一组数据放在一起,发展中国家的人对 AI 比高收入国家的人乐观得多,他们几乎普遍认为:"哇,这是我们的一个巨大机会。

"这可能是一个拉平差距、让世界更公平的力量。而在美国、欧洲和亚洲的某些地区,人们的焦虑要多得多:"我喜欢现在的样子,我不希望 AI 进来把这一切打乱。"

这些信息要怎么为我们所用?我不知道。但有意思的是,围绕这项技术接入和采用的问题是不同的。

我们其实还处在游戏的非常早期,这是在硅谷气泡中容易被忽视的,这里所有软件工程师都说"我在用 Claude Code、我在用 Codex",但这远不是全世界绝大多数开发者的情况。

比赛刚刚鸣枪开始,我们仍然有大量的机会去正面塑造这项技术将如何被使用、被开发,接入它是什么样子,以及最终它内嵌的价值观是什么。

我们可能失去什么:当 AI 让你不再启动思考

🙍‍♀️主持人:

我们快进到一个 AI 已经被广泛使用的未来。如果我们把太多事情委托给 AI,我们有什么可能失去?

👩‍🦳Daniela Amodei:

我们在 Anthropic 做了一个非常大的定性调研(可能是同类里最大规模的):我们和 81,000 人聊了他们使用 AI 的情况,里面有 Claude 用户,也有其他 AI 工具的用户。

人们对 AI 有非常多不同的感受。有些人会说:"它让我做到了我以前从没想过自己能做到的事。" 我自己就是一个例子,我以前完全不觉得自己能建一个网站,现在用 Claude,我点几下,Claude 就给我建好了。要是我自己来做,可能要一年,而且不会很好看。

文章配图

👩‍🦳Daniela Amodei:

但也有人表达了一种感受就是:"我没让自己去动脑筋,因为我不需要。" 它跟刷手机时的那种感觉不一样,更像是:"我本可以伸手够到这个想法,我本可以想清楚的,但不做这件事、直接相信 AI 给我的答案,要容易得多。"

我其实认为,这是大多数对 AI 焦虑的真正来源:人类天生有一种想去学习、保持好奇、想拓展自己已知边界的欲望。AI 在某种意义上能强化它,但如果用得不对,也会让它失灵。

我自己有时候也这样,我本来可以查、可以自己搞清楚,但我就直接问 AI,然后盲目相信它说的是对的。

顺便说一句,它不是总对的,Claude 有时候会出错,承认这件事虽然有点离经叛道,但是事实。

这种焦虑围绕的是,我们怎么真正设置一些 guardrails(护栏),让"不思考"这件事不是不可能,但你得真的努力才能那么做。

我们在大学领域做的一些工作可能是这个问题的一个有意思的缩影。

我们有一个叫做Learning Mode的功能。一个版本是:你把作业塞进 ChatGPT(这次我换一个例子吧),它直接给你答案,你说"哈哈,太棒了",但这有个词叫作弊。

另一个版本是你用 Claude 的 Learning Mode,你说"我卡住了,我要写一篇论文,但格式上有些地方不对劲",Claude 几乎像一位了解你的个性化导师。它会说:"让我帮你解开这个卡点吧。你想不想我们一起重读一下这段?我们能聊一聊吗?"

这是 AI 工具可以让你更聪明的那个版本,它能扩展你认为自己能学的事情的边界。另一个版本就是"关掉你的大脑"。

作为一个行业,我希望我们选择前者,而不是后者。

Bedside Manner:AI 时代被重新定价的人类技能

🙍‍♀️主持人:

如果你必须排序,在 AI 驱动的世界里,哪些人类技能最有可能变得更重要?

👩‍🦳Daniela Amodei:

我有自己的看法。我觉得就像我们刚才讨论的,很多具体的、任务型的工作(比如金融分析师、开发者、文案编辑),这些工作会发生很大改变,很多工作内容会能由 AI 工具完成。

但我觉得最终有一个非常真实的现象:人类喜欢和人类在一起。我们喜欢花时间和彼此在一起,喜欢互相学习,喜欢有创造力,喜欢花时间去理解另一个人,我们是社会性动物。

我想象,在一个 AI 能完成很多日常生产性工作的世界里,这些(人际)技能会变得更重要、更被看重。

因为最终,如果你在一个工作环境里,你说"我可以直接让 Claude 写一堆代码",你还是会选择去和那个能跟你解释"为什么这里坏了"、"为什么我们当时是这样设计这个工具"的开发者沟通。

把这个跳出科技行业去说,我经常举的例子是医学。

今天我们雇医生是因为他们是好的诊断师,你问"你能告诉我我哪里不舒服吗?",他给你一份可能病症列表。

猜怎么着?AI 会非常擅长做这件事。但 AI 不能做的是真正看着你、检查你、理解你的感受、帮你感觉好起来。

医学文献里有合理的证据表明,和自己医生关系融洽的病人(不是为了客气,是真心喜欢),临床结果好于那些不喜欢自己医生的人。

这件事很难解释,但大概率是因为医生稍微多努力了一点去理解你哪里不舒服,可能多做了几个意料之外的检查。

这种bedside manner(医患沟通技巧),在一个 AI 接管诊断的世界里,会变得比今天重要五倍,因为它不再只是医生资格清单里被勉强塞进去的一项,而是会成为医生价值的核心指标。

Claude 教我做了什么:从给团队写反馈到陪新手父母过关

🙍‍♀️主持人:

当你思考未来时,你个人最兴奋的 AI 用例是什么?

👩‍🦳Daniela Amodei:

哦,天哪。对我个人而言,我是一个管理者,大部分时间都和人在打交道。有一个现象是大家都觉得 AI 不会来抢自己的工作,因为自己很特别,我也有这毛病。

但我现在真的觉得,Claude 作为一个管理教练(management coach)非常强大,可以让你成为更好的领导者。

我用 Claude 来写绩效评估。我把和我一起工作了三、四年的下属信息上传,总的来说他们还是同一个人,你给他们反馈,但过去六个月里,到底有多大的变化呢?

Claude 在帮我识别一个人身上的行为模式这件事上非常强。

如果你回看你和某人合作三四年的时间,会发现"哇,过去三四年里,你们俩一直在围绕某个具体话题绕圈子",也许他们需要一些额外的辅导,或者需要来自你之外的人的支持。

这种事情在日常工作里很容易被错过,因为你身处其中。

反过来,Claude 也很擅长给你反馈。我把我所有下属对我的反馈都上传给 Claude,Claude 有时候会很温和地说:"听起来过去一年你在这件事上没有进步,也许你应该找点额外的辅导,Daniela。"

我觉得 Claude 在帮人做自己最好版本这件事上,是非常有力量的。

第二个用例是,我有两个小孩,一个快 5 岁、一个快 1 岁。我得告诉你,Claude 做过最棒的事,就是帮我熬过了教孩子学会自己上厕所。那不是一个有趣的经历。

Claude 让它变得稍微好一点点,很有同理心,非常可执行,还有一些图示,我不需要描述具体细节。但 Claude 在帮不堪重负的新手父母这件事上非常有用,因为网上育儿信息质量参差不齐,糟糕答案太多。

每次你 Google "你孩子是不是出了什么问题",答案永远是"是"。

Claude 更克制,而且可以是互动式的,这是真的非常有用的方式。

给下一代建设者的两句话

🙍‍♀️主持人:

Daniela,在我们转向学生提问之前,当你思考今天在场的这些下一代 AI 领导者和建设者时,你最希望他们从你的旅程中带走的一件事是什么?

👩‍🦳Daniela Amodei:

我能说两件吗?

第一件听起来太老套,我都几乎不想说。但我真的认为,追随你真正在意的、真正有热情的事情,是你能做的最重要的事。

世界上有那么多好的想法,但如果你心里没有那种,"这件事需要在世界上存在,我会撞穿一堵墙去把它做出来"的灼热感,那它在没那么有趣的时候就容易坚持不下去。

它在那些不好玩、糟透的时候就变得重要了,因为你得能告诉自己"我记得为什么这件事对我重要,我记得为什么它有意义"。

不管是对你个人,还是因为你想看到世界里发生的某种改变。在 Anthropic 也有过这种时刻,我们想"这真的不是最有趣的部分",有些部分确实很难。

但能把这件事追溯回你最初为什么选择做它,这非常重要。

第二件,尤其对这一代人,可能在过去 5 到 10 年里都很真切:做生意不一定要和做好事对立。这是一个非常新的想法,我对这一代创始人和创造者用这种方式思考非常印象深刻,这是一种创新与社会影响的融合。

曾经有一种感觉是"只有那种刻薄、难相处的人才能建立企业",我不认为这是对的,我越来越觉得:做好事的愿望,和做得好这件事,是强相关的。

学生提问:泡沫、监管与隐私

文章配图

🙋‍♂️Brandon:

你好 Daniela,我叫 Brandon,是这里的 MBA 二年级学生,感谢你来。

有一个关于"我们是不是处在 AI 泡沫"的讨论,人们说"泡沫"时通常指三种不同的事情:公司估值、公司在基础设施上的支出、或者 AI 进步速度本身能不能持续。这三种你最担心哪一种?人们对哪一种最被误导?

👩‍🦳Daniela Amodei:

这是个很好的问题。你说“泡沫”,我们其实得分一下:你指的是 air bubble(气泡)还是 glass bubble(玻璃球)?两个差很多,但我懂你的意思。

我可能不会说"最担心",但我觉得作为对这个行业整体的合理担忧,AI 是一个高资本支出的生意。

这本身就带着一些风险。你们大概都知道,训练这些模型非常贵,它需要大量算力,而算力供应稀缺。

当你把这两件事放在一起(大量需求、有限供应),我虽然不是经济学教授,但我猜价格会涨。

算力可以说是这些公司的命脉。你必须提前很久就要买,所以你本质上是在对未来下注:"我们认为我们在某个时间段会需要这么多算力。"

这是一笔很大的支出,在任何一家这种公司工作,其实都有点令人胆战心惊。

如果有人告诉你“这没事”(Google 这种现金充裕的上市公司除外),那他大概率没说实话。对 Anthropic 和 OpenAI 来说,你是在做一个有计算的赌注,你赌自己未来能把这笔钱赚回来。

我们当然非常看好这件事,我们经常听到风投说:"风险投资史上从来没发生过这种事情",很难想象一家企业能在这么短的时间内就达到这种收入规模。

两家公司都为未来购买大量算力,但如果这件事一旦改变,就会是个问题。

所以这是种合理的担忧。我们当然认为自己处在很好的位置,行业整体也是,但这种情况随时可能改变。重要的是要记住,这本质上是在下赌注。

文章配图

🙋‍♂️Yash:

你好 Daniela,我叫 Yash,是 MBA 学生。我的问题是,Anthropic 认为政府监管和 AI 创新之间,正确的平衡是什么?你希望全世界的政府能做出哪些不一样的事?

👩‍🦳Daniela Amodei:

好问题。这是一个我觉得目前讨论方式让人遗憾的领域,就像今天的政治环境,很难进行有 nuance(细微差别)的讨论。

这很可惜,因为这是一个真正有 nuance 的问题。我认为sensible regulation(合理的监管)会是 AI 叙事的一部分。

我们也清楚,作为一家公司,你需要有一些回旋的空间,才能尝试新东西,才能造出下一代人想用、被采纳的伟大产品。我对这场讨论最核心的希望,是它不要变得政治化。

我担心它已经变成那样了,好像"监管 = 坏,创新 = 好"或者"创新 = 坏,监管 = 好"。这件事真的非常复杂,有些监管领域意义不大,有些监管领域则绝对关键。

在理想世界,我希望科技公司和监管者能携手合作。我们的 Safeguards 团队和安全团队每天都能看到这项技术如何被滥用,而监管者懂得怎么提供一个能被实际执行的框架和系统。

也许我过于乐观,但我仍然怀有希望,双方可以达成共识:怎么确保我们能继续开发出下一个还不存在的伟大技术、下一个 Google 或 Meta,但也用一些 common sense(常识性)的监管来保护人。

文章配图

🙋‍♂️Jackie Kimmel:

你好 Daniela,谢谢你来。我叫 Jackie Kimmel,我的问题是:AI 正在获得越来越多的敏感个人数据,比如我们的健康数据。你认为个人应该如何切实地保护自己的隐私?

👩‍🦳Daniela Amodei:

首先我要说的是,你会惊讶地发现,问 Claude 医学问题是非常常见的一种使用方式。我自己一直在用,"我儿子哪里出了问题"、"我自己哪里不对劲,帮帮我"。

我觉得这件事有两面。第一面是,公司有责任谨慎地使用和保护你的数据。这极其重要。

人们应该让公司对小心使用他们的数据负责,因为这非常个人。比如我们决定不在 Claude 里放广告,部分就是基于这种信念,AI 技术不一样,人们和 AI 工具进行的对话比放在 Instagram 上、放在任何形式的社交媒体上的内容,都要私密得多。

所以,知道了这件事,科技公司就有更大的责任去保护你的数据。

第二面是,从个人视角来说,我没有完美的答案。我可以告诉你很多人用它来问医学问题,但我会从安全角度建议:不要在医学事情上盲信模型。

我自己的经验是,Claude 在复杂医学案例上比我的医生更经常给出正确答案,但我从不会在没有跟一个有执照的医学专业人士核实之前去做任何事。

我们对"模型有时会编造、会困惑、它们不了解你、它们没法检查你"非常坦诚,所以保留一些healthy skepticism(保持适度的怀疑)非常重要。

但你可以把它想成"你有一个朋友是非常好的医生,但不是某个领域的专家"。你说"我要去看专科医生,我希望有人能在和医生的对话里给我引导"。

Claude 在这件事上是个很好的工具,它擅长帮你想到那些你可能没意识到的可能性。

但我的头号建议依然是,请不要因为任何 AI 工具说"去做 X"就去做医学相关的事,要用怀疑的眼光看,去跟专业人士谈。

View from the Top 快问快答

🙍‍♀️主持人:

谢谢同学们的提问。Daniela,最后是 View from the Top 的快问快答环节。如果你能回到大学,你会主修什么?

👩‍🦳Daniela Amodei:

我要是说商科,是不是能让我完全免掉这道题?我会主修什么呢?我大概还是会主修文学,我知道听起来很疯狂。我喜欢读书。

🙍‍♀️主持人:

你最喜欢和你哥哥一起工作的什么?

👩‍🦳Daniela Amodei:

哦,感恩节晚餐。不,开玩笑。我会说,我们对彼此了解得太深,能跟对方说一些公司里没人能说的话。有时候我们能把别人觉得"我没法这样做"的事情做了。

🙍‍♀️主持人:

最不喜欢的呢?

👩‍🦳Daniela Amodei:

感恩节晚餐。开玩笑!我觉得是需要在私人关系和工作关系之间留出一段距离。我们每周专门安排时间在办公室外一起待着,我们做了很久的兄妹,未来还会做很久的兄妹,所以要持续浇灌这份关系,让它不只是工作里的部分。

🙍‍♀️主持人:

你在办公室的图书馆里发现的最喜欢的书?

👩‍🦳Daniela Amodei:

让我想想。我不确定我有没有发现过一本新书,也许这意味着我应该多去看看,我刚还说"我喜欢读书"。

但是有一本我重新想起来的最爱,《八月炮火》(The Guns of August)。有没有人对一战感兴趣?我看到一些茫然的脸,可能没有。这是一本很棒的书,如果你对一战感兴趣……我从图书馆里拿出来又重读了一遍,我应该是大学毕业后不久读过的,它研究的是那些具体人物与性格,如何一步步导致一战爆发。

文章配图

🙍‍♀️主持人:

太好了。如果 Anthropic 最终用了另一个名字,会是什么?

👩‍🦳Daniela Amodei:

哦天哪。我们在想到 Anthropic 之前真的经历了一些很糟糕的想法,我们当时不知道为什么特别迷鸟类。

我们想过叫 Sparrow Systems(麻雀系统),不知道这个是从哪里来的。我现在想起来,我们早期一些模型名字也都是鸟,有过 Bert,然后变成 Snuffleupagus(芝麻街角色,不是鸟)。还好最后明智选择了 Anthropic,现在它已经不可能不叫这个名字了。

文章配图

🙍‍♀️主持人:

最后一个问题,你收到过最好的建议是什么?

👩‍🦳Daniela Amodei:

让我想想最好的建议…我大概会说,当我们在思考“是否要离开”的时候,现在回头看,大家都说“你们当然会离开 OpenAI 然后创办 Anthropic”,但当时不是这样的感觉。

我们当时想"这是一件非常疯狂的事,也许我们应该留下,也许我们能让它行得通"。

我和一位朋友兼导师在工作之外谈过,她说:"老实说,我觉得你不需要在电话上跟我谈这件事。你已经知道正确答案是什么了。"

👩‍🦳Daniela Amodei:

我觉得在很多情况下,当你处在"这是不是我人生中正确的事"的时刻,你其实已经知道正确答案是什么了。

我觉得这是一个非常好的建议。

🙍‍♀️主持人:

Daniela,今天非常感谢你。

👩‍🦳Daniela Amodei:

感谢大家,谢谢你们邀请我。

文章来自于"十字路口Crossing",作者 "Shirley"。

Related topics

After reading

Join the AINRK community

Read how to join the community and connect with people working in AI.

Community information (opens in a new tab)