AI news

吴恩达对 Loop Engineering 的理解真犀利。

By 阿颖1 viewsSource: AI产品阿颖
吴恩达对 Loop Engineering 的理解真犀利。

Andrew Ng 对 Loop Engineering 的理解好深刻。 上午一到公司,就看到他在 X 上发了一篇长文,讲了自己最近的一些判断。 我一直觉得大家最近聊 Loop Engineering,更多还是在聊工程上的 loop,比如 Agent 怎么自己写代码、自己调试、自己修 Bug。 但 Andrew Ng 把这个概念又往外扩了一层。 他觉得,当 AI 能够自主写代码之后,真正发生变化的不是工程效率,而是整个软件开发开始变成三种不同时间尺度的 Loop 同时运转: 最里层是 AI 自己不断迭代代码,中间是开发者持续修正产品方向,最外层则是真实用户和市场环境不断修正开发者的判断。 这三

The full text has not been translated yet. The Chinese original is shown below.

Andrew Ng 对 Loop Engineering 的理解好深刻。

上午一到公司,就看到他在 X 上发了一篇长文,讲了自己最近的一些判断。

我一直觉得大家最近聊 Loop Engineering,更多还是在聊工程上的 loop,比如 Agent 怎么自己写代码、自己调试、自己修 Bug。

但 Andrew Ng 把这个概念又往外扩了一层。

他觉得,当 AI 能够自主写代码之后,真正发生变化的不是工程效率,而是整个软件开发开始变成三种不同时间尺度的 Loop 同时运转:

最里层是 AI 自己不断迭代代码,中间是开发者持续修正产品方向,最外层则是真实用户和市场环境不断修正开发者的判断。

这三个 Loop,一层比一层慢,但也一层比一层重要。

文章配图

#01

Agentic Coding Loop:AI 自己跑起来的工程循环

最里层,就是现在大家最熟悉、也最爱拿出来炫技的部分:AI Agent 自己写代码。

做法其实不复杂。给它一份产品文档,也就是 Spec,再配一套评测标准,也就是 Evals,Agent 就能自己动手。

写代码、跑测试、发现问题继续修改,改完再测,一圈一圈转下去,直到基本符合规格、没有明显 Bug 为止。

Andrew Ng 举了个最近的例子。他周末想给女儿做一个练打字的小程序,让 Agent 连续干了差不多一个小时,中间还自己打开浏览器,把刚写好的页面点开来看了好几遍,确认没问题才回来找他汇报。

整个过程他几乎没插手,不用像以前那样每隔几分钟就得点一下重试。Agent 已经能够独立验证自己的结果。

过去做代码生成,更像一次性的互动。问一句给一段,人得一直盯着,本质上还是人在转方向盘,AI 负责踩油门。

但当写代码、跑测试、发现问题、继续修改,这整个闭环真正跑起来之后,Agent 就从一个问答工具,变成了一个能够持续自我纠偏的小系统。

这才是过去一年 AI Coding 生产力跳升的重要原因。模型能力当然在进步,但真正拉开差距的,是 Agent 学会了自己检查、自己验证。

而且这一层循环远没有定型。怎么写更聪明的测试,怎么搭更顺畅的自动调试链路,怎么让 Agent 在一小时的连续工作里少走弯路,这些都还是今天大家不断探索的问题。

不过,Loop Engineering 转得再快,它始终回答不了一个问题:到底应该写什么。

Agent 可以不断优化答案,却不知道什么才是真正的问题。

产品方向、需求边界、哪些功能值得做,这些决定仍然来自人。这也就是第二层 Loop 存在的原因。

#02

Developer Feedback Loop:开发者负责修正方向

第二层循环的主角重新变回了人。

跟第一层最大的区别在于,第一层里,人可以离开,Agent 自己就能跑起来;第二层里,人不能离开,因为这一层做的是判断。

开发者在这里已经不是替 AI 揪 Bug,那些工作 Agent 自己已经完成得越来越好了。

人开始做更上层的事情:决定功能范围,调整 UI 和交互,重新思考信息怎么组织,看完 Agent 做出来的第一版之后,再回头修改最初的 Spec,甚至整个推翻重来。

Andrew Ng 提到,去年这个时候,包括他自己在内,很多开发者其实都在给 Agent 当 QA,自己测试产品、找 Bug,再让 Agent 去修。

一年过去,Agent 自测和自我修复能力越来越强,人花在挑错上的时间少了很多,于是精力自然开始往更高层的产品判断上走。

打字 App 那个例子里,他真正花时间做的是反复调整视觉风格,琢磨女儿能解锁哪些猫咪皮肤(她喜欢猫),重新设计家长登录和监督学习进度的整个流程。这些都是方向性的决策。

这一层循环的节奏,大概是几十分钟到几个小时。开发者隔一段时间回来看看当前版本,再决定下一步往哪走。

真正费劲的地方,在于把脑子里一个模模糊糊的想法,变成 Agent 能执行的 Spec。而且很多时候,Spec 并不是一开始就写好的。

越来越真实的过程是:先写一个比较粗糙的 Spec,让 Agent 做出第一版,看完之后才发现自己真正想要的是另外一种东西,于是回头继续改 Spec,再继续生成。

如果某类问题反反复复出现,这时候再补上一套 Evals,当成后续自动迭代的质量锚点,省得每次都人工盯着同一个坑。

Andrew Ng 在这里还提了一个我觉得很有意思的观点。

很多人喜欢说,人类在产品上的优势来自品味。他更愿意把它理解成上下文优势。

因为品味听起来很玄,但上下文可以拆开来看:用户是谁、业务边界是什么、有哪些约束条件、竞争对手在做什么。

这些信息目前还锁在人脑子里,AI 并不知道。

所以,只要人类还掌握着 Agent 不知道的上下文,人就必须留在这个 Loop 里,把这些信息一点点补给系统。

不过,开发者的判断再好,也始终有一个局限。它终究还是基于自己的想象。

真正的用户会怎么用,市场会怎么变化,竞品昨天是不是刚发布了一个新功能,这些事情,只有产品真正进入真实世界之后才能知道。

于是,就来到了第三层 Loop。

#03

External Feedback Loop:来自真实世界的慢反馈

第三层循环发生在产品之外。

比如找几个朋友试用一下,收集真实反馈。邀请一批 Alpha 或 Beta 用户。或者直接上线,通过 A/B Test 和后台数据观察用户行为。

这些方法都有一个共同特点:慢。

很少有几个小时就能看到结果的,更多时候要等几天,甚至几周。

相比前两层以分钟和小时为单位高速运转,这一层几乎像静止一样。

但偏偏,它承担着最重要的纠偏工作。因为前两层都发生在系统内部。Agent 按照 Spec 写代码,开发者按照自己的理解修改 Spec,但两者都没有真正接触真实用户。

用户会不会理解你的设计?市场是不是已经发生变化?竞争环境有没有改变用户预期?这些问题,没有任何人能够坐在办公室里想出来。

只能放到真实世界里,才能拿到答案。

而且,这一层反馈不会直接修改代码。它会先回到开发者脑子里,修正开发者对产品的整体判断,也就是 Vision。开发者再根据新的判断调整 Spec,最后交给 Agent 去执行。

三层 Loop,就是这样串起来的。

最慢的一层提供信号,中间那层负责判断,最快的一层负责执行。

我觉得,这也是 AI 正在悄悄改变工程师角色的地方。

随着 Agent 把开发速度不断推高,越来越多工程师开始承担一部分产品经理的工作。一头要把模糊的 Vision 翻译成 Agent 能执行的 Spec;另一头要不断听真实用户的反馈,再回过头修正自己的 Vision。

AI 并没有消灭软件开发中的 Loop,它只是把最里面那层 Loop 压缩到了几分钟。

于是,软件开发真正稀缺的能力,开始越来越往外层迁移。

真正难的是,想清楚到底要解决什么问题,把一个模糊的想法不断修正成 Agent 能执行的 Spec,再持续从真实世界拿回反馈,修正自己的判断。

这三层 Loop,一层比一层慢,也一层比一层重要。少了任何一层,一个真正的 0 到 1 产品,都很难跑起来。

最后,推荐我们 9 月 12 日在上海举办的 AI Maker Summit 大会。早鸟价下周结束。这次邀请到了不少一线的实战讲师,内容非常有料。

大会一共设计了八个专题,包括:

AI Native 产品、Harness Engineering、AI Agent、AI Maker、OPT 一人团队、AI Coding、Eval、AI 投资。

四个分会场并行,一天时间,36 个 talk。

我们想做的事情是,让大家来一天,就能快速了解这个行业正在发生什么,有趣的人正在思考什么。

可能跟其他大会不太一样,我们不看 title,不看年龄。重要的是看嘉宾在用 AI 做什么,解决什么问题。

所以,这个大会上,大家能看到的一定都是最新鲜的思考和实践。

文章配图

文章来自于"AI产品阿颖",作者 "阿颖"。

Related topics

After reading

Join the AINRK community

Read how to join the community and connect with people working in AI.

Community information (opens in a new tab)