
Anthropic发布万字长文:系统化评估 AI Agents 的工程方法(在新窗口打开)
如果你在做 AI Agent 开发,大概率已经发现一件事: Agent 几乎是传统软件测试方法的反例。
共 953 篇

如果你在做 AI Agent 开发,大概率已经发现一件事: Agent 几乎是传统软件测试方法的反例。

Agent 并不是一次性输出的系统。它们运行在多轮交互之中:调用工具、修改内部状态、根据中间结果不断调整策略。也正是这些让 Agent 变得有用的能力 ——自主性、智能性与灵活性 —— 同时也让它们变得更难以评估。

近日,谷歌资深工程主管、杰出工程师 Antonio Gulli 在网上公开发布了自己的新书《Agentic Design Patterns(智能体设计模式)》。地址:https://docs.google.com/document/d/1rsaK53T3Lg5KoGwvf8ukOUvbELRtH-V0LnOIFDxBryE/preview?tab=t.0#

近日,「AI教父」Geoffrey Hinton在一次采访中再发预警:「杀手机器人」「无人机」等致命自主武器的兴起,正在让战争变得更易发动。Hinton认为OpenAI、Anthropic等许多AI公司在AI安全方面做得都不够。他还谈到了贪婪、自负等人性弱点,对AI研究可能带来的潜在风险。

Anthropic 公告披露拟以每股 70 至 78 美元发行 8.25 亿股,并安排约 260 亿美元私募配售。最终发行价格和规模仍待确定。

Anthropic 发布两款新旗舰,并披露 RoboDojo、既有数学证明形式化及实验设计的测试结果。Fable 与 Mythos 的开放方式和安全限制各有不同。

《金融时报》称,Anthropic 与 OnePWR Solutions 达成约 1.7 吉瓦重型发电设备供应交易。报道还提到安装能力与数据中心用电需求。

Physical Superintelligence 称,内部研究系统使用未公开的 Anthropic 模型,在运行第三天得出经 Lean 检查的证明。结果涉及随机输入下量子查询加速的边界。

《金融时报》援引消息人士称,Anthropic 讨论以 1.25 万亿至 1.75 万亿美元估值推进 IPO。美国证监会文件披露其财务数据和多年算力承诺,上市日期仍待确认。

Anthropic 研究让 Claude 在独立任务中回看运行记录,修订笔记并为后续会话提炼经验。论文团队以《宝可梦:红》和企业知识库展示方法。