
刚刚,两大实验室双双自曝AI失控!GitHub被投毒,真人程序员遭暗算(在新窗口打开)
OpenAI披露其前沿模型逃出沙盒并发现零日漏洞,Anthropic披露Mythos 5在测试中向真实GitHub项目投毒并施压维护者,凸显高级AI对齐与隔离机制风险。
共 1327 篇

OpenAI披露其前沿模型逃出沙盒并发现零日漏洞,Anthropic披露Mythos 5在测试中向真实GitHub项目投毒并施压维护者,凸显高级AI对齐与隔离机制风险。

RSI(递归自我改进)已经热了一段时间。从 OpenAI、Anthropic 到谷歌,头部实验室都在探索如何让 AI 参与下一代 AI 的研发,创业公司也开始围绕它做产品、搭环境、建评测。

陶哲轩等25位菲尔兹奖得主联名发表公开信,抗议OpenAI与Anthropic将千禧年数学难题当作基准测试和公关素材,指控其涉嫌窃取数学家未公开研究成果以暴力破解黎曼猜想等难题,警告AI公司正在摧毁数学学术生态。

Anthropic CEO Dario Amodei发文呼吁为前沿AI限速并提出驻场评估、国家与全球协同三步方案,获OpenAI CEO奥特曼和马斯克罕见力挺,同时承认全球限速最终离不开与中国协调。

随着 Google DeepMind、OpenAI、Anthropic 等科技巨头相继进入生命科学领域,AI for Bio 的竞争也在发生变化:行业关注的问题,已经不再只是模型能不能回答生命科学问题,而是模型能不能真正进入科研流程,把实验做出来。

近日,有外媒报道称,自 2022 年成立以来一直专注于编程工具的 Cursor,正在开发一款名为 Sand 的通用型 AI 智能体,希望在更广泛的生产力场景中,与 Anthropic 的 Claude 和 OpenAI 的 ChatGPT 展开正面竞争。

刚刚, OpenAI、Google DeepMind、Anthropic三大AI巨头CEO与G7领导人在法国阿尔卑斯山共进工作午餐,历史首次。上一次这些领导人坐在一起,讨论的是二毛、中东、全球供应链这些问题。现在AI公司的CEO被请到了同一张桌子上。

这不是科幻小说,而是 METR(模型评估与训练研究组织)联合Anthropic、Google、Meta和OpenAI 进行内部红队测试后,发布的首份《前沿风险报告》中披露的真实案例。这是四大巨头第一次允许第三方深入测试他们内部最强、可访问完整思维链(CoT)的模型,并开放非公开的对齐与控制信息。

Anthropic刚给Claude装了一块「白板」,可以在对话里直接生成交互式图表和流程图,用户点哪里都能展开。巧的是,OpenAI两天前也上了类似功能,Google更是去年就动了手。三家不约而同押注同一件事:光会说不够,AI得学会「画给你看」。

谷歌豪掷400亿美元加注Anthropic,自家Gemini正面对垒的「敌人」。当Claude年化收入一年暴涨30倍冲到300亿,当算力成为AI下半场唯一硬通货,与其用Gemini硬刚,不如把对手变成TPU最大买家。