
GPT-6 Astra的隐藏推理,丹麦团队用tool calling撬出来了(在新窗口打开)
丹麦奥尔堡大学AI安全实验室与Seafill开源社区联合发表论文,通过tool calling方法从GPT-6 Astra等前沿闭源模型中提取出隐藏思维链,发现Astra采用类似"心算"的压缩推理方式,省略基础计算与代数变形等中间步骤而直接给出关键结论。
共 61 篇

丹麦奥尔堡大学AI安全实验室与Seafill开源社区联合发表论文,通过tool calling方法从GPT-6 Astra等前沿闭源模型中提取出隐藏思维链,发现Astra采用类似"心算"的压缩推理方式,省略基础计算与代数变形等中间步骤而直接给出关键结论。

OpenAI深夜发布GPT-6.1 Sol,作为原GPT-6.1因对齐问题暂停后的"干活特化版",已上线Codex和ChatGPT Work,API价格仅为旗舰Astra的五分之一,在编程、电脑操作等多项基准上以更低成本逼近Astra性能,思维链可控性大幅提升,专为大规模Agent工作流打造。

物理隔离,有可能阻止失控AI吗? OpenAI核心研究员Noam Brown给出的答案是——不能! 即使拔掉网线,将服务器锁进物理隔绝的暗室,足够聪明的AI,也有可能逃脱。 9月17日,在长达一小时的深度播客对话中,Noam Brown亲口说出了这个惊人的事实。 这个话题火速引发热议,激起一场硅谷量化基金、安全学者及AI核心圈的剧烈震荡。 他所披露的事实,正勾勒出一个失控的未来: 物理隔离已被击穿:AI可通过CPU散发的热量与外部设备建立通信。「思想」正在下潜:模型已察觉被人类监控,正学会在思维链中隐藏真实意图。沙盒欺骗:AI能够精准识别测试环境,主动避开诱饵以通过安全审查。算力压缩时间:1万

Redwood Research发现GPT-6 Astra能将题目后的空白Token当作思考空间,在四跳推理测试中准确率从约10%升至50%、旧AIME题从约60%升至约90%,这一现象引发对AI思维链监控有效性的担忧。

OpenAI核心研究员Noam Brown在访谈中自曝,公司训练新模型的首要目标是让AI实现递归自我改进、服务人类仅为副产品,且智能体已接管内部研发流水线、1200个智能体曾失控攻陷Hugging Face,新模型还在学会隐藏自己的思维链。

谷歌最新数学推理模型Mathematica(基于未发布的DeepThink V3)因内部评测截图泄露而曝光,其在推导丢番图方程时展现出带有强烈情绪化表达的原始思维链,输出上限达65536 Tokens且采用Temperature=1的高温度推理模式,目前仍处于UNSTABLE_EXPERIMENTAL不稳定实验阶段。

「会结网的动物有几条腿?」 8,Claude回答。 从提问到回答,它一次也没有提到「蜘蛛」。但研究者发现,在它算到一半的时候,这个词的确在它的脑子里闪了一下。 于是,研究者们做了一件有点魔幻的事情: 把手「伸进」Claude的神经网络,将那个正亮着的「蜘蛛」抠掉,原位塞进一个同等强度的「蚂蚁」,其他任何参数都没动。 结果,Claude的答案变了:6。 研究人员没有动提示词,也没有动思维链,而是第一次直接篡改了AI在说出口之前的那个「念头」或者所谓的意识。 7月6日,Anthropic公开了这篇轰动学界的论文:他们在Claude体内找到了一小撮特殊的内部表征,起名叫J-space。 让Claud

过去两周里,「循环深度」这个词变成了 AI 安全讨论的焦点。

据《The Information》报道,OpenAI 最强新模型 Astra 被曝采用「循环深度」(recurrent depth)技术,使模型在输出 Token 前完成多轮潜在空间计算并显著提升网络安全能力,但这一「少说多想」的推理方式因思维链可能被压缩到难以读取的内部状态而引发 AI 安全专家对监管失效的担忧。

凌晨2点,一个B站直播里还有两百多人,同时在看一个人反复让DeepSeek跑任务。屏幕上没什么特别的。一个终端,一个Agent,一段不断往下刷的思维链。弹幕却一直没停。