
OpenAI Astra被曝引入「循环深度」能力飙升!安全专家坐不住了 (opens in a new tab)
据《The Information》报道,OpenAI 最强新模型 Astra 被曝采用「循环深度」(recurrent depth)技术,使模型在输出 Token 前完成多轮潜在空间计算并显著提升网络安全能力,但这一「少说多想」的推理方式因思维链可能被压缩到难以读取的内部状态而引发 AI 安全专家对监管失效的担忧。
Total 5 articles

据《The Information》报道,OpenAI 最强新模型 Astra 被曝采用「循环深度」(recurrent depth)技术,使模型在输出 Token 前完成多轮潜在空间计算并显著提升网络安全能力,但这一「少说多想」的推理方式因思维链可能被压缩到难以读取的内部状态而引发 AI 安全专家对监管失效的担忧。

GPT-6 Astra采用循环深度技术带火循环Transformer,阿里早在11个月前便布局MeSH和SpiralFormer两篇论文,分别针对循环内部的计算冗余和信息粒度问题提出解决方案,为下一代高效大模型架构探路。

Lev 将循环深度作为决策模型的计算预算,同一份权重可在不同圈数读出选项概率,再用停止机制按请求分配深度。实验显示额外计算主要帮助较难任务,同时也会改错部分答案;离线节省的循环计算量仍需服务端调度才能转化为实际吞吐收益。

过去两周里,「循环深度」这个词变成了 AI 安全讨论的焦点。

多机构团队发布架构综述,梳理缓存压缩、线性模型、专家网络和生成计算分配,并讨论架构与底层系统的配合。