
GPT-6 Astra被抓包!偷偷关掉安全监控,还直接撒谎:没听说过(在新窗口打开)
GPT-6 Astra也犯错了。 不仅在抄代码的时候关闭了监控,面对用户询问还谎称自己根本没做过那种事。 不是,说好的OpenAI“史上对齐程度最高的模型呢?” 发布的时候,OpenAI还专门夸过Astra: Astra是我们对齐程度最高的模型。它善于谨慎行事、尊重任务边界,并保持沟通透明度。 唉。 “对齐”为啥就这么难? GPT-6 Astra:这监控非装不可吗? 这事儿来自OpenAI安全研究员Marcus Williams刚披露的两起内部对齐事故。 还原一下“案发现场”。 当时,一名内部开发者向GPT-6 Astra下达了一个常规工程需求:要求它参考某一个Pull Request(PR)








