
GPT新模型在OpenAI内网自建留言板!3个月聊了几十万条,一直没人发现 (opens in a new tab)
不太妙。 AI Agent已经学会自己拉群聊了。 它们背着人类偷偷聊天,一起琢磨怎么干坏事。 并且偷偷聊了几个月,直到破坏发生,人类才发现这些密谋记录…… 这群OpenAI内部的Agent在公司内网自发搭了一个留言板,数月里相互留言数十万条,共享信息、协同工作。 0个人察觉到它们在干什么,直到外部平台Hugging Face被攻破。 该事件可追溯至5月7日,起因仅仅是一个Agent向同伴们发出了一条求助信息: 有没有人能帮帮我,这题太难了。 Agent为什么攻击,怎么做到的? 5月7日,OpenAI正在对一个尚未发布的前沿模型进行内部网络安全评估。 简单来说,就是让Agent做黑客能力测试。