AI news

Meta Agent失控泄密,小扎紧急拉响顶格警报

By henry0 viewsSource: 量子位
Meta Agent失控泄密,小扎紧急拉响顶格警报

在Meta,人从来都不是问题(大不了裁了),能让小扎栽跟头的,还得是“AI”。

The full text has not been translated yet. The Chinese original is shown below.

在Meta,人从来都不是问题(大不了裁了),能让小扎栽跟头的,还得是“AI”。

继上个月龙虾(OpenClaw)删掉安全对齐总监Summer Yue邮箱的事件后,Meta的AI又闯祸了——

这次,一个AI Agent未经授权擅自行动,把敏感的公司和用户数据暴露给了没有权限的员工,近两小时!

文章配图

Meta内部将这一事件定性为Sev 1级,这是什么概念呢?

历史上,Meta从没对外承认过Sev 0级事件,所以这次几乎等于他们眼中“最严重”的那一档。

这下好了,人类员工你Meta爱搭不理,AI员工直接让你拉响警报。

Agent失控Meta拉响警报

事情是这样的。

一名Meta软件工程师使用内部的agent(类似OpenClaw)分析了另一名员工在内部论坛上发布的技术问题。

分析完成后,这个热心的Agent直接在论坛上回复了原问题,并给出了技术建议,而这一切都未经员工授权。

提问的员工采纳了Agent的技术建议,却没想到直接导致大量公司和用户数据被没有权限的员工访问,数据暴露了近2小时。

文章配图

△图片由AI生成

虽然据知情人士透露,暂时没有人利用这次访问权限将数据公开,造成大的泄露。

但是!

根据报告,Meta最终还是将该事件定性为Sev 1级,这是公司内部安全事件严重程度体系中的第二高级别。

而就像开头说的,Sev 0,也就是最严重的情况,从来没发生过。

据消息爆料,涉事员工在内部帖子中指出,其他一些未指明的问题也加剧了事件的严重性。

所以,估计这事儿基本上得立项调查了。

不过,好消息是,这个随意回帖,提供建议的Agent并没有伪装成人。

据Meta发言人称,代理发布的帖子底部标明了“AI生成”。

总的来说,这次的agent失控导致数据泄露,虽然时间很长,但好在可追溯,且目前并未其他风险,所以基本上是提前演习了一下企业agent可能遇到的问题。

但这事儿,在Meta已经不是第一次了。

今年二月份,Meta 人工智能部门的安全与协调总监Summer Yue就表示,OpenClaw删光了自己的全部邮件。

文章配图

而且略显离谱的是,yue曾多次命令龙虾停止操作,但龙虾就是假装听不见,继续执行任务。

由于无法通过在手机上发消息进行干预,yue最终不得不赶紧跑到另一台设备上阻止这一过程。

Summer Yue 形容当时的自己就像在拆炸弹一样。

不少网友也是在评论区表示,在企业环境中部署有操作权限的自动化agent 本身有风险。

文章配图

而据一些消息显示,部分企业内部也暂时还未开放龙虾这样的agent在公司电脑上部署。

所以说,龙虾虽然可口,但风险还是有的。

4 more things

那么,为啥这种事总发生在Meta身上呢?

文章配图

虽然听起来有些离谱,但可能最近一周,Meta可能是真的是水逆。

先是去年重金组建的Meta超级智能实验室(MSL)的模型“牛油果”难产,被爆料性能甚至不如谷歌去年发布的Gemini 3,导致发布又又将延期——

从2025年底,拖到今年一季度,现在表示最快也得5月26号了。

文章配图

接着是暴力裁员20%(约 1.5 万人),小道消息甚至称离职员工开始“投毒skills”。

文章配图

昨天,又有消息称收购Manus的进程受阻。

今天更是有媒体报道,Meta花费800亿美元、耗时5年多的元宇宙项目,将在6月关闭,800亿美元泥牛入海。

文章配图

要不,小扎别裁员了,咱先改个名呗?

文章配图

参考链接

[1]https://x.com/Jessicalessin/status/2034384626295419267

[2]https://www.theinformation.com/articles/inside-meta-rogue-ai-agent-triggers-security-alert

文章来自于“量子位”,作者 “henry”。

Related topics

After reading

Join the AINRK community

Read how to join the community and connect with people working in AI.

Community information (opens in a new tab)