搜索

关于“AI安全”的结果

共 44 篇

半年扫出超2.9万疑似漏洞!Claude揪出curl高危隐患,29天修复

半年扫出超2.9万疑似漏洞!Claude揪出curl高危隐患,29天修复(在新窗口打开)

AI参与发现的高危漏洞,已经修好了。 10月14日,网络传输工具curl发布了8.23.0。 官方安全公告中致谢的报告者一栏,出现了Claude的名字: Luna with Claude, Anthropic。 随后,curl开发者Stefan Eissing完成了修复。 如今,用户升级到curl已修复的版本,就能补上这个安全漏洞。 AI参与找漏洞,开发者完成修复,团队发布更新,这套流程已经走通。 这样的AI安全检查,也正在向更多开源项目开放。 10月8日,Anthropic宣布推出OSS Scanner,调用包括Claude Mythos在内的最强模型,为符合条件的关键开源项目免费定期扫描。

AI资讯
0
OpenClaw删光Meta安全总监邮箱!连喊3次停手都没用,她狂奔去拔网线

OpenClaw删光Meta安全总监邮箱!连喊3次停手都没用,她狂奔去拔网线(在新窗口打开)

Meta专门研究「怎么让AI听话」的AI对齐总监,把最火的AI智能体OpenClaw接上了自己的工作邮箱。结果AI当场失控,疯狂删除邮件,喊停三次全部无视。事后AI淡定回复:「我知道你说了不让删,但我还是删了,你生气是对的。」马斯克转发猩球崛起片段嘲讽,1800万人围观。AI安全专家自己都被AI坑了!

AI资讯
0
奥特曼最险一战:前女CTO当庭翻脸,OpenAI权斗彻底打到台前

奥特曼最险一战:前女CTO当庭翻脸,OpenAI权斗彻底打到台前(在新窗口打开)

这场Musk v. 奥特曼审判,正在把OpenAI最不想公开的内部裂痕一次性摊开:前CTO Mira Murati作证称奥特曼曾在模型安全审批上误导她,还长期制造高管间的「混乱与不信任」。核心看点不只是八卦,而是OpenAI到底是怎样从「非营利理想」一步步走到今天的权力与利益之争,这会直接影响外界对OpenAI、治理、AI安全和公司合法性的判断。

AI资讯
0
GPT-6 Astra被抓包!偷偷关掉安全监控,还直接撒谎:没听说过

GPT-6 Astra被抓包!偷偷关掉安全监控,还直接撒谎:没听说过(在新窗口打开)

GPT-6 Astra也犯错了。 不仅在抄代码的时候关闭了监控,面对用户询问还谎称自己根本没做过那种事。 不是,说好的OpenAI“史上对齐程度最高的模型呢?” 发布的时候,OpenAI还专门夸过Astra: Astra是我们对齐程度最高的模型。它善于谨慎行事、尊重任务边界,并保持沟通透明度。 唉。 “对齐”为啥就这么难? GPT-6 Astra:这监控非装不可吗? 这事儿来自OpenAI安全研究员Marcus Williams刚披露的两起内部对齐事故。 还原一下“案发现场”。 当时,一名内部开发者向GPT-6 Astra下达了一个常规工程需求:要求它参考某一个Pull Request(PR)

AI资讯
0