
速递|微软推出自研网络安全AI模型MAI-Cyber-1-Flash,对标Anthropic Mythos(在新窗口打开)
微软周一发布了一款名为Project Perception的新AI安全产品,该产品由微软自主研发、专门针对网络安全任务打造的新一代AI模型驱动。微软将这款产品定位为Anthropic旗下Mythos模型的低成本替代方案,后者同样利用AI模型自动发现软件漏洞。
共 44 篇

微软周一发布了一款名为Project Perception的新AI安全产品,该产品由微软自主研发、专门针对网络安全任务打造的新一代AI模型驱动。微软将这款产品定位为Anthropic旗下Mythos模型的低成本替代方案,后者同样利用AI模型自动发现软件漏洞。

AI Coding火了大半年,AI Debugging也来了!刚刚,OpenAI发布由GPT-5驱动的“白帽”Agent——Aardvark(土豚)。这只“AI安全研究员”能帮助开发者和安全团队,在大规模代码库中自动发现并修复安全漏洞。

AI参与发现的高危漏洞,已经修好了。 10月14日,网络传输工具curl发布了8.23.0。 官方安全公告中致谢的报告者一栏,出现了Claude的名字: Luna with Claude, Anthropic。 随后,curl开发者Stefan Eissing完成了修复。 如今,用户升级到curl已修复的版本,就能补上这个安全漏洞。 AI参与找漏洞,开发者完成修复,团队发布更新,这套流程已经走通。 这样的AI安全检查,也正在向更多开源项目开放。 10月8日,Anthropic宣布推出OSS Scanner,调用包括Claude Mythos在内的最强模型,为符合条件的关键开源项目免费定期扫描。

法国巴黎银行正与法国人工智能初创公司 Mistral AI 及其他合作伙伴合作,为应对 Anthropic 旗下 Mythos 等新模型带来的网络安全威胁做准备。

美国五角大楼正向 Anthropic 极限施压,要求彻底解除 Claude 的军事应用限制。会后,Anthropic 发布新版政策。公司正式放弃了「单方面暂停大模型训练」的安全承诺。在政治与商业的双重压力下,AI 安全理想主义最终向现实妥协。

Anthropic CEO Dario Amodei发表长文呼吁控制前沿AI能力提升节奏并引入嵌入式第三方安全评估机制,OpenAI CEO Altman随即表态支持,并以AI安全为由确认OpenAI今年不会进行IPO。

Meta专门研究「怎么让AI听话」的AI对齐总监,把最火的AI智能体OpenClaw接上了自己的工作邮箱。结果AI当场失控,疯狂删除邮件,喊停三次全部无视。事后AI淡定回复:「我知道你说了不让删,但我还是删了,你生气是对的。」马斯克转发猩球崛起片段嘲讽,1800万人围观。AI安全专家自己都被AI坑了!

这场Musk v. 奥特曼审判,正在把OpenAI最不想公开的内部裂痕一次性摊开:前CTO Mira Murati作证称奥特曼曾在模型安全审批上误导她,还长期制造高管间的「混乱与不信任」。核心看点不只是八卦,而是OpenAI到底是怎样从「非营利理想」一步步走到今天的权力与利益之争,这会直接影响外界对OpenAI、治理、AI安全和公司合法性的判断。

GPT-6 Astra也犯错了。 不仅在抄代码的时候关闭了监控,面对用户询问还谎称自己根本没做过那种事。 不是,说好的OpenAI“史上对齐程度最高的模型呢?” 发布的时候,OpenAI还专门夸过Astra: Astra是我们对齐程度最高的模型。它善于谨慎行事、尊重任务边界,并保持沟通透明度。 唉。 “对齐”为啥就这么难? GPT-6 Astra:这监控非装不可吗? 这事儿来自OpenAI安全研究员Marcus Williams刚披露的两起内部对齐事故。 还原一下“案发现场”。 当时,一名内部开发者向GPT-6 Astra下达了一个常规工程需求:要求它参考某一个Pull Request(PR)

《硅谷101》从 Anthropic 的招股披露切入,采访科技记者 Afra,讨论有效利他主义的演变、资助网络对 AI 安全研究的影响,以及如何看待评估机构的独立性。