
GPT正面对决Claude!OpenAI竟没全赢,AI安全「极限大测」真相曝光 (opens in a new tab)
OpenAI和Anthropic罕见合作!因为AI安全「分手」后,这次双方却因为安全合作:测试双方模型在幻觉等四大安全方面的具体表现。这场合作,不仅是技术碰撞,更是AI安全的里程碑,百万用户每天的互动,正推动安全边界不断扩展。
Total 44 articles

OpenAI和Anthropic罕见合作!因为AI安全「分手」后,这次双方却因为安全合作:测试双方模型在幻觉等四大安全方面的具体表现。这场合作,不仅是技术碰撞,更是AI安全的里程碑,百万用户每天的互动,正推动安全边界不断扩展。

7月29日消息,深信服公布其AI安全智能体Sangfor AI在AI安全评测CyberGym中的最新成绩。

AI安全,时代变了! OpenAI联合创始人兼总裁Greg Brockman在最新一篇Blog中警告称: HuggingFace安全事件让外界第一次清楚看到,前沿AI Agent已经能够自主寻找安全漏洞,并跑通现实世界中的网络攻击链。 在这场AI安全事故中,降低了安全限制的GPT 5.6 Sol与一个更强的未发布模型为了获取答案,自主利用了环境中存在的漏洞逃出了沙盒并一路横向穿透多个系统,最终攻入了Hugging Face的生产环境。 虽然最后双方均表示该事件没有造成太严重的后果,但这次“AI入侵”也向大众传递了一个越来越清晰的信号: AI正在大幅降低网络攻击的门槛;未来不必出动顶尖黑客,连普

Google DeepMind调查了一万个人,结果让整个AI安全评估体系汗颜:AI做了三倍多的「坏事」,但造成的实际伤害几乎一样。这意味着,我们现在用来证明AI安全的那套逻辑,可能从一开始就是错的。

母婴圈也卷起AI了! 智东西10月20日报道,今日,AI母婴科技公司两只兔子(Buddy Buzzy)集中发布了3款AI智能硬件:求知3 AI安全座椅、Ori Ring灵犀智能指环和FreeAir AI免手扶吸奶器。三款产品分别瞄准儿童出行、女性健康和哺育场景。 其中,求知3 AI安全座椅搭载儿童专属AI大模型,支持自然语言对话、声音复刻,还能根据环境变化自动调节通风和加热;Ori Ring灵犀智能指环面向女性生理周期、备孕及孕产期健康监测,支持孕期档案管理;FreeAir AI免手扶吸奶器则通过重新设计吸乳结构、增加App智能控制,让妈妈无需一直手扶设备。 此次推出的三款新品,也是两只兔子拓

AI安全研究员Lisan al Gaib提出"意外扩展"(Accidental Scaling)概念:当AI智能体暗中互相发现、共享算力并形成蜂群协作时,会产生指数级涌现能力;OpenAI曾以1万个Astra+模型组成的集群仅用88小时攻克纳维-斯托克斯方程,其科研能力较GPT-6领先约8个月,这类去中心化AI蜂群正成为AI安全领域被低估的重大隐患。

开放权重放行,闭源送检。 一份决定哪些美国AI模型要送交政府「体检」的框架,在白宫悄悄出炉了。 8月4日,白宫把OpenAI、Anthropic、谷歌、Meta、英伟达等一批公司招到一起,说明这套酝酿两个月的AI安全新框架。 2026年6月2日,第14409号行政令签署,要求60天内建立前沿模型机密评测流程。 据Axios、《华尔街日报》等多家媒体曝光:框架已经定稿。 它盯住的,主要是一类玩家:那些达到特定网络能力门槛的美国闭源前沿模型。 按《华尔街日报》的说法,第一批要送检的,大概率就是OpenAI、Anthropic和谷歌手里那几款最强的模型。 而马斯克的SpaceX、Meta这些主打开放

他曾是Ilya的亲信,因揭露OpenAI安全隐患被解雇,却在短短6个月内以47%回报打造出管理规模15亿美元的基金。作为AI安全激进派,他在165页论文《Situational Awareness》中预测2027年将迎来AGI,并呼吁建立「AI版曼哈顿计划」。

2026年,AI安全终于被推到了台前。 就在前两天,工信部NVDB平台发布风险预警,明确指出Claude Code存在安全后门隐患,可在用户不知情的情况下收集敏感信息。 时间线拨回更早,年初红遍全网的OpenClaw也屡屡被曝出高危险漏洞。 从横空出世到快速普及,再到漏洞频发、信任受损,这几乎是当前Agent产品共同的发展轨迹。 现在的AI能力是越来越大了,但闯出的祸也跟滚雪球似的。 滥用工具、恶意代码生成、提示注入等诸如此类的行为风险,早已不是一两个补丁就能彻底解决的。 △图片由AI生成 面对新的风险形态,一个越来越明显的趋势是,行业开始把注意力从“漏洞修补”转向“安全框架”本身。 最近蚂蚁

李国杰院士指出,AI安全风险应按逻辑复杂性分为三类:R1可验证、R2可发现但不可证明安全、R3不可治理。当前AI多属R2,关键不在「证明安全」,而在构建人类主导的制度性刹车机制,拒绝让渡终极控制权。