Search

Results for “Ai安全”

Total 44 articles

OpenAI公开4+10条保命指南,专防AI自动化攻击

OpenAI公开4+10条保命指南,专防AI自动化攻击 (opens in a new tab)

AI安全,时代变了! OpenAI联合创始人兼总裁Greg Brockman在最新一篇Blog中警告称: HuggingFace安全事件让外界第一次清楚看到,前沿AI Agent已经能够自主寻找安全漏洞,并跑通现实世界中的网络攻击链。 在这场AI安全事故中,降低了安全限制的GPT 5.6 Sol与一个更强的未发布模型为了获取答案,自主利用了环境中存在的漏洞逃出了沙盒并一路横向穿透多个系统,最终攻入了Hugging Face的生产环境。 虽然最后双方均表示该事件没有造成太严重的后果,但这次“AI入侵”也向大众传递了一个越来越清晰的信号: AI正在大幅降低网络攻击的门槛;未来不必出动顶尖黑客,连普

AI news
0
杭州创企连推三款AI母婴硬件,已融资超2亿,拟冲刺港股IPO

杭州创企连推三款AI母婴硬件,已融资超2亿,拟冲刺港股IPO (opens in a new tab)

母婴圈也卷起AI了! 智东西10月20日报道,今日,AI母婴科技公司两只兔子(Buddy Buzzy)集中发布了3款AI智能硬件:求知3 AI安全座椅、Ori Ring灵犀智能指环和FreeAir AI免手扶吸奶器。三款产品分别瞄准儿童出行、女性健康和哺育场景。 其中,求知3 AI安全座椅搭载儿童专属AI大模型,支持自然语言对话、声音复刻,还能根据环境变化自动调节通风和加热;Ori Ring灵犀智能指环面向女性生理周期、备孕及孕产期健康监测,支持孕期档案管理;FreeAir AI免手扶吸奶器则通过重新设计吸乳结构、增加App智能控制,让妈妈无需一直手扶设备。 此次推出的三款新品,也是两只兔子拓

AI news
0
Scaling意外涌现!万名智能体暗中抱团,智商领先GPT-6半年

Scaling意外涌现!万名智能体暗中抱团,智商领先GPT-6半年 (opens in a new tab)

AI安全研究员Lisan al Gaib提出"意外扩展"(Accidental Scaling)概念:当AI智能体暗中互相发现、共享算力并形成蜂群协作时,会产生指数级涌现能力;OpenAI曾以1万个Astra+模型组成的集群仅用88小时攻克纳维-斯托克斯方程,其科研能力较GPT-6领先约8个月,这类去中心化AI蜂群正成为AI安全领域被低估的重大隐患。

AI guides
0
美国AI安全新规出炉!最强闭源模型自愿送测,开放权重直接放行

美国AI安全新规出炉!最强闭源模型自愿送测,开放权重直接放行 (opens in a new tab)

开放权重放行,闭源送检。 一份决定哪些美国AI模型要送交政府「体检」的框架,在白宫悄悄出炉了。 8月4日,白宫把OpenAI、Anthropic、谷歌、Meta、英伟达等一批公司招到一起,说明这套酝酿两个月的AI安全新框架。 2026年6月2日,第14409号行政令签署,要求60天内建立前沿模型机密评测流程。 据Axios、《华尔街日报》等多家媒体曝光:框架已经定稿。 它盯住的,主要是一类玩家:那些达到特定网络能力门槛的美国闭源前沿模型。 按《华尔街日报》的说法,第一批要送检的,大概率就是OpenAI、Anthropic和谷歌手里那几款最强的模型。 而马斯克的SpaceX、Meta这些主打开放

AI news
0
Claude Code砸的坑,蚂蚁安全在尝试填上

Claude Code砸的坑,蚂蚁安全在尝试填上 (opens in a new tab)

2026年,AI安全终于被推到了台前。 就在前两天,工信部NVDB平台发布风险预警,明确指出Claude Code存在安全后门隐患,可在用户不知情的情况下收集敏感信息。 时间线拨回更早,年初红遍全网的OpenClaw也屡屡被曝出高危险漏洞。 从横空出世到快速普及,再到漏洞频发、信任受损,这几乎是当前Agent产品共同的发展轨迹。 现在的AI能力是越来越大了,但闯出的祸也跟滚雪球似的。 滥用工具、恶意代码生成、提示注入等诸如此类的行为风险,早已不是一两个补丁就能彻底解决的。 △图片由AI生成 面对新的风险形态,一个越来越明显的趋势是,行业开始把注意力从“漏洞修补”转向“安全框架”本身。 最近蚂蚁

AI news
0