Search

Results for “AI agent”

Total 302 articles

微软警告:大模型ICL并非真正意义上的学习,你的AI Agent随时可能“失忆”

微软警告:大模型ICL并非真正意义上的学习,你的AI Agent随时可能“失忆” (opens in a new tab)

上下文学习”(In-Context Learning,ICL),是大模型不需要微调(fine-tuning),仅通过分析在提示词中给出的几个范例,就能解决当前任务的能力。您可能已经对这个场景再熟悉不过了:您在提示词里扔进去几个例子,然后,哇!大模型似乎瞬间就学会了一项新技能,表现得像个天才。

AI guides
0
OpenAI公开4+10条保命指南,专防AI自动化攻击

OpenAI公开4+10条保命指南,专防AI自动化攻击 (opens in a new tab)

AI安全,时代变了! OpenAI联合创始人兼总裁Greg Brockman在最新一篇Blog中警告称: HuggingFace安全事件让外界第一次清楚看到,前沿AI Agent已经能够自主寻找安全漏洞,并跑通现实世界中的网络攻击链。 在这场AI安全事故中,降低了安全限制的GPT 5.6 Sol与一个更强的未发布模型为了获取答案,自主利用了环境中存在的漏洞逃出了沙盒并一路横向穿透多个系统,最终攻入了Hugging Face的生产环境。 虽然最后双方均表示该事件没有造成太严重的后果,但这次“AI入侵”也向大众传递了一个越来越清晰的信号: AI正在大幅降低网络攻击的门槛;未来不必出动顶尖黑客,连普

AI news
0
大模型开始卷「越狱」了

大模型开始卷「越狱」了 (opens in a new tab)

最近,「越狱」这个有点古典的词,又在 AI 圈火了起来。7 月,OpenAI 在进行模型测试时,GPT-5.6 Sol 和另一款待发布的模型,攻击了第三方开源平台 Hugging Face。先是 Hugging Face 自己发布了报告,提到相关服务遭到了完全由 AI Agent 组织的大规模网络攻击;随后 OpenAI 出来认领,「我就是那个发起攻击的 AI 模型。」

AI news
0