Search

Results for “Anthropic”

Total 840 articles

大模型中毒记

大模型中毒记 (opens in a new tab)

那个叫大模型的高手,被下毒了 近日,AI江湖上突然传出一些秘闻。 那个叫大模型的高手,好像被下毒了。 不少与之过招的用户发现,曾经算无遗策、对答如流的高人,近来举止颇为怪异。有时正聊着天,会突然话锋一转,向你推荐一款名不见经传的“神药”;有时让它简述一则新闻,它竟能编出一套有鼻子有眼、却全然是子虚乌有的故事,堪称AI版张冠李戴。 这究竟是怎么回事?莫非是练功走火入魔,以至于开始胡言乱语了? 据知情者透露,此非走火入魔,实乃江湖中一种阴险手段——数据投毒。 所谓大模型中毒,是指模型在训练或使用过程中受到了恶意数据的影响,导致输出异常甚至有害的内容。 Anthropic的一项最新研究揭示:研究者仅

AI news
0
他不懂代码,却用 AI 黑掉 17 家医院和机构,Vibe Hacking 让全世界变成缅北

他不懂代码,却用 AI 黑掉 17 家医院和机构,Vibe Hacking 让全世界变成缅北 (opens in a new tab)

想象一下,你收到一封电子邮件,里面写着你公司的机密、你的个人财务状况,甚至你面临的监管压力,发件人索要 50 万美元等值的比特币,否则你的数据将被公之于众。 更可怕地是,这封邮件并非出自黑客团队之手,而是由 AI 代理在几秒钟内生成的。 这不是科幻小说,而是 Anthropic 公司近期披露的真实「Vibe-Hacking」案例:一名网络罪犯利用他们的 Claude Code 编程工具,对 17 个组织发起自动化攻击,包括医院和政府机构。 这名攻击者没有团队,侦察、取证、写恶意软件、甚至敲诈勒索的文案,都出自 AI 之手。 这就是 AI 时代的蛊:Vibe Hacking(氛围黑客)。 01

AI news
0