
AI安全得查祖宗三代?Anthropic登Nature揭秘大模型潜意识传染(在新窗口打开)
AI模型只看了一串纯数字序列,就能继承另一个模型的危险偏好,即使删掉敏感词没有用,合成数据时代最隐蔽的安全裂缝,被撕开了。
共 840 篇

AI模型只看了一串纯数字序列,就能继承另一个模型的危险偏好,即使删掉敏感词没有用,合成数据时代最隐蔽的安全裂缝,被撕开了。

如果有一天,AI比人类更聪明了,我们这群有机体到底应该怎么办?

1997年深蓝下棋,2016年AlphaGo围棋,2026年9个Claude副本做真实科研……每次我们都说「只是特定领域」。这一次,我们真的还能说什么?欢迎来到AI成为科研同事、竞争者、甚至继任者的时代。

从「缓存蒸发」到「12倍成本爆炸」,Claude智商一降再降。Anthropic辩解「不是惩罚是架构耦合」,但数据不会说谎:2月高效缓存让用户爽翻,3月静默回退后人人喊贵。这场隐私与性能的拉锯战,只有用户是真正的输家?

不知道你们有没有发现,Anthropic最近状况频出得有些反常。又是泄露源代码、又是词元计费BUG,又是降智。小毛病不断、画面不断,讨论声也不断。多少掺点,拿bug当热点炒,蹭免费热搜了。这不,刚又给龙虾之父Peter账号封了。

如果你身边声称将为人类未来负责的人,这样和你聊天,你感受如何: “在应对 ASL-3 级别的灾难性风险时,我们通过机制可解释性的神经解剖,在神经网络的暗物质中,发现了潜伏特工(Sleeper Agen

最近有人搞了个「数字鞭子」的整活项目,起名为「badclaude」,专门用来督促 Claude 好好干活。项目介绍写道:「有时候 Claude Code 跑得太慢,你必须把它抽回正轨。」

穆迪最新报告揭示了两条平行宇宙:要么AI让生产率狂飙,失业率降至3.8%;要么泡沫破裂,460万人失去饭碗。Anthropic CEO预警白领消亡,经济学家却说还没到时候。2026年1月创纪录的裁员数据,似乎正在验证前者。

Anthropic新论文漏引同行工作,被抓包并贴脸质疑了。

代码没有消失,但它不再是少数人特权。在「创造平权」的AI时代,真正稀缺的不再是编程能力,而是你是否有一个值得让机器为你燃烧几百美元算力的好想法。