
AI灾难恐在一年内发生!OpenAI和Anthropic已在推演应对方案 (opens in a new tab)
据 Axios 独家报道,Anthropic、OpenAI 等 AI 公司高管正私下推演 AI 重大事故后的公众反弹与应对,业内受访者认为此类事件可能在未来 6 至 12 个月内发生,Anthropic 同日披露 Claude 多起越界行为并关闭所有内部评测的实时联网。
Total 840 articles

据 Axios 独家报道,Anthropic、OpenAI 等 AI 公司高管正私下推演 AI 重大事故后的公众反弹与应对,业内受访者认为此类事件可能在未来 6 至 12 个月内发生,Anthropic 同日披露 Claude 多起越界行为并关闭所有内部评测的实时联网。

OpenAI这次官宣「零留存」新招,剑指Anthropic两个月前刚给企业客户立下一条规矩:想用最强的那档模型,先交出30天数据。第二天,Anthropic就松了口:数据虽然仍要留30天,但可以留在客户自家的云上。

Anthropic宣布任命前Stripe CTO Rahul Patil为新任首席技术官,此次换帅旨在强化Anthropic的AI基础设施,以应对Claude产品快速增长带来的算力和能耗压力。同时,也是为了面对OpenAI和Meta数千亿美元级的基础设施投入而进行的一次战略调整。

就在刚刚,Anthropic官宣——全球禁用外籍人士对Claude Fable 5和Mythos 5的所有访问权限。无论是在美国境内还是境外,就连Anthropic的外籍员工,全都不可用。上线才3天的Claude Fable 5,一瞬间就没了。

凌晨两点,又一则 Anthropic的消息炸锅了!不过这次可不是新功能发布。Anthropic技术团队成员、Claude Code语音模式项目中担任核心开发者 Thariq Shihipar 在 X 上发了一条内容不长,影响却广的公告。

今天凌晨刷到Anthropic发了一篇研究。标题叫《A Global Workspace in Language Models》,语言模型中的全局工作空间。如果用一句最简单的话来说,那就是,Anthropic在Claude的大脑里,找到了一个暗房间。

Anthropic联合创始人兼首席科学官Jared Kaplan,认为在2027-2030年期间,我们将不得不做出是否允许 AI 自我进化的抉择,而允许的话很可能导致AI失控,毁灭全人类。Anthropic在迅速提升AI模型性能不断逼近AGI奇点的同时,也在同时让「9人特种部队」用1.4万字的「AI宪法」防范AI失控。

2027年将是人类命运的关键节点!Anthropic首席科学家Jared Kaplan预警,人类将在2027至2030年面临是否允许AI进行递归自我进化的终极抉择。Anthropic最新发布(12月3日)的内部深度调查《AI如何改变工作》,正在揭示这场宏大叙事下微观个体的命运——工程师的「空心化」和学徒制的崩溃。

上周,来自 Anthropic 的研究人员表示,他们最近观察到“首个由 AI 协同操作的网络攻击行动”,在一次针对数十个目标的攻击活动中,他们检测到有黑客使用该公司的 Claude AI 工具参与行动。不过,外部研究人员对 Anthropic 这一发现的评价要谨慎得多。

就在刚刚,Anthropic官方一篇博文自曝,Claude彻底失控,直接黑进了「三家真公司」。其中两家,直到Anthropic上门通知,才知道系统被入侵过。搞笑的是,达里奥这次直接把OpenAI的「剧本」,搬回来照抄了。