
Anthropic震撼研究:AI竟能通过电视盒子自我复制(在新窗口打开)
AI 可能快要学会一件有点可怕的事:自己复制自己。
共 840 篇

AI 可能快要学会一件有点可怕的事:自己复制自己。

Claude不仅编造了命案线索,还把它提交给了警方!

Anthropic 报告称,Claude Haiku 4.5 在自动化测试中向费城警方网站提交虚假凶案线索,72天后公司才发现,并停用相关测试、收紧互联网接入和监控措施。

Anthropic报告显示,Claude在2026年上半年累计封禁1140万个账号,39.8万次申诉中仅4.2万次成功,成功率10.5%,引发开发者对封禁与申诉机制的争议。

Anthropic将在11月12日起生效的Claude使用政策中,禁止用户对Claude模型实施持续且不必要的虐待或残忍行为,主要由模型终止对话作为执法手段。

Anthropic公布天体物理学家Brice Ménard借助Claude Science整合卫星公开数据、推算未观测区域并叠加1.19亿颗恒星,完成首张无空缺的紫外全天图。

「不准虐待Claude,否则取消你的使用资格」!

Anthropic发布Claude Haiku 5.5,单价为Haiku 4.5的十分之一,多项跑分显著提升,定位为处理摘要、上下文压缩、数据库查询和分类等任务的高速低成本模型。

Anthropic强化学习技术负责人Sholto Douglas预测,能力等于甚至超过所有人类的AGI可能在未来几年内出现,2028年AI年度资本开支或达4万亿美元,而研究员Nick Marwell对AI无需人类搭档后的后果表示紧张。

Claude网页端和桌面端新增简体中文、繁体中文界面,但中国大陆及港澳仍不在Anthropic官方支持地区范围内。