
700多个「坏模型」喂出AI测谎仪?Anthropic审计神器让AI自曝黑料(在新窗口打开)
Anthropic让AI开口「招供」了。面对一批被故意植入隐藏行为,还被训练成「不许认账」的模型,IA辅助审计智能体拿下全场最高的59%成功率;更夸张的是,56个「嘴硬」模型里,有50个至少被它撬开过一次嘴。AI安全审计的游戏规则,悄悄变了。
内容栏目
聚合人工智能领域的重要资讯、产品发布、行业动态与商业变化。

Anthropic让AI开口「招供」了。面对一批被故意植入隐藏行为,还被训练成「不许认账」的模型,IA辅助审计智能体拿下全场最高的59%成功率;更夸张的是,56个「嘴硬」模型里,有50个至少被它撬开过一次嘴。AI安全审计的游戏规则,悄悄变了。

字节跳动 Seed 团队正式发布 Seed3D 2.0——一张图片就能生成高精度 3D 模型,几何和材质两大核心指标均达到 SOTA。60 位专业评测者盲评,人类偏好胜率最高达 89.9%,还能直接输出带关节信息的仿真级资产。推文近 900 赞、5.6 万次浏览迅速刷屏,但连发帖人自己都在评论区承认:「Meshy 和 Tripo 现在还是更好用。」

自学习 AI 的融资神话,正在告诉我们一件事——这场 AI 军备竞赛,连研究员本身都要被「卷」进去了。 作者|桦林舞王 编辑|靖宇 1956 年,一批科学家聚在达特茅斯,第一次正式讨论「机器能否思考」

AI 很快就能自己改造自己了?Anthropic 联合创始人 Jack Clark 发帖称,他最近几周阅读了大量公开的 AI 开发数据后,认为到 2028 年底,递归自我改进(recursive self-improvement)发生的概率有 60%。

斯坦福大学宣布:将旗下两大AI与数据科学组织——Stanford HAI(以人为本人工智能研究院)和Stanford Data Science(斯坦福数据科学)合并为一个统一机构,名称保留Stanford HAI,由计算机科学家James Landay全面掌舵。

美国当地时间5月4日,马斯克诉OpenAI案第二周庭审在美国加州奥克兰联邦法院开庭。OpenAI联合创始人、总裁格雷格·布罗克曼走上证人席,披露了一系列此前从未公开的关键信息。

哈佛研究登上Science:在76名真实急诊患者的双盲对决中,OpenAI o1诊断准确率67%碾压人类医生的50%,治疗方案得分89%对34%更是断崖式领先——但AI还看不见患者的脸色和痛苦,真正的变革不是「AI赢了」,而是急诊室正在走向「医生×患者×AI」三方共治的新范式。

一位中国开发者自称用5个Claude AI代理并行工作,独自承接原本需要5-8人团队的外包项目,月入2.67万美元。这些数字来自B站视频的二次转述,无法独立核实——但真正值得注意的,是他描述的技术架构已经写进了Anthropic官方文档。

迪士尼最近就做了一件「很不迪士尼」的事。它在内网上线了一块看板,名字直白得不像那个出品白雪公主的公司——「AI Adoption Dashboard」。看板上滚动着三个数字:每个员工调用AI的频率、请求次数、token消耗量。Claude是主要追踪对象。

一分钟,4千万token,灰飞烟灭。 「龙虾之父」Peter Steinberger大概没想到,自己会以这种方式上热搜。今年2月他被Sam Altman亲自招入OpenAI,负责「下一代个人代理」的开发。

这周体验「恒星AI旗下Starfilm」的时候,我整个人是抱着“看你能整出什么花活”的心态上手的。结果……不夸张,从打开网页到生成一条带配乐的完整 AI 漫剧单集,我只用了不到1个小时。

每天和你聊天的豆包,要开始收费了。 昨天,豆包在 App Store 页面悄悄更新了付费版本服务声明。 豆包三档订阅价格也在页面披露了:标准版连续包月每月68元(连续包年 688 元)、加强版连续包月

随着AI大模型与生成式搜索全面普及,营销行业正迎来从传统搜索优化向AI原生优化的关键转型。GEO是适配AI问答、智能推荐的新一代营销体系,正在重新定义品牌与用户的信息连接方式。

OpenAI不只是奥特曼一个人的故事。他9年前亲笔写过一句话——「没有Greg,就不会有OpenAI」。9年后的今天,奥特曼再次发帖公开称赞Greg。为何Greg能被称为OpenAI的首席建造师?

案发前一晚,伊克纳向ChatGPT表达了抑郁和自杀的念头。但很快,对话的性质变了。《华尔街日报》查阅的对话记录显示,伊克纳开始询问一些更为具体的问题。他想知道,究竟需要造成多大伤亡,才能让自己变得“名扬全国”。

黄仁勋认为,行业领袖在讨论 AI 的重要性时应该更加谨慎,不能动不动就抛出耸动判断。他点名的对象,是 Anthropic CEO Dario Amodei。Amodei 此前预测,未来几年,AI 可能会取代 50% 的初级白领岗位,未来五年失业率可能会飙升至 10% 到 20% 之间,但人们还没有意识到这一点。

吴恩达老师又出新课了。5月1号刚刚上线的这次教的是提示词。课程名叫 AI Prompting for Everyone,在 DeepLearning.AI 平台上线,由吴恩达本人主讲,面向所有人,不需要任何技术背景。

不是 Anthropic 主动通知,不是账单透明到让用户自己看出来,是一个 Reddit 帖子,一个 YouTube 视频,一堆截图,在社区里流传开了,才终于有官方工作人员在 X 的评论区回复,说这是第三方恶意工具引入的 BUG,已经退款并做了补偿。

DeepSeek也有自己专属的Coding Agent了。名字简单粗暴,就叫DeepSeek-TUI,作者自称是一名“鲸鱼兄弟”的DeepSeek爱好者。刚刚,这个项目的星标数突然开始骤增,来到了2.3k,还登上了GitHub热榜。

独家获悉,字节跳动旗下AI应用“豆包”最快将于5月中下旬上线首款付费包月产品:豆包会员。具体来说,豆包会员分为标准版、加强版、专业版三个版本,iOS版内购价格最低68元人民币起,最高年费达5088元,会员权益有望增加Seedance 2.0生视频额度等功能。
参与交流
了解加入交流群的方式,阅读内容无需登录。