
AI幻觉最可怕的人类副作用出现了 (opens in a new tab)
最新研究发现,AI幻觉不只会骗你了,还能喂大你的自信心、削弱你的判断力。
Total 9 articles

最新研究发现,AI幻觉不只会骗你了,还能喂大你的自信心、削弱你的判断力。

近日,清华大学团队从 AI 里找到了与幻觉产生高度关联的少数“脑细胞”,并给它们起了一个名字 H-神经元(幻觉神经元)。他们发现拨动这些小开关能显著调节 AI 的行为倾向——例如影响它是否会盲目听从错误指令、甚至是否会产生有害回答。

OpenAI重磅结构调整:ChatGPT「模型行为」团队并入Post-Training,前负责人Joanne Jang负责新成立的OAI Labs。而背后原因,可能是他们最近的新发现:评测在奖励模型「幻觉」,模型被逼成「应试选手」。一次组织重组+评测范式重构,也许正在改写AI的能力边界与产品形态。

AI 最臭名昭著的 Bug 是什么?不是代码崩溃,而是「幻觉」—— 模型自信地编造事实,让你真假难辨。这个根本性挑战,是阻碍我们完全信任 AI 的关键障碍。

你以为AI答错就一定是幻觉?不,它也可能是在故意骗你。

AI最强幻觉,原来不是不会,而是太会「装会」。 「你是专家」这句咒语,可能骗了整个AI圈一年。

AI生成图表,难道只能靠碰运气? 把一份Excel表格丢给大模型,然后对着一张配色诡异、甚至连坐标轴都标注错误的不可编辑图片,你开始陷入沉思。 在这个万物皆可AIGC的时代,最大的谎言就是“把一切交给AI就够了”。 大多数AI图表工具,本质上都是“盲盒机”:人类被动接受结果,错了只能重来。而这绝非人机协作的终点。 为什么AI做不好图表? 本质原因在于,数据表达是一个门槛极高的专业领域。 AIGC的出现看似降低了门槛,但数据表达对科学性和准确性是“零容忍”的。AI幻觉导致的计算错误或逻辑错位,使得其生成的图表可用性极低。 为了解决这一行业痛点,武汉大学王琼教授团队亮出了他们的方案:爱图表(Ait

江苏南京执业律师李小亮发现,在百度手机 APP、百度网站搜索其个人姓名+职务时,百度“AI 智能回答”竟然给出“李小亮律师被判三年有期徒刑”的错误文字内容,并配上他着律师袍的照片。

让 AI 帮忙发一封邮件,它可能把正文写得妥帖、附件整理得齐全,最后却发错了人。