Search

Results for “幻觉”

Total 71 articles

腾讯内部的“AI搜索配方”,公开了!

腾讯内部的“AI搜索配方”,公开了! (opens in a new tab)

元宝搜索,要做AI行业的水电煤。 把一个AI时代很常见的问题输进搜索框——查查腾讯最近的股价、产品和成员变动。这是谷歌的非AI搜索结果: ▲谷歌搜索结果 在谷歌的传统搜索中,用户得到的是一系列网页链接;而在元宝搜索中,同样的问题呈现出的结果却大不相同。 ▲接入元宝搜索的WorkBuddy 两种搜索结果的差别,恰好折射出搜索正在经历的变化。 过去,搜索引擎返回网页链接,用户需要自己筛选、比对和整理信息,进入AI时代,搜索则开始直接整合多方资料、生成答案。 AI时代对于搜索的更高要求,刚好对应着大模型落地的两大痛点——幻觉和知识滞后,即模型能力再强,也可能产生幻觉,或者因知识更新不及时而给出过时信

AI news
0
大模型「行口」不一?首个专测执行幻觉基准,覆盖真实行为越狱

大模型「行口」不一?首个专测执行幻觉基准,覆盖真实行为越狱 (opens in a new tab)

随着大模型智能体深入渗透真实操作系统,一种全新的安全威胁悄然成型:行为越狱(Behavior Jailbreak)。现有安全基准只盯着模型「说了什么」,却对「做了什么」视而不见。新基准LITMUS是首个同时覆盖真实OS环境行为越狱、语义-物理双层验证与多攻击范式的完整评测体系,并首次系统量化了「执行幻觉」这一被整个评测社区忽视的致命盲区。

AI guides
0