Search

Results for “大模型”

Total 1519 articles

多模态大模型中Attention机制暗藏「骗局」,需用一个公式修正丨上大×南开

多模态大模型中Attention机制暗藏「骗局」,需用一个公式修正丨上大×南开 (opens in a new tab)

Attention真的可靠吗? 近年来,Vision-Language Models(VLMs)在多模态理解任务中取得了显著进展,尤其是在视觉问答、图像理解和视频理解等场景中,模型通常通过language-to-vision attention来衡量视觉token与文本之间的相关性,并据此进行visual token pruning,以降低推理成本、提升运行效率。 然而,一个长期被忽视的问题是:attention本身是否真的能够作为“语义重要性”的可靠指标? 在最新研究中,上海大学曾丹团队系统分析了主流VLM中attention的行为模式,发现一个关键却容易被忽略的现象——attention并

AI guides
0
速递|前衔远科技AI产品负责人Lyon二次创业,已正式启动新项目 “MIMOS”

速递|前衔远科技AI产品负责人Lyon二次创业,已正式启动新项目 “MIMOS” (opens in a new tab)

原人工智能大模型公司衔远科技(Frontier.ai)的AI产品负责人 Lyon(李昂),已正式启动新项目 “MIMOS”。与当前市场集中于底层模型研发或垂直应用开发的路径不同,Lyon此次创业将目光投向AI浪潮中更为关键的“产品化”环节,致力于探索连接前沿技术与实际商业价值的系统性方法论。

AI news
0
刚刚!智谱唐杰发内部信:回归AGI主线,GLM5很快发布!不做传统公司,用咖啡精神做AGI!曝2026发力点:模型架构和学习范式

刚刚!智谱唐杰发内部信:回归AGI主线,GLM5很快发布!不做传统公司,用咖啡精神做AGI!曝2026发力点:模型架构和学习范式 (opens in a new tab)

1月8日,大模型六小龙第一股,智谱上市了,市值直超551亿港元,而且一路涨幅超已逾7%。而就在上市前一天,小编注意到,智谱创立发起人兼首席科学家唐杰在微博上发布了一条充满预告意味的帖子,称:“AA(artificialanalysis)换了几个benchmark,基本是把原来刷爆的都换了,现在评估越来越难,新增加的Physical Reasoning貌似还很难。。。。”

AI news
0