
2倍提速!KV缓存压缩不只看重要性,上交大团队让模型推理「又快又稳」 | ICLR'26 (opens in a new tab)
长上下文推理已经成了VLM/LLM的默认形态。
Total 68 articles

长上下文推理已经成了VLM/LLM的默认形态。

当前,大语言模型(LLMs)和视觉语言模型(VLMs)在语义领域的成功未能直接迁移至物理机器人,归根结底在于其互联网原生的基因。

随着大模型步入规模化应用深水区,日益高昂的推理成本与延迟已成为掣肘产业落地的核心瓶颈。在 “降本增效” 的行业共识下,从量化、剪枝到模型蒸馏,各类压缩技术竞相涌现,但往往难以兼顾性能损耗与通用性。

在这场以大型语言模型(LLM)为核心的 AI 浪潮中,苹果似乎一直保持着低调,很少出现在技术报道的前沿。尽管如此,时不时地,该公司也能拿出一些非常亮眼的研究成果,比如能在 iPhone 上直接运行的高效视觉语言模型 FastVLM。

Researchers review more than 300 studies and nearly 70 benchmarks across video, embodied intelligence, multimodal retrieval and personal assistants, discussing compression, evidence traceability and the risks of outdated information.

普林斯顿AI Lab等团队提出SSoN:用四张室内图像判断哪张违反同一场景的空间一致性。1000题上,人类准确率83.3%,六个受测VLM最高39.7%;解释核验、相机信息干预和定向微调进一步揭示跨视角推理的短板。

视觉语言模型已经进入办公助手、内容审核、机器人和智能终端等场景。

Agent 执行长程任务时,代码、工具输出和交互记录不断累积,上下文也跟着变长。

字节Seed团队推出Seed-Evolving第五版更新,通过统一Model ID实现周级自动迭代,在Coding Agent长程任务完成度和VLM视觉理解能力上均有显著提升,用户一次接入即可享受模型持续进化。

大视觉语言模型(LVLM)把语言理解扩展到了图像等多模态输入,同时,也带来了更隐蔽的攻击面。