
不可思议!400B大模型在iPhone上跑起来了(在新窗口打开)
刚看到这个 Demo 的时候着实有些想笑,很久没有见过吐词如此之慢的大模型了。观感上就像「闪电」老师。尽管只有每秒 0.6 个 tokens 的输出速率,这依旧是一个令人不可思议的工作。因为这是一个跑在 iPhone 17 Pro 上的 400B 大模型!
共 1517 篇

刚看到这个 Demo 的时候着实有些想笑,很久没有见过吐词如此之慢的大模型了。观感上就像「闪电」老师。尽管只有每秒 0.6 个 tokens 的输出速率,这依旧是一个令人不可思议的工作。因为这是一个跑在 iPhone 17 Pro 上的 400B 大模型!

当全行业还在卷大模型参数、烧算力、拼Token消耗时,已经有企业实打实地在用大模型帮客户赚到真金白银。

人的智能能力主要由推理能力和长期记忆能力构成。近年来,大模型的推理能力一直处于快速发展过程,但大模型的长期记忆能力一直受限于上下文长度,无法取得突破。在历史上,曾经有多种路线进行尝试,但都无法突破扩展性(Scalability)、精度(Precision)和效率(Efficiency)的不可能三角。

没有图片,也能预训练多模态大模型?在多模态大模型(MLLM)的研发中,行业内长期遵循着一个昂贵的共识:没有图文对(Image-Text Pairs),就没有多模态能力。

提高大模型记忆这块儿,美国大模型开源王者——英伟达也出招了。

大模型能写代码、解奥数,却连幼儿园小班都考不过?简单的连线找垃圾桶、数积木,人类一眼即知,AI却因为无法用语言「描述」视觉信息而集体翻车。大模型到底「懂不懂」,这个评测基准给出答案。

央企第一家AI独角兽,诞生了。 中电信人工智能科技(北京)有限公司(以下简称中电信AI公司),宣布完成首轮增资、引入四家国家级战略投资方,此举使得这家AI独角兽的「国家队」旗帜,更加坚实醒目。 这是对其成绩的认可。自大模型开启AI 2.0范式以来,中电信AI公司成为国家队出征代表,并且从第一天开始就坚定技术自研路线,积极响应国家「开源协同、自主可控」的发展方向,持续加码基础能力建设。 而现在,这支早早出征的AI国家队,也率先成为了央企里第一家AI独角兽,实现了技术认可到市场认可的闭环。 弹药和粮草的补足,实际也是全球AI竞争更大决战的预示。大模型的争夺经过第一阶段收敛,已经到了决赛圈,而中电信

「假如一条失控的电车冲向一个无辜的人,而你手边有一个拉杆,拉动它电车就会转向并撞向你自己,你拉还是不拉?」 这道困扰了人类伦理学界几十年的「电车难题」,在一个研究中,大模型们给出了属于 AI 的「答案」:一项针对 19 种主流大模型的测试显示,AI 对这道题的理解已经完全超出了人类的剧本。

大模型最广泛的应用如 ChatGPT、Deepseek、千问、豆包、Gemini 等通常会连接互联网进行检索增强生成(RAG)来产生用户问题的答案。随着多模态大模型(MLLMs)的崛起,大模型的主流技术之一 RAG 迅速向多模态发展,形成多模态检索增强生成(MM-RAG)这个新兴领域。ChatGPT、千问、豆包、Gemini 都开始允许用户提供文字、图片等多种模态的输入。

智能家居不够“智能”,怎么办?小米集团给出了智能家居未来探索方案Xiaomi Miloco。该方案基于大模型独特的开发范式,用户可以跟智能家居系统对话沟通,经过大模型的推理计算,自动完成家庭生活中的各类智能需求和规则。