
技能英伟达桌面超算,加入苹果Mac Studio快爆了:推理速度飙升至277%(在新窗口打开)
英伟达桌面超算,邪修玩法来了!两台DGX Spark串联一台苹果Mac Studio,就能让大模型推理速度提升至2.77倍。
共 30 篇

英伟达桌面超算,邪修玩法来了!两台DGX Spark串联一台苹果Mac Studio,就能让大模型推理速度提升至2.77倍。

不牺牲任何生成质量,将多模态大模型推理最高加速3.2倍! 华为诺亚方舟实验室最新研究已入选NeurIPS 2025。

Epi2Diff 将大模型解题过程拆为八类认知片段,提取过程特征并结合题目语义预测人类作答难度。研究在四个测评数据集上报告结果,SAT数学主实验准确率为73.0%;方法仍依赖已有难度标签训练,也需要目标人群验证与专家复核。

Anthropic发布Fable 5.1,推出"上下文一致性验证"机制,严格锁定API返回的"思考块",任何修改上下文的行为将被直接报错,从而彻底切断通过API蒸馏大模型推理过程的后路。

AI基础设施的核心任务,已经从支撑大模型推理,转向支撑海量智能体的规模化运行与高质量Token的持续生产。

香港科技大学周子杰团队与华为 2012 实验室理论部提出 BalanceRoute,通过建模与短期负载预测减少 MoE 模型解码的跨组同步等待,其已部署于 MathBot-Pie,并在 96 张昇腾 910C NPU 实验中使解码吞吐提升约 15%。

AI 论文之争,本质是话语权之争。 这几天,TurboQuant 几乎成了 AI 学术圈里最热的争议事件之一。 一边是 Google Research 高调发博文,把它包装成能显著降低大模型推理成本、并将在 ICLR 2026 亮相的“突破性”工作,另一边则是先行工作RaBitQ的作者——高健阳以知乎答主身份在社区怒喷,最新一次帖子更新是3.30日凌晨,他认为这篇论文在方法描述、理论比较和实验披露上都存在严重问题,这条知乎帖子已经拿到近5K赞。短短几天里,这场风波已经不只是技术讨论,而开始变成一场关于原创归属、论文叙事和大厂学术权力的公开拉扯。 先把 TurboQuant 的问题说清楚,在这次

ZP独家获悉,AI芯片及系统架构研发商“上海昉擎科技”于近日完成 Pre-A3 轮融资,新引入投资人国开科创、钧山资本、建发新兴投资、多维资本,多维资本担任本轮融资财务顾问并担任后续融资独家财务顾问。

大模型推理的基石 vLLM,现在成为创业公司了。

“与AGI太过遥远的炒作相比,我非常喜欢这种 3 到 5 年的时间窗口。”“AI 现在最大的问题,已经不是不够聪明,而是太难真正落地。”这些非常务实的观点,并不是出自AI怀疑论者。相反,它出自硅谷圈内那位“工程与学术”的双修神话: