共 5 篇
超长序列推理时的巨大开销如何降低？ 中国科学院自动化所李国齐、徐波团队发布的类脑脉冲大模型SpikingBrain (瞬悉)-1.0提出了新思路。 SpikingBrain借鉴大脑信息处理机制，具有线性/近线性复杂度，在超长序列上具有显著速度优势。 在GPU上1M长度下TTFT 速度相比主流大模型提升26.5x，4M长度下保守估计速度提升超过100x；在手机CPU端64k-128k-256k长度下较Llama3.2的同规模模型Decoding速度提升4.04x-7.52x-15.39x。 SpikingBrain适配了面向沐曦MetaX国产GPU集群的高效训练和推理框架、Triton算子库、模
GPU集群里，请求排队和资源闲置，可能同时发生。
在“灵晟”国产超算登顶最新一期全球超级计算机TOP500榜单后，清程极智与“灵晟”联合完成纯CPU MoE模型分布式推理方案：16节点即可流畅运行DeepSeek-V3/R1-671B模型，在batch_size=2048时，输出吞吐量与80张主流GPU集群相当。
AI新云赛道再现巨额融资。成立于2022年的AI新云（Neocloud）公司Together AI，于7月1日正式宣布完成8亿美元C轮融资，投后估值达到83亿美元。Together AI的核心业务是出租NVIDIA GPU集群及其他AI专用基础设施，为企业提供运行开源大模型的云平台。
OpenAI宣布与AMD达成战略合作，将共同部署高达6GW的AMD Instinct MI450 GPU集群，首批1GW预计于2026年下半年启用。作为协议的一部分，OpenAI可认购最多1.6亿股AMD普通股，持股比例或达10%。消息公布后，AMD盘前股价飙升35%！