
2亿枚AI芯片大爆发,人类最大基建集体开工!(在新窗口打开)
2亿枚AI芯片,要集体开机了!目前,全球投入使用的AI芯片,总算力已经相当于约2000万枚英伟达H100芯片。按照Epoch AI的估算,这个数字大约每9个月翻一倍。到2028年年底,全球AI算力预计将相当于约2亿枚。
共 26 篇

2亿枚AI芯片,要集体开机了!目前,全球投入使用的AI芯片,总算力已经相当于约2000万枚英伟达H100芯片。按照Epoch AI的估算,这个数字大约每9个月翻一倍。到2028年年底,全球AI算力预计将相当于约2亿枚。

英伟达世界动作模型 DreamZero 训练一次要烧 8 张 H100 整整 25 天,RLinf 从算子融合到 I/O 全链路系统级重构,把训练吞吐拉高近 4 倍——1 个月的活,1 周就能干完。

2026 年 5 月的硅谷,对于 AI 算力的“饥荒”和焦虑,正达到一个前所未有的高度。

Soul AI 团队(Soul AI Lab) 发布了新的开源模型 SoulX-LiveAct,技术报告中具体提到,该工作能够在 2 张 H100/H200 条件下,达到 20 FPS 的实时流式推理能力,且支持输入图像、音频和指令驱动,即可生成表情生动、情绪可控、拥有丰富全身动作的实时数字人视频。

预测到次贷危机的「大空头」Michael Burry看到数万亿美元涌入AI基础设施,产生深深的怀疑。他预言:英伟达的优势并不持久,可能很快就会被对手战胜。而且,如今全球AI算力已经达到1500万H100 GPU当量,即将引爆严重能源危机!

英伟达等团队保留推理训练与任务日志,调整动作专家的注意力。在单张 H100 的 LIBERO 测试中,动作输出延迟由 495 毫秒降至 147 毫秒。

有人总结,运行 Kimi K3 其实很容易,只需要 1.5TB GPU 内存、大约 8 张 H100,以及一座小型变电站。一名开发者拿出一台 128GB 统一内存的 M5 Max,直接加载 Kimi K3 发布在 Hugging Face 上的官方 MXFP4 权重。

就在最近,英伟达亲自下场,发布了一篇名为《AI Model Co-Design: Hardware-Friendly LLM Design》的技术博客。整篇文章洋洋洒洒,其实就想点醒行业一件事:别光顾着堆算力了,来看看你们是怎么把顶级显卡逼成“磨洋工”的吧。

在 AI 工程界,长文本推理一直是个“富贵病”。

“它将成为有史以来产量最高的 AI 芯片之一。”