搜索

谷歌TPU跑Kimi比英伟达GPU快57%！用的还是DeepSeek推理框架（在新窗口打开）

推理创业公司Inferact用自研的megakernel内核结合DeepSeek的DSpark推测解码框架，让16块谷歌TPU v7运行Kimi K3达到每秒709个token，比同条件下16块英伟达GB200快57%。