
挑战GPU、绕过HBM,深挖史上最大芯片背后的Cerebras (opens in a new tab)
十年前,这是一家没人看好的公司。从成立第一天起,它就只想做一种从来没有被造出来过的芯片。它试图挑战英伟达的霸主地位,却在成立之初屡屡碰壁,多次濒临倒闭。
Total 229 articles

十年前,这是一家没人看好的公司。从成立第一天起,它就只想做一种从来没有被造出来过的芯片。它试图挑战英伟达的霸主地位,却在成立之初屡屡碰壁,多次濒临倒闭。

7 月中旬的一天,清华科技园的一处办公区, 一台人形机器人站在屋子中央,身后没有风扇轰鸣的 GPU 机柜,不远处是两张落满公式的书写板。

CUDA又双叒叕被创了… 这回动手的,还是英伟达亲手喂大的AI。 一家成立仅一年的小公司,用AI编程Agent,只花10小时,就搭出了一套「类CUDA软件」。 停停停。 你是说这套英伟达花了近20年搭起来的软件帝国,就这么被复刻了?? 不止如此。DeepSeek也在尝试少写一点底层CUDA。 他们已经开源了一套名为TileKernels的GPU算子库,用TileLang来编写,省去了大量手写底层CUDA代码的工作。 不过类似的「CUDA危机」,咱也不是第一次听了。 每隔一段时间,CUDA都要被拎出来鞭打一番,动辄替代了、击穿了、护城河又被颠覆了… 真的是这样么? 10小时「复刻」CUDA 提起

AI行业正上演一场冰火两重天。一边是大模型公司将烧钱推向极致,万亿美元级别的开支砸向算力与研发;另一边,不练模型、不抢GPU,帮AI企业“管钱”的金融基础设施公司营收飙升。当所有人都在追问哪个模型会赢时,真正的赢家或许是这些提供AI基建的公司。

这篇文章,我们邀请到了由SGLang孵化的RadixArk的联合创始人和核心成员,以及数据中心专家,一起聊聊AI Infra的四层架构、行业如何把“硅”的潜力榨到极限,以及背后的关键技术。

有人总结,运行 Kimi K3 其实很容易,只需要 1.5TB GPU 内存、大约 8 张 H100,以及一座小型变电站。一名开发者拿出一台 128GB 统一内存的 M5 Max,直接加载 Kimi K3 发布在 Hugging Face 上的官方 MXFP4 权重。

AI账单却差点让他破产。 一家只有一名人类创始人的初创公司,五个月后做出了接近1000万美元的年化收入。他没有雇员,日常工作由一群AI智能体承担。 创始人Ben Cera随后公布了另一组数字,公司每月收到的AI账单一度超过120万美元,增长速度几乎成了通往破产的加速器。 而近日,Ben又在社交平台发布了一段极有传播力的话,中国正在赢得AI竞赛,并称中国救他摆脱了破产危机。 他的产品Polsia每月的AI费用超过100万美元,有时账单高点约为120万美元,但开源模型帮助他解决了这个难题。团队通过租用GPU并迁移部分任务后,月度成本降至约10万美元。 Ben Cera创业超过十年,在洛杉矶就生活了

一句话,一个周末,Claude直接把自家最前沿的模型跑在了一台全新的AMD MI355X机架上!

一段原本为英伟达 CUDA 设计的计算程序,几乎无需修改内核代码,就直接跑在了一台搭载 M3 Pro 的苹果设备上。

不久前,Kimi 官方宣布,将暂停新会员订阅。月之暗面表示,公司正在增加算力,并将在容量允许后分批重新开放订阅。不过,官方目前尚未公布具体扩容规模,也没有说明新增订阅何时恢复。