
一兆瓦养活6万智能体!英伟达GB300碾压前代20倍 (opens in a new tab)
同样一兆瓦电,英伟达最新的GB300 NVL72能同时扛住61400个智能体,上一代H200只扛得住大约2600个。这中间,差了整整20倍。它就是独立评测机构Artificial Analysis发布的新基准:AA-AgentPerf。
Total 6 articles

同样一兆瓦电,英伟达最新的GB300 NVL72能同时扛住61400个智能体,上一代H200只扛得住大约2600个。这中间,差了整整20倍。它就是独立评测机构Artificial Analysis发布的新基准:AA-AgentPerf。

老黄又又又亲自上门送“显卡”了! 首台DGX Station(GB300)送给了卡帕西——这位AI时代的个人开发者代表。 △图源:英伟达官方博客 注意到没,就在这台“大玩具”上,老黄还附赠了一篇洋洋洒洒的“小作文”: 致Andrej——第一台DGX Station的拥有者: AI智能体时代已经到来,这是一个令人难以置信的里程碑时刻,也让人想起我们一起走过的GTC早期岁月。 一路走来,你始终与我并肩同行。 而另一边,卡帕西也在𝕏上对老黄隔空发射爱心,并且透露自己准备用它搭一套个人AI集群,专门拿来折腾各种有意思的实验。 对了,针对老黄提到的“GTC早期岁月”,卡帕西还顺带解惑了一波: 后来的事

为了争夺有限的GPU,OpenAI内部一度打得不可开交。2024年总算力投入70亿美元,但算力需求依旧是无底洞。恰恰,微软发布了全球首台GB300超算,专供OpenAI让万亿LLM数天训完。

就在刚刚,OpenAI首颗自研芯片Jalapeño「墨西哥辣椒」,交出了首批实测成绩单——AI推理性能,全面反超英伟达GB200和GB300。实测速度直接起飞!Jalapeño一秒能狂吐1459个Token,英伟达GB200只有535个,连一半都不到。

就在刚刚,英伟达史上首次公布了下一代旗舰级机柜 Vera Rubin NVL72 的首次片上实测数据。而且,这次实测直接拉来了DeepSeek-V4-Pro,跑最真实的「智能体编码」任务!结果令人吃惊:对比当前的主力机皇GB300 NVL72,Vera Rubin的每兆瓦吞吐量最高飙升了30倍、Token成本最高暴降了35倍!

马斯克深夜掀桌!最强旗舰Grok 4.5突袭,数万块GB300炼出性价比之王,不仅硬刚GPT-5.5,性能紧贴Opus 4.8,又快又便宜。这一次,SpaceXAI与Cursor强强联手。成绩单相当亮眼——