搜索

提速10.7倍！这个端侧推理引擎一开源，机器人本体跑大模型终于不卡了（在新窗口打开）

清华大学联合无问芯穹与上海交通大学开源了面向具身模型的端侧推理引擎APXInf，通过全栈优化在Thor芯片上将π0.5推理速度提高约10.7倍，并引入可由Agent执行的工程化流程以适配模型的持续迭代。