搜索

笔记本跑7000亿参数GLM！无GPU也行? SSD当显存用火爆GitHub（在新窗口打开）

GitHub火热开源项目Colibrì以纯C实现分层推理框架，通过AI内存多层化将SSD、RAM和VRAM组成动态调度系统，无需GPU即可让普通笔记本运行744B参数GLM-5.2等超大MoE模型，已揽获32k Star并支持9个模型家族。