对话香港理工秦浩桐:把AI大模型压到极限之后 (opens in a new tab)DeepTech 与秦浩桐讨论模型极限压缩、训练后量化与真实设备上的推理延迟,回顾 BiLLM 的研究思路,并谈到如何用硬件测试、代码核对和实验反馈判断效率研究的价值。