FlashStates为混合架构模型设计状态与KV缓存协同管理(在新窗口打开)FlashStates针对KDA、GDN和Mamba等混合架构,联合管理递归状态与KV缓存。团队在B200及长上下文工作负载中测试了前缀复用、预填充速度和分层缓存收益。