**混合架构模型跑 Agent,预填充吞吐再提升 3 倍!FlashStates 重新设计混合状态缓存** _混合架构模型跑Agent,预填充吞吐再提升3倍!
原帖
**混合架构模型跑 Agent,预填充吞吐再提升 3 倍!FlashStates 重新设计混合状态缓存**
_混合架构模型跑Agent,预填充吞吐再提升3倍!FlashStates重新设计混合状态缓存_
> 针对混合架构大模型在运行 Agent 时面临的挑战,FlashStates 提出了一种重新设计的混合状态缓存机制。该方案结合线性注意力与状态空间层,显著提升了预填充阶段的吞吐量,为开源大模型的高效推理提供了新的技术路径。
**来源信息**
- **来源**:机器之心:文章库(API)
- **分类**:ai-models
- **发布时间**:2026-11-16 20:41(北京时间)
- **原文**:[打开原文](https://www.jiqizhixin.com/articles/2026-11-16-13)