**PACE：一种周期性与通道对齐的四位循环状态量化方法，显著降低线性注意力模型内存占用**

_PACE: Periodic and Channel-Aligned Encoding of Four-Bit Recurrent States_

> PACE 提出了一种后处理四位状态量化方案，通过仅在生成多个 token 后对循环状态进行一次量化，并利用通道对齐策略共享量化标度，有效解决了现有方法频繁量化导致精度损失的问题。该方法在保持解码加速的同时，相比八位量化大幅降低了内存需求，并在同等内存下优于 Q-Mamba 等现有技术。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：ai-models
- **发布时间**：2026-10-22 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2610.29545)