**重思序列压缩：以测试时回归替代池化与投影**

_Rethinking Sequence Compression with Test-time Regression_

> 针对现有基于池化或投影的序列压缩方法性能不足的问题，本文提出 TTR-Compressor，一种基于测试时回归的通用压缩方案。该方法将输入 token 视为回归问题，通过反向传播学习系数，并在前向传播中以闭式解高效计算压缩表示。实验表明，该技术在块状稀疏注意力中显著优于基于注意力的压缩器，在视觉 token 合并中比标准 MLP 合并器性能更优且 token 数量减少 55.6%。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：ai-models
- **发布时间**：2026-10-23 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2610.31574)