**GeoPair：保持几何结构的跨层分解，实现免训练 Transformer 压缩**

_GeoPair: Geometry-Preserving Cross-Layer Factorization for Training-Free Transformer Compression_

> 该论文提出 GeoPair，一个免训练的后训练压缩框架：不再让相邻层强制共享基或按启发式合并激活统计，而是顺序优化跨层权重配对并学习共享字典分解，识别结构上兼容的投影，从而更好保留各层特有的校准几何；结合结构化稀疏可得到高效权重分解且不损失功能保真度。跨多种架构、规模与模态的实验显示其达到当前最优，稳定优于独立结构化权重分解与启发式分组的成对权重分解，为可扩展的 Transformer 压缩提供了优化驱动、理论可依的基础。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-09-24 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2609.25963)