**OmniPack:统一Token压缩实现高效全模态大模型**

_OmniPack: Unified Token Compression for Efficient Omni-modal Large Language Models_

> HuggingFace社区论文提出OmniPack,一种无需训练的Token压缩框架,通过LLM前的结构压缩与LLM内的语义精炼协同工作,显著降低多模态大模型的计算开销。在Qwen2.5-Omni-7B上,保留98%性能的同时将FLOPs降至16.7%,仅用6.8% FLOPs仍可维持92.9%性能,在五个基准测试中均实现最优性能-效率平衡。

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-08-05 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2608.03812)