**δ-Vision:利用轻量级MLP高效重构多模态模型视觉状态** _Just MLPs: Efficient Visual State Reconstru
原帖
**δ-Vision:利用轻量级MLP高效重构多模态模型视觉状态**
_Just MLPs: Efficient Visual State Reconstruction for Multimodal Language Models_
> 针对多模态大模型中视觉Token序列带来的高计算开销,研究提出δ-Vision方法。该方法发现视觉影响集中于低维子空间,且层间视觉状态具有强可预测性。通过用轻量级低秩适配器(MLP)替代Transformer对视觉Token的重复演化,δ-Vision在保留所有视觉Token的同时,实现了比剪枝基线更高的准确率和更具竞争力的推理效率。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-09-29 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2609.34972)