**访问集很重要:可扩展权重空间模型合并中的专家读取预算**

_Access Sets Matter: Budgeting Expert Reads for Scalable Weight-Space Model Merging_

> 该论文提出MergePipe,一个预算感知的执行层,将LLM合并建模为专家访问集问题,通过控制需读取的专家权重块数量,在给定I/O预算下实现确定性合并。在Qwen和Llama模型上,MergePipe可将专家读取I/O减少一个数量级,提速高达11倍,且参数偏差仅约10^{-3}量级,下游基准测试无明显退化。

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-06-04 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2605.29489)