**CausalMix：将数据混合优化转化为因果推理问题**

_CausalMix: Data Mixture as Causal Inference for Language Model Training_

> 针对现有LLM数据混合方法依赖静态分布且难以扩展的问题，HuggingFace社区论文提出CausalMix框架。该方法将数据池统计特征作为协变量，通过因果推断估计条件平均处理效应（CATE），从而动态推断最优数据混合比例。实验表明，CausalMix在Qwen系列模型上能有效隔离混淆偏差，显著提升下游任务性能，并提供可解释的混合策略分析。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-07-02 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2607.01104)