**TraceForge：让模型自研思维链，打破蒸馏黑盒**

_TraceForge: Distilling with Your Own Thinking_

> 针对当前大模型蒸馏过程中丢失详细推理过程的问题，TraceForge 提出了一种无需依赖外部数据的新方法。该方法通过两阶段训练（监督与对抗），让目标模型家族自行生成符合自身风格的推理思维链，并引入独立裁判评估其真实性。实验表明，这种自研思维链在代码等特定任务上优于现有开源数据，且能显著提升模型在 HumanEval+ 和 MBPP+ 基准上的表现，为模型蒸馏提供了更通用且合规的解决方案。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：ai-models
- **发布时间**：2026-10-22 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2610.29680)