**Skill Entropy:衡量与训练大模型长程推理技能切换能力** _Toward Skill-Native LLMs: Skill Entropy f
原帖
**Skill Entropy:衡量与训练大模型长程推理技能切换能力**
_Toward Skill-Native LLMs: Skill Entropy for Benchmarking and Training Long-Horizon Reasoning_
> 论文提出Skill Entropy概念,用于量化大语言模型在长程推理中切换不同技能(如数学推导、规划等)的难度。作者构建了Skill^2-Bench基准,涵盖558项技能、9个领域,并将任务分为三个难度等级。评估结果显示,模型在高技能熵任务上准确率显著下降。此外,论文提出Skill-Entropy RL训练框架,通过奖励机制对齐模型预测的技能序列与真实序列,在Qwen3-4B和1.7B模型上分别将Skill^2-Bench得分从34.4%提升至68.4%、从14.6%提升至40.1%,效果显著。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-08-06 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2608.05139)