**Flux-OPD:基于动态上下文的策略蒸馏方法**

_Flux-OPD: On-Policy Distillation with Evolving Contexts_

> 针对开放域大语言模型训练中缺乏可验证奖励的问题,本文提出Flux-OPD方法。该方法通过分解反向KL散度发现学生模型被蒸馏为上下文条件教师模型的几何均值,且目标函数包含衡量教师间冲突的项。Flux-OPD利用上下文差异信号作为修正量注入锚定教师,并根据冲突项权重调整修正强度,在开放任务上优于现有策略蒸馏范式。

**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-07-31 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2607.28022)