**SteerDistill:通过闭环教师引导实现大模型智能体的低比特量化蒸馏** _SteerDistill: Quantizing LLM Agents
原帖
**SteerDistill:通过闭环教师引导实现大模型智能体的低比特量化蒸馏**
_SteerDistill: Quantizing LLM Agents via Closed-Loop Teacher Steering_
> 针对低比特量化导致大模型智能体任务成功率下降的问题,研究提出了 SteerDistill 方法。该方法利用全精度教师模型对智能体失败的执行进行实时引导与修正,并通过闭环反馈迭代优化指导策略。最终,该方法将修正后的行为内化到学生模型中,使其无需辅助即可在推理时保持高精度。实验表明,SteerDistill 在多个基准测试中显著优于现有量化基线,且训练成本更低。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:ai-models
- **发布时间**:2026-11-12 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2611.13410)