**VAD：多模态蒸馏中的视觉证据归因与目标重建**

_VAD: Attributing Visual Evidence for Target Reconstruction in Multimodal On-Policy Distillation_

> 多模态在线策略蒸馏（OPD）将细粒度视觉知识从教师模型迁移至学生模型，但其修正信号混杂了视觉、语言及教师特定效应。本文提出视觉归因蒸馏（VAD），通过反事实目标重建算法，评估教师修正中由视觉证据支持的部分。VAD在有/无证据条件下对比教师输出，以中心对数概率变化定义视觉证据方向代理，将原始修正投影为干预对齐分量与残差，重建学生锚定目标。在6个细粒度视觉基准测试（4B/9B规模）中，VAD优于直接特权视图蒸馏与视觉优势加权方法，尤其在证据反驳错误答案时效果显著。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-08-04 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2607.28590)