**闭环激活引导实现扩散语言模型定向偏见注入** _Noise Out, Bias In: Targeted Bias Injection in Diffus
原帖
**闭环激活引导实现扩散语言模型定向偏见注入**
_Noise Out, Bias In: Targeted Bias Injection in Diffusion Language Models via Closed-Loop Activation Steering_
> 研究揭示扩散语言模型(dLLMs)在去噪过程中存在新的攻击面。攻击者利用PI控制器实时监控目标答案概率并动态调整激活引导强度,成功将模型对特定人口统计特征的偏见显著放大。实验表明,该闭环反馈机制比固定强度引导更有效且副作用更小,凸显了针对dLLM服务栈进行偏见审计的必要性。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-10-06 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2610.05894)