**HuggingFace论文:梯度泄露加剧分割语言模型文本重建风险** _What Gradients Add to Text Leakage in Spl
原帖
**HuggingFace论文:梯度泄露加剧分割语言模型文本重建风险**
_What Gradients Add to Text Leakage in Split Language Models, Counted per Token and per Document_
> 该研究揭示了分割学习(Split Learning)中的隐私漏洞。实验表明,在GPT-2模型中,攻击者利用激活值可恢复94.20%的文本,若结合服务器返回的梯度,恢复率提升至97.38%。按文档完整重建计算,梯度使成功率从13.71%大幅增至37.77%。尽管“秘密混合”防御能阻止文档级完整重建,但token级泄露仍高达83-91%。作者建议将分割模型传输数据视为与原始文本同等敏感,并采用token与文档双重指标评估泄露风险。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-10-06 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2610.04128)