**压力下的风险：语言模型对抗鲁棒性的计算感知评估**

_Risk Under Pressure: Compute-Aware Evaluation of Adversarial Robustness in Language Models_

> 本研究提出基于计算压力的对抗鲁棒性评估框架，用累积浮点运算数（FLOPs）衡量攻击成本，绘制风险-计算曲线并衍生两项摘要指标。在10个模型、3种攻击策略和2种越狱鲁棒性基准上的实验发现：（1）对齐训练对计算空间鲁棒性存在非单调影响；（2）扩大模型规模降低梯度攻击效果，但对廉价模板攻击影响有限；（3）梯度攻击可在代理模型优化后迁移至目标模型，降低攻击成本；（4）同一模型内不同危害类别的计算成本差异可达约5倍；（5）安全对齐的强化学习增加总体成本，但某些类别仍易受攻击。该框架已发布以支持计算感知的风险评估。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-06-12 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2606.11409)