**文本转语音模型是否知晓其言论？研究揭示内部表征随层数衰减**

_Does a text-to-speech model know what it's saying?_

> 针对文本转语音（TTS）模型的安全隐患，研究人员通过探测开源模型 Qwen3-TTS 的内部隐藏状态发现，模型虽能识别有害内容，但其对“伤害”信号的表征能力随处理层数增加而迅速衰减。研究证实，这种安全信号主要存在于早期层，至第 20 层左右便退化至仅基于词频统计的水平，导致模型无法像原生语言模型那样有效拒绝有害请求。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-models
- **发布时间**：2026-10-22 14:04（北京时间）
- **原文**：[打开原文](https://vernolabs.ai/research/does-a-text-to-speech-model-know-what-its-saying)