**StableVQ:稳定向量量化分词器训练的实用指南** _StableVQ: Practical Guidelines for Stable Vector
原帖
**StableVQ:稳定向量量化分词器训练的实用指南**
_StableVQ: Practical Guidelines for Stable Vector-Quantized Tokenizer Training_
> 向量量化(VQ)是离散视觉分词器的基础,但训练稳定性长期未被充分研究。作者指出,问题根源在于编码器-解码器与码本训练的耦合:两者都无法独立履职,只能依赖偶然的协同。为此提出 StableVQ,通过动态 STE 修正编码器学习目标、用 Region VQ Loss 让码本独立跟踪编码器输出分布、并以解耦调度为两个子系统分配独立学习率。该方法基于共享投影码本,轻量且不引入可学习参数,在 ImageNet 上于多种码本规模和初始化设置下均提升了训练稳定性、码本利用率与重建质量。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:论文
- **发布时间**:2026-09-23 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2609.26774)