**Qwen3.8-Flash-Next架构设计:以1/9训练成本实现超越前代性能** _On the Design of Qwen3.8-Next Arch
原帖
**Qwen3.8-Flash-Next架构设计:以1/9训练成本实现超越前代性能**
_On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability_
> Qwen团队发布Qwen3.8-Flash-Next架构论文,该稀疏混合专家模型仅125B参数(每token激活6B),在14个预训练基准中8项超越前代397B模型,训练成本仅为1/9。论文介绍了Gated DeltaNet与全局注意力的混合机制、Qwen稀疏注意力、Gated Residual残差设计等创新,并结合Muon优化器显著提升了训练稳定性。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:ai-models
- **发布时间**:2026-09-01 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2608.30320)