**Latent-GRPO 深度解析:在连续思维空间中做强化学习** _Latent-GRPO and Continuous Reasoning Deep D
原帖
**Latent-GRPO 深度解析:在连续思维空间中做强化学习**
_Latent-GRPO and Continuous Reasoning Deep Dive_
> 该文深入剖析 Latent-GRPO,主张让模型在连续嵌入空间中递归思考,而非生成大段离散文本 token,以摆脱“token 税”。文章梳理 Coconut、SofT-GRPO、CoLaR、SLPO、Switch 等连续推理路线,讨论在连续嵌入上做策略梯度的探索难题,并提出两遍回放(two-pass replay)架构实现精确反向传播;在 Qwen3.6-27B 上的基准显示,每步 rollout 时间从 1878 秒降至 132.7 秒。文中还指出离散 CoT 会耗尽上下文、膨胀 KV 缓存,并导致多达三分之一的 rollout 因 token 上限被截断而零奖励、污染梯度更新。
**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:ai-models
- **发布时间**:2026-09-24 06:26(北京时间)
- **原文**:[打开原文](https://www.g-ftech.com/blog/latent-grpo-deep-dive)