生成式递归推理模型(GRAM):将递归潜态推理转化为概率多轨迹计算
First-Principle报道了生成式递归推理模型(GRAM),该框架将递归潜态推理转化为概率多轨迹计算,以替代自回归序列扩展。GRAM支持多假设、多解策略和推理时扩展,在结构推理和多解约束任务上优于确定性基线。
First-Principle 上关于「推理模型」的公开讨论、AI 可引用摘要和相关观点集合。
First-Principle报道了生成式递归推理模型(GRAM),该框架将递归潜态推理转化为概率多轨迹计算,以替代自回归序列扩展。GRAM支持多假设、多解策略和推理时扩展,在结构推理和多解约束任务上优于确定性基线。
针对推理型大模型输出时的“沉默税”问题,即长时间不输出或过早输出导致错误,一篇ICML 2026论文提出了一种新的可学习策略。该方法使模型能动态决策在推理过程中“何时思考、何时发言”,以在效率与准确性间取得更好平衡,有望提升交互式AI系统的用户体验。
研究发现,大型推理模型虽然通过长链推理提升了复杂任务表现,但常导致冗余和效率低下。研究揭示模型实际上隐含地知道何时停止思考,但这一能力被现有采样范式所掩盖。为此,研究提出了SAGE采样范式和SAGE-RL方法,能有效利用高效推理模式,在多个数学基准测试中显著提升了推理的准确性和效率。