结构化输出

In-Writing混合解码框架：先自由推理再结构化约束的LLM统一解码方法

2026年5月29日，HuggingFace Daily Papers分享了一篇论文，提出名为In-Writing的混合解码方法，允许大语言模型先进行无约束推理，在生成触发词后再应用结构化解码，解决了早期约束导致推理中断的问题。据论文实验，在分类和推理任务中最高提升27%准确率。