快-慢训练

Fast-Slow Training (FST): 新范式解决大语言模型持续学习能力退化问题

该研究提出快-慢训练（FST）范式，通过将提示优化视为快速权重、模型参数视为慢速权重并交替更新，以解决LLM在持续学习中的能力退化问题。实验表明FST在数据效率、性能上限、模型可塑性及与基础模型KL散度保持方面均优于仅更新参数的方法。