**DuoLM：利用语言模型实现快速高效的个性化推荐**

_DuoLM: Fast and Effective Personalized Recommendation with Language Models_

> 针对大语言模型在个性化推荐中计算开销大、吞吐量低的问题，DuoLM 框架提出了一种高效解决方案。该框架通过离线训练紧凑的编码器 LLM 生成物品表征，并结合个性化排序器 LLM 进行实时推荐，同时利用虚拟 Token ID、共享历史计算和 CUDA Graph 等技术加速推理。实验表明，DuoLM 在保持与专家教师模型相当推荐质量的同时，单卡 H100 的吞吐量可达每秒 26,400 次评分，比 vLLM 自动前缀缓存方案快约 60 倍。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：ai-models
- **发布时间**：2026-10-26 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2610.24481)