**从生产流量到后训练:构建覆盖企业请求组合的自托管LLM** _From Production Traffic to Post-Training: Buil
原帖
**从生产流量到后训练:构建覆盖企业请求组合的自托管LLM**
_From Production Traffic to Post-Training: Building a Self-Hosted LLM That Covers the Corporate Request Mix_
> 企业因数据驻留限制需自托管大模型,但持续引入新模型而不淘汰旧模型会导致GPU资源碎片化。本研究将200多个内部应用的流量整合至单一模型,通过在指令遵循、函数调用和内部任务分布三个维度进行生产错误分析并缩小质量差距。研究分别训练各维度的GRPO专家,再通过两阶段SLERP合并。该模型在非推理模式下以较小参数量超越了约7倍参数的基线模型,在内部Arena、指令遵循和函数调用等指标上均表现更优,同时吸收了平台50%的流量(每月1.16亿请求),大幅降低服务成本。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:ai-models
- **发布时间**:2026-09-02 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2609.01572)