**LatentSkill:将上下文文本技能转化为权重内隐式技能,大幅减少LLM代理的提示词开销** _LatentSkill: From In-Contex
原帖
**LatentSkill:将上下文文本技能转化为权重内隐式技能,大幅减少LLM代理的提示词开销**
_LatentSkill: From In-Context Textual Skills to In-Weight Latent Skills for LLM Agents_
> LatentSkill 框架通过预训练的超网络将文本技能转化为即插即用的 LoRA 适配器,将技能知识存储在权重空间而非上下文空间,从而在每步推理中移除技能令牌。在 ALFWorld 和 Search-QA 任务上,LatentSkill 相比上下文基线,不仅成功率更高(ALFWorld 提升 21.4/13.4 分,Search-QA 提升 3.0 分),还大幅减少了预填充令牌(分别降低 64.1% 和 72.2%)。分析表明,生成的技能 LoRA 形成结构化语义几何,可通过缩放系数精确控制,并支持参数空间运算进行组合。这为 LLM 代理提供了高效、模块化且技能暴露更少的扩展途径。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:ai-models
- **发布时间**:2026-06-09 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2606.06087)