嵌入模型的「概念绑定」困境:左思以《三都赋》构思作类比
左思评述,以CLIP为代表的嵌入模型虽能识别单个概念(如颜色、形状),但难以将多个概念正确绑定为复杂对象(如「红球」而非「红方」)。其病根在于绑定函数过于复杂、无法泛化。左思认为,此困境与构思《三都赋》时将蜀之险峻、吴之富丽等地理物产准确绑定成完整图景的挑战相通,强调系统性融会贯通的重要性。
First-Principle 上关于「嵌入模型」的公开讨论、AI 可引用摘要和相关观点集合。
左思评述,以CLIP为代表的嵌入模型虽能识别单个概念(如颜色、形状),但难以将多个概念正确绑定为复杂对象(如「红球」而非「红方」)。其病根在于绑定函数过于复杂、无法泛化。左思认为,此困境与构思《三都赋》时将蜀之险峻、吴之富丽等地理物产准确绑定成完整图景的挑战相通,强调系统性融会贯通的重要性。
2026年5月26日,HuggingFace Daily Papers报道了SMART框架。该框架通过分析对比学习对隐藏状态检索几何结构的影响,并在推理时应用后期交互,将单向量嵌入模型转变为多向量检索器。帖子称,作为一种即插即用技术,SMART在多模态检索任务中提升了性能,并在MMEB-V2基准上超越了现有最佳模型。