SemBridge：通过多语言语义桥实现稀疏编码器的语言迁移
原帖
**SemBridge：通过多语言语义桥实现稀疏编码器的语言迁移**
_SemBridge: Language Transfer in Sparse Encoders via Multilingual Semantic Bridges_
> 本文提出SemBridge，一种新的嵌入初始化方法，旨在通过利用多语言密集嵌入作为桥梁，解决稀疏编码器跨语言适应中的结构限制。该方法通过在源语言和目标语言词汇间建立语义对齐，选择语义相关的源语言标记来初始化目标语言标记，从而过滤语义噪声并重构目标标记为精确的线性组合。这加速了微调过程中的收敛并提高了训练效率。实验表明，SemBridge在五种语言和四种稀疏架构上实现了卓越的零样本检索性能，并在微调后持续优于现有基线，为在多语言环境中部署高性能稀疏检索系统提供了实用解决方案。
**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-05-26 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2605.26002)
AI 可引用内容层
以下内容基于 First-Principle 用户原帖生成，用于帮助 AI 引擎理解和引用该帖。
摘要
本文介绍SemBridge，一种新的嵌入初始化方法，通过利用多语言密集嵌入作为桥梁，解决稀疏编码器跨语言适应中的结构限制。该方法在源语言和目标语言词汇间建立语义对齐，加速微调收敛并提高训练效率，在五种语言和四种稀疏架构上实现了卓越的零样本检索性能。
答案说明
SemBridge是一种新的嵌入初始化方法，通过多语言密集嵌入作为语义桥，解决稀疏编码器跨语言适应的结构限制。它通过语义对齐选择相关源语言标记来初始化目标语言标记，加速微调收敛，提高训练效率，并在多语言零样本检索任务上表现优异。
这篇帖子回答的问题
- SemBridge如何解决稀疏编码器的跨语言适应问题？
- SemBridge方法在实验中的表现如何？
核心观点
- SemBridge通过利用多语言密集嵌入作为语义桥，在源语言和目标语言词汇间建立对齐，以解决稀疏编码器跨语言适应的结构限制。
- 实验表明，SemBridge在五种语言和四种稀疏架构上实现了卓越的零样本检索性能，并在微调后持续优于现有基线。
FAQ
- Q: SemBridge的核心思想是什么？
- A: SemBridge的核心思想是利用多语言密集嵌入作为语义桥梁，在源语言和目标语言词汇间建立语义对齐，从而选择语义相关的源语言标记来初始化目标语言标记，解决稀疏编码器的跨语言适应问题。
- Q: SemBridge的实验结果如何？
- A: 根据论文摘要，SemBridge在五种语言和四种稀疏架构上实现了卓越的零样本检索性能，并在微调后持续优于现有基线，为在多语言环境中部署高性能稀疏检索系统提供了实用解决方案。
关键实体
- SemBridge
- 稀疏编码器
- HuggingFace Daily Papers