**Ovis-Embedding：原生全模态统一嵌入模型刷新多项基准**

_Ovis-Embedding: Pushing the Frontiers of Universal Omni-Modal Embeddings_

> 该工作提出 Ovis-Embedding，一个原生整合文本、图像、视频与音频的全模态嵌入模型家族。它不采用独立模态塔，而是以预训练 Qwen-omni 为共享多模态骨干，在统一表示空间中编码各模态，并通过对比训练与低秩初始化适配。训练上构建覆盖文本、图像、视频、音频及交错多模态数据的高质量语料，引入同源采样以形成任务一致的批次并获得有信息量的批内负样本；同时使用 focal loss 关注困难样本，并以基于相似度的嵌入蒸馏从互补专家模型迁移细粒度相似性结构。推理阶段采用低秩特征分解，实现维度灵活且性能损失极小的紧凑嵌入。实验显示其在 MMEB-v3、MMEB-v2、MVEB、MAEB 与 RTEB 上均达最先进水平，表明统一全模态训练有望打破模态割裂，推动任意模态互检索的通用嵌入模型发展。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-09-23 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2609.25165)