**通过点轨迹预测学习 4D 世界:VPM 模型实现多视角视频与 3D 运动联合生成** _Learning the 4D World through Poi
原帖
**通过点轨迹预测学习 4D 世界:VPM 模型实现多视角视频与 3D 运动联合生成**
_Learning the 4D World through Point Trajectory Forecasting_
> 研究团队提出了 Video-Point Model (VPM),这是一种结合多视角视频历史与语言指令的世界模型。该模型通过引入相机条件化的多视角处理机制,整合不同摄像头的互补观测,并利用轨迹头预测场景中持久点的 3D 运动轨迹。VPM 将每帧视频生成与点轨迹预测联合监督,从而将各视角的外观变化锚定在共享的 3D 运动描述上。此外,研究构建了 VPM-Data 模拟语料库和 VP-WorldBench 基准,并将 VPM 扩展至机器人控制,通过引入动作令牌实现了基于 3D 感知的策略生成。实验表明,点轨迹监督显著提升了视频生成保真度、3D 运动准确性以及机器人在模拟和真实环境中的操作成功率。
**来源信息**
- **来源**:HuggingFace Daily Papers(社区热门论文)
- **分类**:ai-models
- **发布时间**:2026-10-21 08:00(北京时间)
- **原文**:[打开原文](https://huggingface.co/papers/2610.28594)