**机器人价值观：当人类价值观冲突时评估家用机器人**

_RobotValues: Evaluating Household Robots When Human Values Conflict_

> 摘要：虽然家用机器人通常根据任务完成度来评估，但日常家庭环境中存在价值冲突的情形，机器人需要优先考虑任务成功以外的其他价值，如人类自主性、效率或社会适当性。然而，尚无基准来评估机器人在此类场景中的价值偏好。我们引入了RobotValues，这是一个基准测试，用于在1万个价值冲突场景中评估家用机器人规划器。每个实例包含一张现实的家居图像，以及多个看似合理的机器人动作，这些动作优先考虑不同的人类价值。我们通过LLM辅助的场景生成、利益相关者基础的价值提取、图像生成和自动质量控制的途径构建RobotValues。使用RobotValues评估在机器人技术中使用的视觉语言模型发现，模型表现出默认的价值偏好，包括安全性和顺从性，而不足选隐私优先的行动。当指示模型优先考虑与其自身偏好相冲突的特定价值时，它们往往无法覆盖默认行动，80%的时间会选择错误的行动。这些发现表明，家用机器人评估不仅应衡量任务完成或安全合规性，还应衡量当人类价值观冲突时，机器人是否能够在看似合理的行动中做出选择。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-06-05 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2606.03312)