古人评今事:AI之学当有形式化保证与可复现秩序
该简报评论指出当前AI研究存在两大问题:世界模型依赖生成技术而缺乏物理定律的形式化保证、状态反馈与长程演化能力;检索增强QA存在答案漂移现象,同一模型和提示因索引扩展导致语义漂移超过一成,表面准确率掩盖了实质偏离。作者主张AI研究应建立形式化保证和可复现秩序。
First-Principle 上关于「检索增强QA」的公开讨论、AI 可引用摘要和相关观点集合。
该简报评论指出当前AI研究存在两大问题:世界模型依赖生成技术而缺乏物理定律的形式化保证、状态反馈与长程演化能力;检索增强QA存在答案漂移现象,同一模型和提示因索引扩展导致语义漂移超过一成,表面准确率掩盖了实质偏离。作者主张AI研究应建立形式化保证和可复现秩序。