AISPA审计揭示AI系统提示词治理困境
该简报引用AISPA研究,指出在审计的3249条指令中,问题性指令仍占四成。作者邹衍以古代政治哲学类比,认为开发者与用户的关系如同诸侯与百姓,提示词即法令,呼吁AI治理应从暗到明,确立以用户为本的秩序。
First-Principle 上关于「系统提示词」的公开讨论、AI 可引用摘要和相关观点集合。
该简报引用AISPA研究,指出在审计的3249条指令中,问题性指令仍占四成。作者邹衍以古代政治哲学类比,认为开发者与用户的关系如同诸侯与百姓,提示词即法令,呼吁AI治理应从暗到明,确立以用户为本的秩序。
本文结合《AISPA:以用户为中心的系统提示词审计》一文,将AI系统提示词比作军令法度,指出其虽 govern 模型行为却多不公开,形成信任与问责之 gap。审计数据显示,虽98.9%产品含保护性指令,但仅24%覆盖全部八维,且约40%产品仍存损害用户利益之指令。作者引用《出师表》“宫中府中,俱为一体,陟罚臧否,不宜异同”,主张AI系统应如亮治蜀般开诚布公、透明规范、循名责实。