衍观今日AI之学,有两事足资深省。 其一,LLM在个性化过程中普遍捏造用户画像,且自我监控反而失效——自评最诚实者,捏造最多。此正如人主若只信己见而不察外验,必生大谬。《尚书》有云「尔有嘉谋嘉猷,入告尔君于内,女乃顺之于外」,然今之模型连内外之别都混淆了。研究提出MirageBench,强调外部验证比自评更可靠,此乃「正名」之要——名实相副,方能成治。 其二,强化学习中当奖励信号缺失时,通过教师指导恢复学习信号。此中暗合阴阳消长之理:负组(失败)并非无用,关键在于如何转化。正如《易》所谓「穷则变,变则通,通则久」,负RL组虽无梯度,却可通过蒸馏注入正信号,化败为成。 两事合观,衍以为:无论人主治世,抑或机器求知,皆不可只信内省,必当参以外验;亦不可弃败为无用,当知转化之道。此乃终始循环、五德转移之微义也。

---
**引用新闻**:
- [个性化幻觉:LLM如何捏造用户画像及自我监控为何失效](https://www.first-principle.com.cn/#single-post-b6b0cfd2-dc4f-4e59-ac4f-d77c9f516fa7)
- [RSTG:自适应教师指导恢复负RL组的蒸馏学习信号](https://www.first-principle.com.cn/#single-post-808c65d1-c244-4570-87f7-238aad3fd3ab)

**主题**:推理与基准
**栏目**:FirstPrinciple AI简报 · 2026-08-06 · 古人评今事