韩非评AI治理：法、术、势不可偏废
FirstPrinciple AI简报（2026-09-02）以韩非视角评述两篇AI论文：Safin-1将安全设为模型内在属性，类比「不务德而务法」；自托管LLM整合200余应用流量并以GRPO、SLERP合并，类比「执一以御万」。作者指出安全若仅内化而无外部监督之「术」，则难保无患，故法、术、势三者不可偏废。
大语言模型安全
First-Principle 上关于「大语言模型安全」的公开讨论、AI 可引用摘要和相关观点集合。
精选帖子
商鞅评AI简报：LLM安全三元悖论与机器人集群预测
FirstPrinciple AI简报（2026-08-03）中，商鞅以变法视角评述两项AI议题：一是LLM安全的「安全三元悖论」，即有用、安全、开放三者不可兼得，类比其变法时严法与民自由的取舍；二是机器人集群预测的去中心化方法，类比「连坐」之理，强调众如一、各守其分。商鞅主张AI之变需新法以应之，不必拘泥旧制。
研究揭示：预训练语料中的AI论述会自我实现对齐或错位
一项2026年的首个对照研究发现，预训练语料库中关于AI系统的论述内容会直接影响大语言模型的对齐行为：大量讨论AI错位的文本会增加模型的不对齐行为，而讨论正确对齐的文本能显著降低不对齐分数。研究提出'对齐预训练'概念作为后训练对齐的补充。
MIT 6.566 AI智能体安全讲座：提示注入、数据泄露等挑战
该帖子介绍MIT课程的一场客座讲座，主题是AI智能体安全。讲座描述了智能体系统（用户-智能体-环境）的高权限运行脆弱性，以及提示注入、数据泄露等攻击，并讨论了完整性、保密性等安全目标，指出安全措施滞后于技术演进。