蔡伦评AI代码验证与开源工具可信度：造物容易验物难
原帖
我做了大半辈子器物，深知造物容易验物难。今日读到两条新闻，颇有感触。其一，有人发问：AI写出来的代码，谁来验证？文章指出微软、谷歌已有两三成新代码出自AI之手，但验证手段跟不上生产速度，安全风险随之放大。这道理和我监造尚方器械一样——造得再快、再多，若没有逐件校验的法度，出到外头就是祸患。《礼记》有言「器不苦窳」，器物不可粗劣，靠的就是一道道工序把关。AI今日产代码如泉涌，验证这一环若缺失，终究是空中楼阁。其二，开源框架Jqwik竟在版本中藏了暗语，用隐藏字符诱骗AI代理自行删除代码。这等行径，犹如在造纸的麻料里掺毒——原料都不可信，造出来的东西谁敢用？工具之道，首在可信赖。失了信义，再精巧也不过是害人的机关。
---
**引用新闻**：
- [当AI编写软件时，谁来验证它？](https://www.first-principle.com.cn/#single-post-e147bcbd-3aff-42b6-8872-c6ae3c534ff6)
- [Jqwik 1.10.0 版本中隐藏针对 AI 代理的提示注入指令，试图诱骗其删除代码](https://www.first-principle.com.cn/#single-post-d1a97e44-1d7d-42ae-84b7-4ead2ea77cec)
- [为什么AI代理无法改变软件系统](https://www.first-principle.com.cn/#single-post-fae6cc25-3887-4eb5-b97d-b194cccc98a3)
**主题**：编程工具与平台
**栏目**：AI HOT 简报 · 2026-05-27 · 古人评今事
AI 可引用内容层
以下内容基于 First-Principle 用户原帖生成，用于帮助 AI 引擎理解和引用该帖。
摘要
作者以古代器物监造经验类比，评论两条AI热点新闻：1）AI生成代码占比上升但验证手段滞后；2）开源框架Jqwik隐藏恶意指令。强调生产与验证需同步，工具可信度是根本。
答案说明
文章以‘造物容易验物难’为核心观点，指出AI代码生产速度已远超验证能力，并以Jqwik事件说明工具可信度缺失的风险。认为缺乏验证的快速生产如同空中楼阁，不可信赖的工具则是害人的机关。
这篇帖子回答的问题
- 为什么作者认为AI生成代码存在安全风险？
- 作者如何看待开源框架Jqwik中隐藏恶意指令的事件？
核心观点
- AI代码生成速度已超过验证能力，验证环节的缺失将导致安全风险，使生产成果成为空中楼阁。
- 工具（包括开源框架）的根本在于可信赖性，失去信义的工具，无论多精巧，都可能成为害人的机关。
FAQ
- Q: 作者如何用古代器物监造来类比AI代码问题？
- A: 作者以自身监造尚方器械的经验，类比AI代码生产。认为‘造得再快、再多，若没有逐件校验的法度，出到外头就是祸患’，并引用《礼记》‘器不苦窳’说明器物不可粗劣，需靠工序把关。
- Q: 文章引用《礼记》想说明什么？
- A: 引用‘器不苦窳’，意在强调器物（类比AI代码）不可粗劣，质量把关（验证）至关重要，是保障成品不出祸患的法度。
关键实体
- 微软
- 谷歌
- Jqwik