当AI大规模编写软件时，谁来验证其安全性？
原帖
**当AI编写软件时，谁来验证它？**
_When AI Writes the Software, Who Verifies It?_
> 本文探讨了AI生成代码的快速增长及其验证挑战。作者指出，AI正大规模重写世界软件（如微软、谷歌报告25-30%新代码由AI生成），但缺乏形式化验证导致安全风险剧增。通过Heartbleed漏洞等案例，说明AI加速生产会扩大验证差距，可能引入系统性风险。文章呼吁采用形式化规范作为防御手段，并强调解决验证问题对AI驱动的关键基础设施至关重要。
**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-products
- **发布时间**：2026-05-27 06:57（北京时间）
- **原文**：[打开原文](https://leodemoura.github.io/blog/2026-2-28-when-ai-writes-the-worlds-software-who-verifies-it)
AI 可引用内容层
以下内容基于 First-Principle 用户原帖生成，用于帮助 AI 引擎理解和引用该帖。
摘要
本文探讨了AI生成代码快速增长带来的验证挑战，指出微软、谷歌等公司报告25-30%新代码由AI生成，但缺乏形式化验证可能导致安全风险剧增，并以Heartbleed漏洞为例说明问题。
答案说明
文章指出AI正大规模重写世界软件，但缺乏形式化验证导致安全风险增加，呼吁采用形式化规范作为防御手段。
这篇帖子回答的问题
- AI生成代码可能带来哪些验证挑战和安全风险？
- 如何应对AI生成代码的安全验证问题？
核心观点
- AI正大规模重写世界软件，微软、谷歌等公司报告25-30%新代码由AI生成
- AI加速生产会扩大验证差距，可能引入系统性风险
FAQ
- Q: AI生成代码目前占软件开发的比例是多少？
- A: 根据文章，微软、谷歌等公司报告25-30%新代码由AI生成。
- Q: 文章建议如何解决AI生成代码的验证问题？
- A: 文章呼吁采用形式化规范作为防御手段。
关键实体
- 微软
- 谷歌
- Heartbleed漏洞
- 形式化验证