**AI 生成 GPU 内核:Carmen 通过对抗测试验证并加速 Qwen 模型** _Show HN: carmen – testing AI-writt
原帖
**AI 生成 GPU 内核:Carmen 通过对抗测试验证并加速 Qwen 模型**
_Show HN: carmen – testing AI-written GPU kernels_
> 项目 Carmen 利用大语言模型(LLM)自动生成 Apple Metal GPU 内核,并通过一套经过“对抗性测试”的验证框架来筛选最优内核。与传统测试不同,Carmen 通过植入 75 个真实漏洞来验证内核的正确性,并测量其在真实模型中的实际加速效果。结果显示,虽然 AI 生成的内核在单核测试中比 MLX 快 1.41 至 1.82 倍,但在实际运行 Qwen 模型时,由于硬件瓶颈,仅带来约 3% 的加速,而推测解码(Speculative Decoding)技术带来的提升更为显著。
**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:ai-products
- **发布时间**:2026-10-27 22:30(北京时间)
- **原文**:[打开原文](https://github.com/utsav1033/carmen)