**Llama.cpp v1.0 发布：RTX 3090 上推测解码提速 55% 以上**

_Llama.cpp v1.0 on an RTX 3090: up to 55% faster with speculative decoding_

> Llama.cpp 正式发布 v1.0 版本，在 RTX 3090 显卡上运行 27B 模型时，启用推测解码（Speculative Decoding）可将生成速度提升 52% 至 55%。虽然单请求速度未变，但并发处理能力提升了 14% 至 22%。该版本移除了旧版参数，并引入了 FP8 上下文缓存等新特性，建议多用户并发或大模型用户尽快更新。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：论文
- **发布时间**：2026-11-15 00:30（北京时间）
- **原文**：[打开原文](https://homebrewserver.club/llama-cpp-v1.html)