**Sable：首个实现大语言模型逐比特精确推理的轻量级验证系统**

_Sable: A Small-Field Sumcheck Argument for Bit-Exact Inference of Large Language Models_

> 论文提出了 Sable，一种专为整数量化大语言模型设计的单 GPU 验证系统。该系统通过构建无浮点运算的整数函数，利用约束系统和 Reed-Solomon 编码等技术，实现了模型推理结果的逐比特精确验证。实验表明，Sable 在单张 NVIDIA RTX PRO 6000 Blackwell GPU 上，能以极低的成本（约 6.4 美分/4096 词）和较短时间完成对 Qwen2.5-32B 等模型的验证，其效率显著优于现有方案 zkLLM，且验证器仅需单核 CPU 即可运行。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：ai-models
- **发布时间**：2026-11-11 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2611.14083)