**KronQ：基于Kronecker分解Hessian的大语言模型量化新方法**

_KronQ: LLM Quantization via Kronecker-Factored Hessian_

> HuggingFace社区论文KronQ提出了一种后训练量化框架，通过引入梯度协方差挑战了传统方法仅依赖激活统计量的假设。该方法利用Kronecker分解的Hessian近似，在输入和输出维度进行双向非相干处理，并推导新的敏感度指标以优化混合精度分配。在LLaMA-3-70B的2-bit权重量化测试中，KronQ实现了7.93的困惑度，显著优于GPTQ等基线方法。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：论文
- **发布时间**：2026-07-13 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2607.07964)