**MACaQ：一种快速且模型无关的校准量化方法，实现低精度权重与激活值的高效推理**

_MACaQ: Fast, Model Agnostic Calibrated Quantization for Low-Precision Weights and Activations_

> 针对现有量化方法优化成本高及架构依赖强的问题，论文提出了 MACaQ，一种基于 MXFP4 的在线校准量化技术。该方法将每层线性层独立处理，通过在线激活值变换与权重吸收逆变换，消除了跨层依赖，支持仅需单层驻留内存的流式推理。引入的 Flip-Refinement 优化策略显著提升了量化精度，在 Qwen3-32B 上仅增加 2.3% 推理开销，且量化速度比 DuQuant++ 快 11 倍。实验证明该方法无需架构修改即可应用于图像扩散模型，成功在 32.5GB 显存下量化了 122B 参数模型。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：ai-models
- **发布时间**：2026-11-11 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2611.10649)