**量化大模型“到货即坏”：公共仓库中的非功能性量化模型及检测方案**

_Broken on Arrival: Non-Functional Quantized LLM Artifacts in Public Model Registries and How to Catch Them_

> 研究对公共模型仓库中的 305 个量化大模型（GGUF 格式）进行了全面测试，发现 2.3% 的官方标签存在功能性缺陷。尽管这些模型权重未被损坏且能复现张量，但无法通过代码执行任务。研究证实，仅靠原始权重无法保证功能，引入重要性矩阵校准可显著提升小参数模型（如 Qwen2.5-Coder）的可用性。作者发布了审计数据与检测工具 quantcheck，并建议发布前对低比特量化模型进行筛查与校准。

**来源信息**
- **来源**：HuggingFace Daily Papers（社区热门论文）
- **分类**：ai-products
- **发布时间**：2026-10-30 08:00（北京时间）
- **原文**：[打开原文](https://huggingface.co/papers/2609.05881)