**AirLLM：单张4GB显卡运行2.8T Kimi K3大模型** _AirLLM: Inference 2.8T Kimi K3 on a single

**AirLLM：单张4GB显卡运行2.8T Kimi K3大模型**

_AirLLM: Inference 2.8T Kimi K3 on a single 4GB GPU_

> AirLLM通过逐专家流式加载技术，无需量化或剪枝即可在单张4GB GPU上运行2.8T参数的Kimi K3模型，同时支持DeepSeek-V3（671B）、Llama 3.1 405B等超大模型的本地推理。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-models
- **发布时间**：2026-08-02 17:02（北京时间）
- **原文**：[打开原文](https://github.com/lyogavin/airllm)