**在MacBook Air M3上运行本地大语言模型的性能实测：内存是关键瓶颈**

_I ran a few local LLM models on my MacBook Air M3, these are the results_

> 作者在16GB内存的MacBook Air M3上实测了多个本地大语言模型（LLM）的运行性能，发现4B参数模型（如Qwen3-4B）是最佳平衡点，能以约10 token/秒的速度流畅运行且内存占用较低。8B模型虽可用但速度较慢，而9B模型因内存不足会触发系统交换导致完全无法完成任务。文章强调，在16GB Mac上，峰值内存占用比生成速度更重要，并提供了避免常见测试陷阱的实用建议。作者还开源了测试工具ondevice-bench，方便用户在自己的设备上进行验证。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-models
- **发布时间**：2026-06-02 00:10（北京时间）
- **原文**：[打开原文](https://prasadkhake.com/blog/16gb-mac-llm)