**在8美元微控制器上运行2890万参数LLM**

_Running a 28.9M parameter LLM on an $8 microcontroller_

> 该项目成功在售价约8美元的ESP32-S3微控制器上本地运行拥有2890万参数的语言模型。通过采用Google Gemma的“逐层嵌入”技术，将大部分参数存储在慢速Flash中而非快速SRAM，实现了仅用512KB内存运行大型模型。该模型基于TinyStories数据集训练，生成速度约为每秒9.5个token，适用于简单故事创作，但不具备复杂推理或指令遵循能力。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-models
- **发布时间**：2026-07-26 02:59（北京时间）
- **原文**：[打开原文](https://github.com/slvDev/esp32-ai)