**首个在ESP32-S3双芯片上运行的LLM：15M参数Llama模型实现多芯片流水线推理**

_LLM for the ESP32-S3_

> 该项目将15M参数的Llama架构LLM拆分到两块ESP32-S3微控制器上运行，通过三线UART传递激活向量，实现首个多芯片流水线LLM推理。模型采用INT4量化存储于外挂Flash，计算使用INT8激活值，推理速度约1.4 tokens/s。方法克服了单芯片16MB闪存容量限制，为在极低功耗设备上运行稍大语言模型提供了新思路。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-products
- **发布时间**：2026-06-12 13:56（北京时间）
- **原文**：[打开原文](https://github.com/harmansingh4163-ai/ESP-32-s3-Story-maker-LLM)