**Janas:通过SSD流式传输专家数据运行超内存LLM**

_Janas:通过从SSD流式传输专家数据,运行规模超过内存的大规模语言模型_

> 开源项目Janas允许在内存不足的情况下运行大规模语言模型,其核心机制是从SSD流式传输专家数据,从而突破硬件内存限制。

**来源信息**
- **来源**:Hacker News 热门(buzzing.cc 中文翻译)
- **分类**:ai-products
- **发布时间**:2026-10-13 17:23(北京时间)
- **原文**:[打开原文](https://github.com/prabanta-dev/janas)