**Coop:志愿者利用免费基础设施预训练的小型语言模型** _Coop: A small language model pretrained by volu
原帖
**Coop:志愿者利用免费基础设施预训练的小型语言模型**
_Coop: A small language model pretrained by volunteers_
> Coop 是一个去中心化的 AI 项目,志愿者通过 Hugging Face PR 提交伪梯度,由 GitHub Actions 无状态聚合,在捐赠硬件上预训练模型。目前 Stage 2 正在 FineWeb-Edu 数据集上训练 1.45 亿参数模型,无需服务器或资金,验证了 DiLoCo 风格低通信数据并行机制的可行性。
**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:ai-models
- **发布时间**:2026-10-01 03:51(北京时间)
- **原文**:[打开原文](https://github.com/commonsense-ai/coop)