**TufaZip 以 Transformer 模型将 10 亿字节维基百科压缩至 105MB,刷新文本压缩基准纪录** _Learning to Compr
原帖
**TufaZip 以 Transformer 模型将 10 亿字节维基百科压缩至 105MB,刷新文本压缩基准纪录**
_Learning to Compress a Billion Bytes of Wikipedia_
> TufaZip 项目利用在线学习结合离线初始化训练的 Transformer 架构,成功将 10 亿字节的维基百科数据压缩至 105.39 MB。该模型基于 12 层、1.63 亿参数的 Transformer,并初始化自一个 3400 万参数的离线模型,其中部分层被复制并持续在线学习,无需传输完整模型权重即可实现高效压缩。这一成果使其在大型文本压缩基准测试中位列第二,验证了通过神经网络进行无损压缩作为衡量机器智能的一种有效途径。
**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:ai-models
- **发布时间**:2026-11-20 06:10(北京时间)
- **原文**:[打开原文](https://tufalabs.ai/research/tufazip)