**Embla-1:专为手机打造的 4 比特推理模型,iPhone 18 Pro 上 1.77 秒完成推理** _Embla-1_ > Sevren 发布了
原帖
**Embla-1:专为手机打造的 4 比特推理模型,iPhone 18 Pro 上 1.77 秒完成推理**
_Embla-1_
> Sevren 发布了专为手机端设计的推理模型 Embla-1。该模型在 4 比特量化下,在 BFCL、GPQA 和 MATH-500 等基准测试中平均得分为 57.4,并在 iPhone 18 Pro 上实现了 1.77 秒的端到端推理延迟,显著优于其他小模型。Embla-1 采用独特的混合注意力架构(稀疏注意力与滑动窗口结合)、共享 KV 缓存及 Engram 技术,并通过包含 Qwen3.5-35B-A3B 在内的多阶段强化学习蒸馏训练而成,实现了在移动端的高效运行。
**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:ai-models
- **发布时间**:2026-11-13 18:47(北京时间)
- **原文**:[打开原文](https://sevren.ai/blog/embla-1)