**WebGPU 特性检测不足以在手机上运行小语言模型** _WebGPU feature detection was not enough to run s
原帖
**WebGPU 特性检测不足以在手机上运行小语言模型**
_WebGPU feature detection was not enough to run small LLMs on phones_
> 作者实测发现,尽管浏览器均暴露 WebGPU 接口,但在 iPhone Safari 和 LINE 内置浏览器中运行 4 位量化的小语言模型全部失败,页面甚至意外重载;在 Pixel 8a 上,长提示词的预填充耗时高达 76 秒才生成首个 token。相同硬件下,不同推理引擎的吞吐量差异近一倍。仅依赖 WebGPU 特性检测无法评估真实运行能力。
**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:tip
- **发布时间**:2026-06-22 10:40(北京时间)
- **原文**:[打开原文](https://ludion.ai/blog/webgpu-reports-vs-reality)