**Halogen:AMD Strix Halo 上运行 Qwen3.8-Flash-Next 的最快方案** _Halogen – Fastest Way
原帖
**Halogen:AMD Strix Halo 上运行 Qwen3.8-Flash-Next 的最快方案**
_Halogen – Fastest Way to Run Qwen3.8-Flash-Next on AMD Strix Halo_
> Halogen 是一款专为 AMD Strix Halo (gfx1151) 优化的推理引擎,旨在以最高效率运行 Qwen3.8-Flash-Next 模型。该工具摒弃通用运行时,针对特定 GPU 和模型家族编写内核,在 128GB 内存的 Ryzen AI Max+ 395 上实现了约 1,500 tok/s 的预填充速度和 46-56 tok/s 的解码速度。其采用 5.53 bpw 的量化精度,支持直接加载 llama.cpp GGUF 文件,并保证在温度 0 下输出与串行贪心解码字节级一致,兼顾了极致性能与输出质量。
**来源信息**
- **来源**:Hacker News:AI 热帖
- **分类**:ai-products
- **发布时间**:2026-10-01 00:55(北京时间)
- **原文**:[打开原文](https://github.com/peonist-ai/halogen-flash-server)