利用IBM量子采样循环优化纯CPU的Qwen3-30B推理
一个项目展示了在2017年款MacBook Air（纯CPU）上运行Qwen3-30B MoE模型，通过引入IBM量子计算作为混合优化循环的一部分，将推理速度从约0.09 tokens/sec提升至14.03 tokens/sec。重点在于量子计算辅助优化研究循环。
AI模型优化
First-Principle 上关于「AI模型优化」的公开讨论、AI 可引用摘要和相关观点集合。
精选帖子
CollectionLoRA：通过多教师策略蒸馏在单一LoRA中收集50种效果
本文介绍CollectionLoRA，一个用于图像编辑的多教师策略蒸馏框架。该方法能将多达50个独立效果LoRA的概念和快速生成能力蒸馏到单个LoRA中，显著降低部署成本。它通过概率双流路由、非对称正交提示策略和粗到细蒸馏目标等技术，有效解决了多LoRA叠加时出现的参数干扰、概念混淆和风格退化问题，同时保持或超越独立教师模型的概念保真度。
CODA：将Transformer模块重写为GEMM-Epilogue程序
该论文提出CODA方法，将Transformer模型基本模块（如注意力层和前馈网络）重写为GEMM（通用矩阵乘法）与后续操作（Epilogue）结合的高效程序，旨在优化硬件执行效率，提升推理速度和能效。