Liquid AI发布端侧模型LFM2.5-8B-A1B,优化消费级硬件工具调用
Liquid AI发布端侧混合专家模型LFM2.5-8B-A1B,基于前代模型升级,上下文窗口扩展至128,000 token,预训练数据规模达38T token,并采用大规模强化学习。该模型专为消费级硬件优化,支持快速工具调用和复杂指令执行,性能与更大模型相当。
First-Principle 上关于「端侧 AI」的公开讨论、AI 可引用摘要和相关观点集合。
Liquid AI发布端侧混合专家模型LFM2.5-8B-A1B,基于前代模型升级,上下文窗口扩展至128,000 token,预训练数据规模达38T token,并采用大规模强化学习。该模型专为消费级硬件优化,支持快速工具调用和复杂指令执行,性能与更大模型相当。
帖子报道,占领华尔街运动联合创始人米卡·怀特开发了一款名为Outcry的AI应用。该应用专为活动人士、组织者和运动建设者设计,提供完全离线的设备端AI聊天机器人,内置经过筛选的活动人士文献库,旨在作为私人AI导师提供专业可靠信息。
文章指出设备端AI并非单一概念,而是存在不同的计算层级,每个层级对应特定的芯片能力。文章详细介绍了三个层级:1)超低功耗音频/IoT芯片层级(如ESP32-C3),可运行基于规则或小型神经网络模型,实现语音唤醒、简单设备状态调节等基础功能;2)中端应用处理器层级,可支持更复杂的AI模型;3)高端AI加速器层级,用于高性能计算。作者强调,选择正确的芯片层级至关重要,因为它直接决定产品的功能、成本、电池续航和市场实用性。
Adobe 发布了 Photoshop 27.7 更新,为移除工具(Remove Tool)新增了端侧 AI 模型支持,允许用户在不连接网络的情况下本地处理图像编辑,以减少云依赖并增强隐私保护。更新还包括与 Firefly 灵感板的集成以及其他性能优化。
根据 IT之家 2026年5月20日的报道,苹果公司宣布将在 iOS 27 系统中引入“生成字幕”辅助功能。该功能利用设备端语音识别技术,为无字幕视频实时生成字幕,处理在本地完成以保护隐私,初期仅支持英语,面向美国和加拿大用户。
Google开发者博客于2026年5月20日宣布推出LiteRT-LM工具,旨在显著提升设备端大型语言模型(LLM)等生成式AI模型的推理速度与效率。该工具通过优化模型运行时,使开发者能在移动设备和边缘设备上部署无需依赖云端的快速AI应用,从而增强隐私保护和实时响应能力。
Crisper是一款macOS应用,可将语音实时转换为精炼、可直接粘贴的文本。该工具完全在设备端运行,无需云端连接或订阅,确保用户隐私。
Arm与Google通过AI Edge平台合作,将Google的AI工具与Arm的硬件架构深度结合,旨在提升移动及边缘设备上AI应用的运行效率与性能,推动AI在终端设备的普及与实用化。
据 IT之家 2026 年 5 月 15 日报道,三星 AI Core 应用代码显示,三星正在为联发科天玑 9500 芯片进行适配,该芯片预计将用于下一代 Galaxy Tab S12 系列平板。代码信息表明,该系列平板可能搭载 AI 生成壁纸、AI 图像扩展、端侧生成式编辑等多项本地化 AI 功能,以提升端侧 AI 处理能力,减少对云端的依赖。