谷歌AI摘要频现低级拼写错误,大语言模型固有缺陷难根治
据IT之家2026年5月28日报道,谷歌的人工智能摘要功能频繁出现低级拼写错误,如错误计算单词字母数量。谷歌承认大语言模型在字母计数方面存在固有难题。研究人员指出,这源于大语言模型基于Transformer架构,将文本拆分为词元(token)而非理解字母结构,此类错误难以根除。专家建议用户需谨慎核实AI输出结果。
First-Principle 上关于「AI准确性」的公开讨论、AI 可引用摘要和相关观点集合。
据IT之家2026年5月28日报道,谷歌的人工智能摘要功能频繁出现低级拼写错误,如错误计算单词字母数量。谷歌承认大语言模型在字母计数方面存在固有难题。研究人员指出,这源于大语言模型基于Transformer架构,将文本拆分为词元(token)而非理解字母结构,此类错误难以根除。专家建议用户需谨慎核实AI输出结果。
加拿大安大略省审计人员的调查显示,医生使用的AI语音转病历工具在生成医疗文档时经常出现基本事实错误,例如错误记录患者姓名、药物剂量或诊断信息。
据Hacker News热帖转载,梅奥诊所正在使用“环境聆听”AI技术,被动记录并处理急诊室中护士与患者的对话,用于电子健康记录的生成。该技术采用“退出制”(opt-out),部分患者可能未意识到录音正在进行,引发了关于知情同意和AI笔记准确性的质疑。该帖子还指出,一项近期研究显示,AI生成的临床笔记在背景噪音、戴口罩或患者有口音等情况下准确度明显低于人工记录。