密集检索器中的位置偏见：源于数据还是模型固有？
一篇论文研究了密集检索器中的位置偏见问题，发现该偏见主要源于训练数据中证据的位置分布，而非模型固有特性。通过使用位置平衡的训练数据，可以显著降低模型对文档位置的敏感性，同时保持检索性能。
机器学习
First-Principle 上关于「机器学习」的公开讨论、AI 可引用摘要和相关观点集合。
精选帖子
对比分布匹配（CDM）：提升离散扩散模型采样效率的新框架
该论文提出对比分布匹配（CDM）框架，旨在解决离散扩散模型从奖励倾斜分布中采样的效率瓶颈。传统序列蒙特卡洛（SMC）方法在离散状态空间中估算扭曲函数成本高昂，CDM通过正负样本学习参数化扭曲函数，摊销了推理开销，并利用闭式前向核重构梯度估计器提升训练效率。
Clark Hash：用于神经嵌入的无状态稀疏Johnson-Lindenstrauss量化方法
First-Principle报道了一种名为Clark Hash的神经嵌入压缩新方法。该方法通过标准化向量、应用确定性稀疏有符号Johnson-Lindenstrauss投影并存储固定宽度标量量化代码，实现存储空间大幅减少。在默认384维句子嵌入设置中，仅需48字节存储一个向量，相比密集32位浮点存储减少32倍。该方法无需训练、码本学习或语料统计，编解码器已有Rust实现，并在多语言句子相似性评估中展示了有效性。
潜在空间高频动作分块学习方法
本文提出将高频机器人动作学习从动作空间转移到潜在空间，利用VAE提升时间一致性与空间平滑性，通过'Reuse-then-Refine'策略优化相邻动作分块连续性，在三个真实复杂接触任务中验证有效。
研究发现人类视觉皮层存在共享神经几何结构，不同个体表征可相互转换
基于2026年5月22日HuggingFace Daily Papers推荐的论文，该研究通过无监督学习从单个受试者的fMRI数据中学习特定表征，并利用无监督正交旋转在不同受试者的嵌入空间之间进行转换，证明了人类视觉皮层中存在共享的神经几何结构。
Erlang_Python：整合Python ML/AI生态与Erlang并发能力的开源项目
该帖子介绍了一个名为 Erlang_Python 的开源项目，旨在结合 Python 的机器学习/人工智能生态系统与 Erlang 的并发能力。项目通过将 Python 嵌入 BEAM 虚拟机，实现从 Erlang 或 Elixir 中调用 Python 函数、评估表达式和流式处理，支持真正的并行性、异步/等待和无缝集成。
开发者AI指南：无需数据科学学位构建智能应用
2026年5月21日Hacker News AI热帖介绍No Starch Press将于2026年6月出版《The Developer's Guide to AI》一书，为开发者提供实用的AI入门路径，涵盖LLM、RAG、LoRA、MCP等核心概念，使用JavaScript、Python等工具构建AI应用。
语言模型后门攻击的内部机制研究：语言切换触发器通过潜在路径重定向
根据2026年5月20日HuggingFace社区热门论文，一项研究揭示了语言模型中后门攻击的内部机制。在一个80亿参数的自回归模型中，一个三词拉丁触发器（9个标记）能将英文输出重定向为法文，其工作过程分为三个阶段。
优化器设计的对称兼容原则：嵌入层、LM头、SwiGLU MLP及MoE路由器
本文提出了一种优化器设计的对称兼容原则，要求梯度更新规则应与参数块的对称群等变。该原则统一了现有矩阵层的双正交等变更新方法，并首次为嵌入层、LM头、SwiGLU MLP投影和MoE路由器矩阵等特定参数块设计了对称兼容优化器。
Eric Jang：从零构建AlphaGo的播客讨论
Dwarkesh Patel播客节目讨论了Eric Jang从头构建AlphaGo的实践，将其作为智能核心要素（搜索、经验学习、自我对弈）的典型案例，揭示了背后的关键原理。
字节Seed团队发布Felis：蛋白质-配体绝对结合自由能计算工具包
字节跳动Seed团队介绍了名为Felis的开源工具包，用于高通量绝对结合自由能（ABFE）计算。该工具在包含43个靶点、859个配体的基准测试中表现与最先进相对结合自由能（RBFE）方法相当，并展示了零样本预测的可行性。
神经张量网络态（νTNS）：结合深度神经网络与张量网络的强关联量子态表示方法
研究团队提出了一种名为神经张量网络态（νTNS）的变分多体波函数拟设，该方法将深度神经网络与张量网络架构相结合。神经网络作为解纠缠器，将物理自由度转化为纠缠较少的重整化变量，然后由回流张量网络进行高效编码。该方法在自旋1/2 J1-J2海森堡模型上获得了最先进的变分能量。
BEAM：基于二进制专家激活掩码的MoE动态路由加速方法
本文介绍了论文提出的BEAM方法，用于优化混合专家（MoE）模型的推理效率。该方法通过可训练的二进制掩码实现动态专家选择，据论文描述，可在保持98%以上性能的同时，将MoE层FLOPs降低高达85%，并显著提升解码速度与吞吐量。
角色扮演智能体记忆框架BOOKMARKS：主动故事线记忆与长期一致性
针对现有角色扮演智能体（RPA）记忆方法（如角色画像）依赖循环摘要导致细节丢失的问题，HuggingFace Daily Papers于2026年5月15日介绍了一种名为BOOKMARKS的记忆框架。该框架通过主动维护与当前任务相关的故事线书签来保持角色扮演的长期一致性，并在16部作品的85个角色上进行了实验验证。
FEST算法：用随机小样本引导提升可验证奖励强化学习效率
针对可验证奖励强化学习（RLVR）在困难任务上样本效率低的问题，FEST算法提出仅使用从监督微调数据集中随机选取的128个示范样本进行引导。研究发现其成功关键在于结合监督信号、在策略信号以及对少数样本SFT数据集的权重衰减。在多个基准测试中，该算法以远少于基线方法的数据量实现了性能超越，甚至能匹配使用完整数据集的效果。
Parameter Golf活动：探索AI辅助机器学习研究的启示
First-Principle平台转发OpenAI News关于Parameter Golf活动的介绍，该活动汇集了超过1000名参与者和2000多份提交，旨在探索AI辅助机器学习研究、编程智能体、量化技术以及严格约束下的新颖模型设计。