**Answer.AI 发布 ModernBERT：BERT 的全面升级替代者**

_A Replacement for Bert: Introducing ModernBERT_

> Answer.AI 与 LightOn 联合发布 ModernBERT，这是一系列最先进的仅编码器模型，旨在全面取代 BERT。ModernBERT 支持 8192 序列长度，在下游任务性能和处理速度上均有显著提升，并提供 Base（1.49 亿参数）和 Large（3.95 亿参数）两种规格。该模型已集成至 Hugging Face Transformers 库，可作为 BERT 的直接替换方案，适用于检索、分类等场景，推荐配合 Flash Attention 2 使用以最大化效率。

**来源信息**
- **来源**：Hacker News：AI 热帖
- **分类**：ai-models
- **发布时间**：2026-09-28 19:48（北京时间）
- **原文**：[打开原文](https://www.answer.ai/posts/2024-12-19-modernbert.html)