物界前沿 · 资讯情报卡(IT之家 · 2026/11/5)
百度开源ERNIE 5.5 Flash Base基座模型,总参数280B
核心事实
- 百度文心于11月5日发布并开源ERNIE-5.5-Flash-Base预训练终点权重。
- 该模型为稀疏MoE架构,总参数280B,每token激活14B。
- 模型在33.5T tokens上从零预训练,训练上下文最长128K。
- 微调与推理阶段支持最长1M tokens上下文。
- 此次权重未经中训练与后训练,后训练版本将随后推出。
关键数据
280B总参数
14B每token激活参数
33.5T预训练tokens
1M tokens推理最长上下文
物界观察
百度把未后训练的基座权重直接开源,等于把领域适配和强化学习的起点交给社区,抢的是开发者生态而非榜单。280B总参、14B激活的稀疏设计兼顾性能与成本,但真正考验在后训练版本能否兑现。对用户而言,可商用基座多了一个国产选项。
来源:IT之家原文 ↗
物界前沿