物界前沿 · 资讯情报卡(量子位 · 2026/11/5)
百度开源文心5.5 Flash Base,2800亿参数MoE架构
核心事实
- 11月5日,百度开源基座模型文心5.5 Flash Base。
- 模型采用MoE架构,总参数2800亿,每Token激活140亿参数。
- 预训练使用33.5万亿Token,预训练上下文最高128K。
- 微调与推理阶段支持最长100万Token上下文。
- 官方称其在知识、推理、代码等多项基准上取得同尺寸模型SOTA。
关键数据
2800亿总参数量
140亿每Token激活参数
33.5万亿预训练Token数
100万Token推理最长上下文
物界观察
百度把旗舰基座以开源形式放出,且主打长上下文与训练效率,等于把竞争焦点从单纯堆参数转向单位算力产出。对开发者是低成本定制专业模型的新选项,但同尺寸SOTA的成色仍需第三方复现验证。
来源:量子位原文 ↗
物界前沿