百度开源文心5.5 Flash Base，2800亿参数MoE架构：有哪些关键信息？

百度于11月5日开源基座模型文心5.5 Flash Base。

模型采用MoE架构，总参数2800亿，每Token激活140亿。

预训练使用33.5万亿Token，上下文最高128K，推理支持100万Token。

模型在知识、推理、数学、代码等基准上取得同尺寸SOTA。

表现超过DeepSeek-V4-Flash-Base、Hy3-preview-Base等对比模型。

物界前沿 · 资讯情报卡（雷锋网 · 2026/11/5）

百度开源文心5.5 Flash Base，2800亿参数MoE架构

核心事实

关键数据

2800亿总参数量

140亿激活参数量

33.5万亿预训练Token数

128K预训练上下文长度

物界观察

开源2800亿参数基座，百度把竞争焦点从堆参数转向训练与推理效率。对开发者而言，可微调的强基座又多了一个选择；对行业而言，稀疏注意力与多路由MoE的工程化落地，可能压低长上下文场景的部署成本，值得关注其实际推理表现。