物界前沿 · 资讯情报卡(IT之家 · 2026/11/18)
寒武纪完成商汤SenseNova Loop-9B模型Day 0适配
核心事实
- 商汤科技于11月17日晚发布SenseNova Loop-9B模型。
- 寒武纪宣布已完成该模型的Day 0适配工作。
- 适配基于vllm_mlu打通模型在MLU平台的推理链路。
- 适配围绕Loop循环结构、MLU算子适配、mHC路由优化三方向展开。
- 模型以约9B参数将32个物理解码层扩展为56次层计算。
关键数据
约9B模型参数量
约4.9GB4bit量化后权重
10GB内部署显存需求
56次物理解码层扩展计算次数
物界观察
循环计算架构正从论文走向可部署,寒武纪Day 0适配说明国产芯片对新型结构的响应速度在提升。显存门槛压到10GB内,本地私有化部署更现实,但生态仍依赖vLLM与已有算子复用,后续性能表现才是关键。
来源:IT之家原文 ↗
物界前沿