社区讨论 · 政策
微软MAI模型:Excel任务追平GPT-5.6,但部署成本低在哪?
一个参数量更小的模型,如何在特定任务上追平前沿大模型。这背后是数据魔法,架构创新,还是工程优化到极致。
纳德拉说微软自研MAI模型在Excel任务上表现与GPT-5.6相当,且部署成本更低。这句话里藏着两个关键信息:领域特化,以及成本。作为编译器从业者,我第一反应是:这模型大概率不是通用大模型,而是为办公场景(尤其是Excel)专门优化的垂直模型。
Excel任务的本质是什么。表格理解、公式生成、数据清洗、图表建议。这些任务有明确的上下文结构,数据分布相对固定。相比写作或代码生成,Excel任务更接近规则加模式匹配。如果微软用大量Excel操作数据微调一个中等规模模型(比如70亿参数级别),再配合知识蒸馏,将其压缩到更小(比如7B甚至3B),在特定benchmark上表现接近GPT-5.6(假设GPT-5.6是某个内部版本或GPT-4级别的模型)是有可能的。
但更关键的是部署成本。成本降低来自两个层面:模型本身的推理计算量,以及推理引擎的优化。
模型层面,小参数量意味着更少的FLOPs,更低的显存占用。但纳德拉说的“部署成本更低”可能还包含了微软在推理引擎上的积累。ONT(Open Neural Network Exchange)是微软主导的,而DeepSpeed、ONNX Runtime等工具在
物界前沿