换模型底座这件事，先跑通再说

从工程落地看，换模型底座这件事，先跑通再说。最近我帮朋友做一个入门项目，重新按最小路径走了一遍，把应用背后的模型底座从国外模型换成中国开源模型。模型底座是应用背后负责生成回答的大模型，换底座会牵动模型调用、参数配置、日志和计费这些环节，像换发动机、换油、换仪表盘。

第一天先别谈架构，先跑通一次调用。我拿一个常见任务试手，把一段新闻摘要成三条要点。先打开 OpenRouter，把它当作模型 API 的统一入口。注册后在首页找 Playground，点进去，左边选模型，搜索 Kimi K3。素材里提到法律 AI 公司 Harvey 用 Kimi K3 做基座。你也可以搜 DeepSeek 或 Qwen。

Playground 里通常有两块输入区。上面是系统提示词，给模型的角色说明。输入一段话，你是摘要助手，只输出三条中文要点，每条不超过二十个字。下面是用户输入区。把虎嗅那篇关于 HUMAIN M3 的摘要开头贴进去。点击 Run 或发送，看到三条短句。预期是稳定输出。

9月2日，HUMAIN 发布 M3，官方曾称 100% Saudi Model。

如果要接到自己工具里，去 API Keys 页面，点 Create Key，名称写 local-test，权限默认，生成一串以 sk-or 开头的字符串。复制。回到工具设置，把接口地址填 https://openrouter.ai/api/v1，模型名按页面显示填，比如对应模型标识。API Key 粘贴。点保存。再发一条测试消息。预期工具能回复，后台用量页出现 token 数。token 是模型计费的字符单位，中文不一定一比一。

这里最容易踩坑的是模型名。页面上显示的是展示名，接口里有时要带前缀。我第一遍直接填 Kimi K3，返回 404，就是找不到这个模型。后来把页面模型详情里的 id 复制过去，才通。第二个坑是上下文长度，摘要新闻太长会被截断。别一上来丢整本书，先丢八百字以内。第三个坑是密钥泄露。测试 key 不要提交到公开仓库。

第三天把错误变成规则。跑通后别急着夸便宜。我拿十段不同新闻跑，发现中文摘要大体可用，但有三类问题，有时输出四条，有时带标题，有时把日期写成 9/2。处理办法不神秘，把要求写得更硬，最多三条；不要 Markdown；日期统一 YYYY-MM-DD。再把失败样本记下来。这个动作很像夜间复盘，重点是把错误变成可审计规则。

成本我这边测下来确实有优势。OpenRouter 用量页会显示输入输出 token 和花费。同样一次摘要，换底座后费用低于原先国外模型，具体数字取决于长度和模型。有报道提到中国模型在 OpenRouter 上份额上行，也提到成本优势。便宜只是表面优势。对企业来说，切换模型最怕的是出了问题找不到人、数据不能出域、合规材料补不齐，成本只是其次。

一周后看工作流，不看口号。这一周里，我把同一个任务接到一个小流程，输入新闻，输出三条要点，再自动保存失败样本。这个流程不复杂，但已经能看出早期项目的估值逻辑。只做“我能调 Kimi、DeepSeek、Qwen”的项目，我不投，因为门槛太低，别人下周就能抄。能把未授权动作变成日志、权限和证据链的项目，可以认真看。模型是发动机，工作流是整车，数据回流才是油耗记录。

这个创始人我认识，做企业模型切换，团队执行力是关键。谁能把评测集、权限、审计、私有部署、客服响应做成标准件，谁就能接住企业客户。学完这个，下一步可以找一段你业务里的真实文本，把原模型和新模型各跑二十次，只看错误类型和人工修正时间。