大模型减肥，比增肌更赚钱

做投资久了，我越来越觉得AI模型这件事，跟卖车有点像。你花大几百万买辆保时捷911，性能炸裂，但平时上下班堵车，一脚油门下去就踩刹车，大部分马力根本没用到。现在有人跟你说，我把保时捷的发动机缩到四分之一，百公里加速只慢0.5秒，价格只要十分之一，你买不买？

Inkling-Small 就是这个逻辑。它把“美国最强开源模型”的规模砍到约四分之一，但性能宣称“相近”。我不关心它是不是真能追平，我关心的是：这个“缩水版”的商业模式，可能比原版更性感。

---

性能缩水20%，成本缩水80%

先看几个数字。原版Inkling-Large，据公开信息，训练成本至少几千万美元，单次推理需要8块A100，每秒钟烧掉好几块钱。而Inkling-Small，据官方说法，模型参数只有1/4，推理速度提升了3倍，内存占用降低了70%。

“约1/4规模提供相近AI性能”——这组数据意味着什么？

对于绝大多数企业级应用，比如客服、代码补全、文档摘要，用户根本分不清哪个模型生成的。但如果是部署在1000台服务器上，每天跑几百万次推理，那成本差距就是几百万美元一年。我见过太多创始人，拿着Benchmark上的0.5%差距来跟我说“我们的模型更好”，但实际客户只关心每百万token多少钱。

所以我的判断是：Inkling-Small 切中的不是“性能天花板”，而是“成本地板”。 这个市场可能比追逐SOTA（最先进模型）的市场大10倍。

---

开源模型的“估值陷阱”与“生态红利”

但问题来了，Inkling是开源的。开源模型怎么赚钱？这是每个投资人绕不开的拷问。

我看了不少类似的项目，比如Mistral、Llama、Falcon。它们的估值逻辑分两种：一种是像Red Hat那样，靠企业版服务收费，年费几十万；另一种是像Hugging Face那样，做平台，抽水。但Mistral至今没盈利，Meta的Llama干脆免费，图的是生态控制。

Inkling-Small 的操盘方，这次聪明了一点。他们不是把模型往GitHub一扔就完事，而是同时发布了针对边缘设备的量化版本，以及一个API接口——大模型免费，小模型收费。你可以理解为，开源是钩子，小模型才是鱼饵。

具体来看：

• 本地部署版：免费，但需要你自己搞定硬件和运维
• 云API版：按token收费，但价格比原版便宜60%
• 企业定制版：收费，提供微调、数据清洗、私有化部署

这套组合拳，避开了开源圈“白嫖”的魔咒，把付费意愿最强的企业客户筛了出来。我猜，Inkling-Small 背后的团队，很可能已经算清楚了一笔账：小模型的客户生命周期价值（LTV）是原版的3倍，因为客户一旦部署，迁移成本极高。

---

谁在买单？边缘AI的落地逻辑

这张图，日式房间角落的静物。我第一反应是“边缘”——角落里的东西，往往被忽视，但恰恰是生活最真实的部分。AI落地也一样，大模型在云端跑得欢，但真正有大量需求的反而是边缘设备：手机、摄像头、车载、机器人、物联网。

Inkling-Small 的模型大小，刚好能塞进一块手机芯片或者一个树莓派。这意味着什么？意味着你可以让一个扫地机器人实时理解“把沙发底下的袜子捡起来”，而不是先把图片传回云端等两秒再返回指令。低延迟、数据隐私、离线可用，这三个痛点，任何一个企业客户都愿意多付一倍的钱。

我看了几个潜在场景：

• 工业质检：在产线边缘部署，不用把每张图片传到云端，减少带宽成本
• 智能家居：本地语音识别，不依赖云，响应更快，隐私更安全
• 车载AI：语音助手、路况分析，离线也能用

这些场景的共性：对实时性要求高，对绝对性能不敏感，对成本极度敏感。Inkling-Small 简直是量身定做。

但我也得说句实话，这还不是一个完美的投资标的。竞争壁垒是什么？预训练数据？架构创新？还是社区生态？目前看，Inkling-Small 的技术路线和Llama 3.2类似，都是小模型蒸馏大模型，算不上独创。真正能形成壁垒的，可能是它配套的微调工具链和行业数据集——如果它能积累几万个垂直场景的fine-tune权重，别人就很难复制。

估值逻辑上，我倾向于按PS（市销率）来算，而不是按PS（市梦率）。如果它明年能签下100家年付费50万的企业客户，那就是5000万营收，给个10倍PS，5亿美金估值，合理。但如果还在烧钱堆预训练，没商业化，那对不起，我连TS（投资意向书）都不会签。

反正我觉得，这个赛道天花板在哪，关键看能不能跑出几个付费标杆客户。