嵌入式AI的壁垒不在算法,在迭代
刚看到 No Starch 把《Embedded AI》第九章放开免费下载了,讲 sensor machine learning,大意是教你把模型从云端挪到 MCU 上,跑在传感器旁边。说起来是个细分方向,但我最近在看的几个项目都绕不开它。
这行的门槛,我觉得多数人看错了。算法精度、模型压缩,这些是面子;真正卡脖子的是工程化和迭代机制。举个例子。
硬件侧这两年确实在加速,ESP32-S3、MAX78000 这类带 AI 加速的 MCU,一个核专门跑 CNN,响应做到毫秒级,功耗也压得住。场景也是真实的,消费电子、工业自动化、穿戴设备都吃这一套。问题是出货之后。
模型一旦固化进设备,每次更新都要过一遍完整的认证和验证链路。云端大模型今天一个版本明天一个版本,端侧这边设备铺出去一万台,想调个参,OTA 要走合规、认证、现场验证,时间比重新训练还长。我之前聊 Anthropic 算力锁定的时候说过,AI 行业变化太快,任何形式的锁死都是风险。端侧模型焊在硬件里,本质是同一种风险,只是换了层皮。
所以看嵌入式 AI 团队,我不太盯着论文精度,先问三件事:工具链是自研还是拼的,OTA 链路跑没跑通,算法和硬件是不是一个团队。三条都站得住,才有资格谈估值。单靠一块开发板加一个模型,讲不出壁垒。
本文编译自 Hacker News,原文:Embedded AI | No Starch Press
版权归原作者所有,本文为基于公开报道的编译与独立分析。
物界前沿