
从WAIC 2026看AI Agent制造化:当软件公司开始算良率
我注意到一个有意思的细节,今年WAIC(世界人工智能大会)上,好几个做Agent的厂商在展台放的不是聊天框,而是堆垛机、货架和伺服电机。配图里那一排堆垛机夹着黑零件在货架间移动,乍一看是汽车工厂的AGV,再一看铭牌,写的却是“AI Agent调度系统”。
这不是某个展台的噱头。整个行业的风向变了——AI正在从云端API变成车间里的物理设备。过去两年大家讨论Agent,谈的是多轮对话、工具调用、RAG管道。今年谈的是部署形态、硬件绑定、运维成本。说白了,Agent正在变成一门制造业。
硬件形态的收敛:从“模型即服务”到“机柜即产品”
前几年做Agent,方案很统一:云端部署大模型,调API,前端做个聊天界面。但到了2026年,各家都在推“预集成硬件”的版本。我在展会上看到了三种主流形态:
1. 边缘盒子:一个巴掌大的工控机,装8B-14B模型,走本地推理,主要用于工厂产线、零售门店
2. 推理一体机:4U机架式服务器,带独立NPU卡,支持70B以上模型,面向企业私有化部署
3. Agent调度机柜:整柜交付,内置网络、存储、推理集群,预装Agent编排平台,支持数百个Agent并发
这些产品不是简单的“软件预装”,而是软硬件一起做。主板走线、散热风道、电源冗余,这些过去软件公司完全不碰的东西,现在成了Agent产品经理的必修课。
有一家厂商的展台技术员给我看了他们的BOM表(物料清单):64GB DDR5内存条 × 4,一块定制加速卡,两个2.5寸SSD,一个7260W电源模块,外加一个定制铝合金外壳。他说这批货要跑两个月,因为加速卡的散热片开模等了六周。
我问他为什么不直接买成品服务器,他回答:“成品服务器做不了量产,我们一个月要交付2000台,戴尔和惠普的交期是12周,我们自己焊线能压到4周。”
这就是制造业逻辑——交期和良率比精度更重要。
成本结构之变:算力是原料,不是产品
Agent变成制造业后,最直观的变化是成本结构。过去做AI应用,主要成本是API调用费或者GPU租赁费,属于运营支出(OPEX)。现在硬件落地后,变成了资本支出(CAPEX)加运营支出。
以一套50个Agent并发的中等规模系统为例,我估算了一下:
| 项目 | 模式 | 成本构成 |
|---|---|---|
| 云端Agent | 纯API | 80% GPU算力租赁 + 15% 网络带宽 + 5% 其他 |
| 本地Agent机柜 | 硬件+软件 | 60% 硬件采购 + 20% 运维电费 + 15% 软件授权 + 5% 物理空间 |
这个表格可以看出,硬件成本占比从零跳到六成,意味着定价逻辑从“按token收费”变成了“按机柜收费”。
展会上有一家做Agent运维平台的厂商,在宣传册上直接印了计算公式:
TCO = (硬件成本 + 电费 × 5年 + 运维人工 × 5年 + 软件授权费) / (总推理次数 × 5年)
他们甚至帮客户算好了每百万token的成本,单位是“元/百万token”。我翻了翻,最便宜的方案能做到0.8元/百万token,最贵的接近4元。这个数字和云端API价格差不多,但胜在数据不出厂区,延迟可控。
产线爬坡:从手搓样机到流水线
做制造业的关键是复制。一个Agent产品从原型到量产,中间隔着一条产线。
我注意到一个展商的展板上写着“第3代Agent交付质量门”,列出了他们的量产流程:
1. 整机装配:SMT贴片 → 手动插针 → 机箱组装 → 锁螺丝
2. 系统烧录:U盘启动进入PE系统 → 运行deploy.sh → 自动分区、刷BIOS、装驱动
3. 压力测试:跑24小时stress-ng同时压CPU和内存,功耗用powerstat记录,温度超过85°C自动报警
4. 模型部署:拷贝预量化模型到/opt/models,执行./start_inference.sh,测第一个对话的TTFT(首token延迟),要求<200ms
5. 出厂质检:用自动化脚本跑100个Agent并发测试,成功率>99.5%算过
第六步没写,但技术员告诉我,他们还会抽检5%的机器拆开看焊点,因为有一批货的电源模块虚焊,导致整机在客户现场蓝屏,返厂率到了3%。这个数字放在消费电子行业算高的,但放在AI硬件里,同行都说“正常,后面会降”。
真正让我觉得有意思的是,他们把“Agent对话成功率”当作和“焊点良率”一样的指标来管。软件bug和硬件瑕疵一起归到同一个质量看板,排优先级修。这在过去软件公司里几乎不可能——软件走CI/CD,硬件走产线,两套体系。现在因为Agent打包出货,软硬件一块修,生产线上的工程师要懂模型量化,算法工程师要看SMT贴片机参数。
一句总结
AI Agent制造业化的本质,是算力基础设施从资本品变成运营品,谁先跑通产线谁就占住坑位,别管什么“模型能力”的虚名,良率上去了才是真本事。
物界前沿