IBM 的大型机赌注：一场 48 小时 Hackathon 里没人会选的方案

上周在多伦多一场企业级 AI Hackathon，我和队友在凌晨三点争论推理基础设施选型。同组有个前 IBM 工程师，他坚持用 z/OS 上的 Watson 推理服务，说“稳定”。我们看了两眼 API 文档——四个小时都没调通环境。最后用三行 FastAPI 加上 Llama.cpp 搞定 demo，赢了奖品。IBM 大型机？那东西在 48 小时的生命周期里，连个 MVP 都跑不出来。

这次财报恰好印证了我的直觉。Q2 营收 172 亿美元，毛利率 58%，但增速远低于华尔街预期。IBM 高管在电话会上反复强调“大型机在 AI 场景下依然有独特价值”，我翻译一下：他们押注的是 z16 和 Telum 处理器，认为内存带宽和加密加速能让大型机成为 AI 推理的“安全岛”。但问题是，这个岛离大陆太远了。

对比：大型机 vs. GPU 集群的 AI 路线

看两个方案的高频词：

维度	IBM 大型机路线	云原生 GPU 路线
工具链	COBOL/汇编 + 专有 SDK	PyTorch/TensorFlow + vLLM
迭代速度	季度级固件更新	小时级模型热更新
成本	百万级入门 + 年费	按需弹性 GPU 实例
生态	金融机构合规铁粉	整个 Hugging Face 社区

上周在 z/OS 上跑一个简单的 BERT 推理，配置时间超过 10 小时，而同样任务在 A100 上 10 分钟上线。IBM 的卖点是“不用把数据搬到云端”，但现实是，AI 工作负载天然需要频繁的数据搬运和模型联调。大型机的封闭生态，让每一次实验都像在玻璃箱里操作——安全，但慢到窒息。

技术可行性拆解：IBM 的“AI 使能”到底能做什么

他们宣传的“AI 推理加速”其实有三个具体场景：欺诈检测、实时风控、合规审核。这些确实是金融客户的核心痛点在 48 小时的 Hackathon 里，我试过用 IBM 的 z/OS 机器学习推理 API——它只能跑 ONNX 格式的模型，且版本锁定在 1.8 以下。而当前主流模型导出 ONNX 时基本要求 1.12+。这意味着所有最新模型（Llama 3、Qwen2）都无法直接部署，必须自己写算子转换层。

这种技术债，大银行可以花三个月去消化，但创业公司和内部创新团队不会等。今年 Q2 的云服务收入增速已经放缓到 12%，说明传统客户迁移到 AWS/Azure 的节奏在加快。IBM 的“混合云”故事越来越像在给大型机找续命药。

趋势预测：大型机将退守到“最后 10%”的场景

我认为未来三年会看到明显的分化：

• 高吞吐、低延迟的合规推理（反洗钱、交易监控）会继续留在 IBM 大型机上，因为监管要求审计日志和硬件隔离。
• 但所有需要模型迭代、多模态理解、A/B 测试的 AI 场景，都会迁移到 GPU 集群或边缘设备。

IBM 的大型机业务不会短期崩盘，但它会像今天的 COBOL 系统一样——维护成本高，人才稀缺，创新停滞。如果你在 2025 年办一场 AI Hackathon，唯一可能用大型机方案的人，大概是那个还在用 Fortran 写神经网络的老工程师。而我们，会继续用 48 小时出个 demo，然后去拿下一场奖金。

原文链接：https://www.ithome.com/0/980/602.htm