4 张 9 年前 Tesla V100 组集群，AI 推理跑赢 2 台 DGX Spark：有哪些关键信息？

YouTube 频道 Jun Yamog 于 10 月 12 日发布测试视频。

测试把 4 张 Tesla V100 装在 NVLink 载板上运行。

长提示处理中，该集群比 2 台 DGX Spark 快 40%。

长提示处理中，该集群比 M5 Ultra 快 230%。

短提示生成中，4 张 V100 达到 100.6 tok/s，比 DGX Spark 快 121%。

物界前沿 · 资讯情报卡（IT之家 · 2026/10/13）

4 张 9 年前 Tesla V100 组集群，AI 推理跑赢 2 台 DGX Spark

核心事实

关键数据

40%长提示处理较 DGX Spark 提速

230%长提示处理较 M5 Ultra 提速

100.6 tok/s短提示 Token 生成速度

121%短提示生成较 DGX Spark 提速

物界观察

老卡靠 NVLink 集群仍能在推理吞吐上压制新设备，说明互联带宽和软件栈比单卡代际更关键。对预算有限的团队，二手 V100 集群是短期降本选项，但功耗与生态支持是隐性成本。苹果设备差距大，软件优化不足是明显信号。