物界前沿 · 资讯情报卡(IT之家 · 2026/11/21)
律师用12张二手V100搭建AI集群运行DeepSeek
核心事实
- 一名律师在Reddit发帖,用12张二手英伟达V100显卡搭建私人AI服务器。
- 整套硬件采购价约9450美元,按现汇率约合63239元人民币。
- 该集群本地运行DeepSeek-V4.1-Flash,最高吞吐量达每秒184个词元。
- 系统采用3阶段流水线并行、每阶段4卡张量并行的结构,并使用4-bit NVFP4量化。
- 单请求场景下,代码生成速度比4台DGX Spark组合快约15%至45%。
关键数据
约9450美元硬件采购价
每秒184个词元最高吞吐量
约2100W峰值功耗
快约15%至45%代码生成速度优势
物界观察
二手V100集群以约三台DGX Spark一半的成本,在单请求场景跑出更高吞吐,说明旧卡加量化与并行策略仍有性价比。但2100W功耗和噪音把它挡在办公环境之外,这条路更适合有场地和电力的技术型用户,而非普通消费者。
来源:IT之家原文 ↗
物界前沿