物界前沿 · 资讯情报卡(IT之家 · 2026/11/20)
高通AI200推理加速器启动客户云端评估
核心事实
- 高通联合AI私有云企业Cirrascale,向部分客户开放Dragonfly AI200推理加速器评估。
- 客户可通过云环境测试该芯片在自身AI工作负载上的表现。
- AI200是高通首款机架级AI解决方案,单卡配768GB LPDDR5X内存。
- 该加速器支持PCIe Gen6纵向扩展与RoCE横向扩展。
- 每个140kW液冷ORv3机架装56张卡,总内存43TB,内存带宽0.414 PB/s。
关键数据
768GB LPDDR5X单卡内存
56 卡单机架卡数
43TB单机架总内存
0.414 PB/s单机架内存带宽
物界观察
高通以云评估方式切入推理加速器市场,绕开自建数据中心的重资产路径,先让客户在真实负载上试水。单机架43TB内存与0.414 PB/s带宽瞄准超大模型推理,但能否撬动英伟达生态,取决于软件栈成熟度和客户迁移成本,评估期表现是关键信号。
来源:IT之家原文 ↗
物界前沿