Sohu Transformer 推理ASIC全球首款专为Transformer打造的ASIC芯片,将注意力机制烧录进硅片,单服务器推理吞吐超50万tokens/秒。AI芯片大模型推理服务器推理AI推理加速Transformer推理ASIC芯片注意力机制硬件化高吞吐推理
Sohu 机架级推理系统围绕Sohu芯片协同设计整机架推理系统,覆盖芯片、封装、互连与软件栈,面向万亿参数MoE与长上下文场景的大规模推理部署。AI芯片万亿参数MoE推理长上下文推理大规模推理部署机架级推理系统MoE大规模推理长上下文推理芯片软件栈协同