英伟达在SC24超算大会上宣布,进一步拓展旗下数据中心产品线,带来GB200 NVL4和H200 NVL PCIe GPU两款产品。
GB200 NVL4是一种单服务器解决方案,扩展了Blackwell架构产品组合。其在单个主板上集成了四个Blackwell GPU和两个Grace CPU,利用NVLink互连技术实现相互间的通信,配有768GB的HBM3E和960GB的LPDDR5X内存,提供了32TB/s的组合内存带宽,拥有卓越的单服务器系统规格,使其成为要求苛刻的 AI 工作负载的强大动力源。
英伟达表示,GB200 NVL4与GH200 NVL4相比,提供了2.2倍的模拟性能、1.8倍的AI训练性能和1.8倍的AI推理性能。该系统的功耗达到5400W,安装了液冷散热系统,从而提供最佳的性能,预计将进入超大规模客户的服务器机架。
NVIDIA H200 NVL PCIe GPU是Hopper系列的最新成员,非常适合拥有数据中心的客户,适配低功耗、风冷式企业机架的设计,并具有灵活的配置,可为每个AI和HPC工作负载提供加速。根据最新的调查显示,大约70%的企业机架的功率为20kW及以下,并采用风冷散热,这使得PCIe GPU变得至关重要。
NVIDIA H200 NVL PCIe GPU为双槽厚度,TDP为600W,低于H200 SXM的700W,同时INT8 Tensor Core算力也相应降低,下降的幅度约为15.6% ,不过仍然支持双路或四路的900GB/s NVLink互联。相比于H100 NVL,新产品的显存是其1.5倍,带宽也达到了1.2倍,并拥有1.7倍的AI推理性能,在HPC应用中性能也高出了30%。
随时查看最新天梯榜