英伟达B300即将登场:288GB HBM3E,性能提升50%,TDP 1400W

图片
12月28日消息,虽然英伟达(NVIDIA)新的B200系列处理器推出的过程中出现了良率、发热等方面的问题,但据外媒SemiAnalysis报导,英伟达新一代的B300系列处理器也即将登场,性能将提升50%。
据介绍,B300系列设计经过大幅调整,将采用台积电4NP制程,其运算性能将比B200系列高出50%,但TDP需要提升至1400瓦,相比GB200仅高出200瓦。B300预期在B200系列推出后约半年上市。
B300的第二个升级是采用12层HBM3E內存堆叠,提供288 GB內存与8 TB/s频宽。这将显著加快训练与推论速度,将推理成本减少最多达三倍,因为B300可处理更大批次规模,支持更长的序列长度,同时解决使用者互动中的延迟问题。
除了运算性能与HBM內存的提升,B300 系列还可能采用英伟达的800G ConnectX-8 NIC,与目前的400G ConnectX-7相比频宽增加一倍,PCIe信道数由32个增至48个,为新服务器带来显著的扩充频宽改善。
另一项重要改进在于英伟达供应链策略。与B200和GB200系列不同,B300和GB300将不再尝试销售整个参考主板或整个服务器POD。相反,英伟达将专注于提供SXM Puck模块、Grace CPU和Axiado主机管理控制器(HMC)上销售B300。这允许更多公司参与Blackwell供应链,让基于Blackwell的设备更容易取得。
随着B300和GB300的推出,英伟达将给予超级扩充厂商与OEM厂商更大自由度来设计基于Blackwell构架的机器,这可能影响其定价与性能。
编辑:芯智讯-林子