NVIDIA单卡集成四颗GPU+两颗CPU:总内存1.7TB、功耗达5400W!

硬件闲聊下 2024-11-22 09:16:38

SuperComputer 2024超算大会上,NVIDIA公布了一系列新产品、新技术,其中最亮眼的当属“GB200 NVL4”计算平台,也是其SuperChip超级芯片家族的一员。

这是一套单服务器解决方案,在一块不大的板子上,集成了四颗Blackwell GB200 GPU芯片、两颗Grace CPU芯片,彼此通过NVLink总线高速互联。

四颗Blackwell共拥有768GB HBM3内存,合计带宽32TB/s,两颗Grace GPU则有960GB LPDDR5X内存。

二者合计,就是恐怖的1.7TB!

该方案适合HPC、AI混合负载应用,号称对比上代GH200 NVL4,训练和图里性能高1.8倍,模拟性能高2.2倍。

当然代价就是极高的功耗,总计不可思议的5400W——一个小时5.4度电。

如果不需要 这么彪悍的方案,NVIDIA也早就提供了两颗Blackwell GB200 GPU芯片、一颗Grace GPU芯片的版本,规模减半,当然功耗也要2700W。

0 阅读:1