英伟达发布新 AI 硬件:H200 NVL PCIe GPU 和 GB200 NVL4 超级芯片

xxn 阅读:2422 2024-11-19 14:02:12 评论:0

IT之家报道,英伟达在SC24超算大会上发布了两款新的AI硬件产品,分别是H200 NVL PCIe GPU和GB200 NVL4超级芯片。

据英伟达称,大约70%的企业机架只能提供不到20kW的电力,并采用空气冷却。而H200 NVL是一款PCIe AIC形态的低功耗风冷AI计算卡,专为这些环境设计。

▲ 四路NVLink桥接器互联的H200 NVL

H200 NVL采用双槽厚度,其最高TDP功耗从H200 SXM的700W降至600W,各项计算能力略有降低(IT之家注:例如INT8 Tensor Core算力下降约15.6%)。不过,H200 NVL的HBM内存容量和带宽与H200 SXM相同,分别为141GB和4.8TB/s。

此外,H200 NVL PCIe GPU支持双路或四路的每GPU 900GB/s的NVLink桥接器互联。

英伟达表示,H200 NVL的内存容量是先前H100 NVL的1.5倍,带宽增加了1.2倍,AI推理性能提升了1.7倍,并在HPC应用中性能提高了30%。

英伟达还发布了面向单服务器解决方案的GB200 NVL4超级芯片,该芯片结合了2个Grace CPU和4个Blackwell GPU,HBM内存池容量达到1.3TB,相当于2组GB200 Grace Blackwell超级芯片,整体功耗达到5.4kw。

▲ 图片来源:德国媒体Hardwareluxx

相较于上一代GH200 NVL4系统,其中包含了4个Grace CPU和4个Hopper GPU,新的GB200 NVL4具有2.2倍的模拟性能、1.8倍的AI训练性能和1.8倍的AI推理性能。

GB200 NVL4超级芯片计划于2025年下半年上市。

广告声明:本文包含的对外链接仅供参考,点击后可能跳转至其他页面。

声明

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

搜索
排行榜
关注我们

扫一扫关注我们,了解最新精彩内容