在2024年美国加州圣荷西的GTC大会上,GPU巨头英伟达 宣告推出号称当前最 壮大的AI芯片GB200,并 方案于2024年晚期开始正式出货 。

这款芯片采纳了英伟达的最新Blackwell架构,公司 独创人兼CEO黄仁勋 示意, 只管两年前推出的Hopper架构GPU 体现出众,但英伟达仍需求一款更 壮大的GPU来满足市场需求 。

英伟达遵照每两年更新一次GPU架构的策略,以卓著 晋升AI芯片的性能 。继2022年公布的基于Hopper架构的H100 AI芯片之后,英伟达 接续引领 寰球AI市场 。

现在,搭载Blackwell架构的新AI芯片性能将更加 壮大,尤其是在 解决AI 使命方面,该架构得名于数学家David Harold Blackwell 。

黄仁勋 透露,Blackwell架构的AI运算性能在FP8和NEWFP6上可达到20 petaflops,是前一代Hopper架构的8 petaflops性能的2.5倍 。

在NEWFP4上,性能更是达到了40 petaflops,是Hopper架构的5倍 。依据不同 设施配置的内存容量和带宽,实际性能可能还会更高 。这种额外的 解决 威力将使人工智能企业 能够训练更大、更复杂的模型 。

采纳台积电4纳米制程技术的Blackwell架构GPU体积 宏大,集成了两个独立创造的裸晶(Die),共有2,080亿个晶体管,并通过NVLink 5.0接口衔接 。

英伟达 使用每秒10 TB传输速度的NVLink 5.0来衔接两块裸晶,官方称该接口为NV-HBI 。Blackwell complex的NVLink 5.0接口提供的带宽高达每秒1.8 TB,是前代Hopper架构GPU上NVLink 4.0接口速度的两倍 。

黄仁勋进一步指出,新推出的GB200 AI芯片包括两个Blackwell GPU和一个基于Arm架构的Grace CPU 。其推理模型性能比H100 晋升了30倍,同时成本和能耗减低到原来的1/25 。

针对有大型需求的客户,英伟达提供 完全的服务器产品,如GB200 NVL72服务器,装备了36个CPU和72个Blackwell架构GPU,以及一套 完全的水冷散热 方案,可实现高达720 petaflops的AI训练性能或1,440 petaflops的推理性能 。服务器内部 使用的电缆总长度接近2英里,包括5,000条独立电缆 。

当前,亚马逊的AWS已 方案 洽购由2万片GB200芯片构成的服务器集群, 能够部署 占有27兆参数的模型 。除了亚马逊的AWS之外,DELL、Alphabet、Meta、微软、OpenAI、Oracle和TESLA等也成为了Blackwell系列芯片的采纳者 。