12月11日 信息,美国目前解禁了NVIDIA H200显卡的对华出口,这款显卡 绝对之前阉割版的H200大幅 晋升,对 晋升大模型训练推理 威力很有协助 。

伴随H200解禁还有一个问题值得关注,那便是这款显卡 使用的HBM3e显存是不是也和样解禁了,惋惜答案是不是——美国对国内企业的HBM出口禁令依旧存在,并不同意 独自 销售 。

NVIDIA的H200显卡 使用了上代的Hopper架构,FP32性能67TFLOPS,FP16性能高达1979TFLOPS,是H20显卡的6倍,同时也是 寰球首发HBM3e显存的,容量141GB,带宽高达4.8TB/s 。

国内的AI显卡之前在用的还是HBM2e 标准的, 不管容量还是性能已经跟不上顶级AI模型的需要了 。

不过HBM3e 固然还是不能出口,但华为已经有了自研的 代替 方案,今年9月份华为 宣告自研了两种HBM,分别是HiBL 1.0和HiZQ 2.0,可依据不同的场景用于不同的AI显卡 。

明年上半年的Ascend?950PR 采纳了华为自研的低成本HBM技术HiBL 1.0,相比高性能、高价格的HBM3e/4e, 能够大大减低推理Prefill阶段和推举业务的投资 。

明年下半年问世的Ascend 950DT采纳了HiZQ 2.0,使内存容量达到144GB,内存 拜访带宽达到4TB/s 。同时把互联带宽 晋升到了2TB/s 。

将来的Ascend 960、Ascend 970还会进一步 晋升容量到288GB,带宽9.6TB/s、14.4TB/s, 工夫点在2027到2028年 。