6月11日 信息,前几天华为 透露昇腾芯片正在以一年一代、算力翻倍的速度演进,崭新一代昇腾950DT芯片将于8月份正式上线华为云平台 。

昇腾950系列是上一年9月份的全衔接大会上公布的新一代昇腾平台的首代产品,实际上有昇腾950PR和昇腾950DT两款产品构成,二者 使用的 解决器核心是一样的,但搭配的内存系统不同,针对的市场也是不同的 。

依据华为的说法,昇腾950PR采纳的是昇腾950核心+HiBL 1.0内存,重要面向推理Prefill阶段和推举业务场景,相比高性能、高价格的HBM3e/4e, 能够大大减低推理Prefill阶段和推举业务的投资 。

昇腾950DT更 重视推理Decode阶段和训练场景,因为推理Decode阶段和训练对互联带宽和访存带宽要求高,华为开发了HiZQ 2.0,使内存容量达到144GB,内存 拜访带宽达到4TB/s 。同时把互联带宽 晋升到了2TB/s 。

华为目前又把昇腾950的架构白皮书公布了,里面有更 详尽的架构细节,故意思的是昇腾950PR、DT下面还各有一个低容量版本,从目前128GB、144GB削减到了112GB、96GB,但带宽没有减低,应该是考量到不同场景下的 高下配 。

具体的架构 能够看看这个白皮书的介绍,随着昇腾950DT 将来2个月的部署上线,144GB高速内存、4TB/s带宽及MXFP4带来的4倍性能 晋升有望推进国产大模型进一步 晋升 。

昇腾950系列基于华为自研的第三代达芬奇(DaVinci)架构,构建了灵便、多样且 壮大的AI算力底座 。

该架构全面 支撑 TF32、FP16、BF16、FP8、MXFP8、HiF8、INT8及MXFP4 等多种精度 格局, 能够精准适配不同场景的模型需要 。

通过 支撑SIMD/SIMT 混合编程模式,并装备大容量L2 Cache 与超高片上访存带宽,昇腾 950 能够最大化 开释算力潜能,卓著 晋升计算效率 。

除卓越的AI算力外,昇腾950还集成了 壮大的通用计算与多媒体 解决 威力：

通用CPU：集成华为自研的 Linx816 CPU 核心, 支撑物理双线程技术,提供强劲的通用逻辑 解决 威力 。

媒体 解决：内置DVPP(数字视觉预 解决)子系统,提供硬件级的图像预 解决、编解码加快 威力 。

安全引擎：搭载专用安全算法引擎,确保数据 解决的全链路安全 。

昇腾950具备业界率先的 IO 扩充 威力,整芯片集成72 Lane HiLink SerDes,划分为18个X4端口 。

每个端口 支撑最高达 4×112Gbps的HiLink互联速率,使整芯片对外IO带宽峰值达到 2TB/s 。

在网络 协定栈方面,全面 支撑URMA、UB Memory、PCIe 5.0及UBoE 等多种先进网络 协定,为大规模集群组网提供高吞吐、低延迟的衔接保障 。

新增精度 格局：原生 支撑HiF8、MXFP8、FP8、MXFP4等前沿低精度 格局, 圆满 符合大模型量化需要 。

算力跃升：相比上一代BF16精度,昇腾 950 MXFP4 张量浮点峰值算力 晋升高达4倍 。