首页 |
单机游戏 |
网游游戏 |
软件下载 |
您的位置 >> 南通电脑游戏网首页 >> CPU相关新闻 |
封闭没有前途!Intel打造开放AI生态 誓要虎口夺食 |
(
2024-4-17
)
|
Intel目前举办了Vision 2024年度产业创新大会,卖点不少,号称大幅 超过NVIDIA H100的新一代AI加快器Gaudi 3、品牌崭新 晋级的至强6、AI算力猛增的下一代超低功耗 解决器Lunar Lake,都吸引了不少 眼光 。 不过关于AI开发者、AI产业尤其是企业AI而言,这次大会上还有一件大事: Intel联合很多行业巨头, 发动了开放企业AI平台,推进企业AI创新 利用,同时通过超以太网联盟(UEC)和一系列AI优化以太网解决 方案,推进企业AI高速互连网络创新 。 如今说到大规模AI部署,很多人脑海中会 立即出现两个名字: 一个是OpenAI,大模型和算法的一枝独秀;另一个是NVIDIA,硬件算力和生态的典型代表 。 然而每每说到NVIDIA,以及CUDA为代表的生态圈,其一向以来的 关闭做法颇为人所诟病,被誉为“硅仙人”的芯片开发大神 Jim Keller就向来对NVIDIA的做法极为不满,叱责CUDA不是护城河而是沼泽,NVLink这种私有互连 标准也应该摒弃 。 坦白说,NVIDIA AI不只仅在硬件性能上“遥遥率先”,更大的资本正是 消费十几年 工夫和无数美元砸出来的CUDA生态,成为其“垄断行业”、获利无数的制胜法宝 。 只是时代在 变迁,无论企业还是开发者,都不 指望被 禁锢在一个小圈子里,更 指望在开放共享的世界里 自由前行,这正好给了 其余厂商追赶甚至 超过NVIDIA的大好机会 。 Intel就瞅准这一趋向和需求,联合Anyscale、Articul8、DataStax、Domino、Hugging Face、KX Systems、MariaDB、MinIO、Qdrant、RedHat、Redis、SAP、VMware、Yellowbrick、Zilliz等很多行业 搭档 宣告,将联合 创立企业AI开放平台,助力企业推进AI创新 。 它将为企业AI提供一个从下到上的 完全平台,底层基于Intel 完全 遮蔽云、数据 核心、边缘、PC各个领域的AI算力硬件,也便是XPU理念 。 构筑其上的是 标准化和可 扩充的 根底设施生态、安全牢靠的软件生态、开放便捷的 利用生态,并且全都是对整个行业开放的 。 这一 方案凝聚了全行业的力量,旨在开发开放的、多供给商的AIGC系统,通过RAG(检索 加强生成)技术,提供一流的部署 便捷性、性能和价格 。 关于企业当前正在 标准云 根底设施上运行的大量专有数据源,RAG 能够协助他们通过开放大语言模型进行 性能上的 加强,从而加快AIGC在企业中的 利用 。 在Intel看来, 保持开源开放,并以此撬动开放的AI生态飞速进展,至关主要 。 Intel副总裁、Intel中国软件和先进技术事业部总经理李映在 承受采访时 示意:“传统模式中,几家领导公司组建一个开放联盟,各自有明确分工,更多的是一个 取舍问题 。如今基于AI大模型的 变迁,开放开源第一次和整个行业的技术创新迸发 联合在一同 。现在,开放开源和闭源同时出现,不再是 取舍,而是一个自然演变、进展的过程 。” Intel院士、大数据技术 寰球首席技术官、大数据 综合和人工智能创新院院长戴金权也指出,一个开放的生态, 能够让同 终生态的创新 彼此 增进,在新的 利用场景 能够互通 。 整个行业都在逐步意识到,构建一个AIGC 利用,并不是 只有求一个大模型,一些最先进的系统解决 方案,其实更多的是相当于构建一个AI系统来解决问题 。 在这个企业AI开放平台中,Intel的一个突出重点便是加快构建开放的AI软件生态,通过构建 根底软件为开发者提供 便捷,协助大企业简化和 深刻AI的大规模开发和部署 。 李映指出,在开放AI软件生态方面,关于Intel而言,十分主要的一个点是如何通过软件加快企业AI的进展,如何把企业原来的云架构和 将来基于大模型、数据的AI架构 交融在一同 。 软件 能够在这个过程中起到十分主要的加快作用,而从整个软件堆栈的角度来讲,Intel正是极少数 能够真正在各个层面上通过软件提供优化、提供技术的头部企业之一 。 同时,Intel向来在 竭力推进基于AI的软件创新,最典型的便是oneAPI,下载量已经超过100万次 。 第三便是如何协助开发者 遍及开发效率,其中很主要的一 部分便是Intel开发者云平台 。 它不单 能够让开发者最早接触到最新的至强、Gaudi AI加快器,还能 保障各种开源框架、组件在同一环境中的兼容性,从而 晋升开发效率、优化消费者体验 。 另外十分值得一提的是,Intel也在 踊跃为开源社区 奉献技术、创新和 教训,推进开放 标准 。 比方,PyTorch已逐步成为 标准的AI框架,Intel向来都是PyTorch十分靠前的主要 奉献者,并以高级会员的身份加入了PyTorch基金会 。 除了对PyTorch 本身进行优化,Intel的一些技术创新都投入到了PyTorch开源框架之中,让更多企业和开发者共享,让整个AI软件框架更加开源、开放 。 再 比方openEuler、龙蜥这些开源的中国Linux社区,Intel对其的投入都已经和国际同步,甚至在某些领域率先于国际上 其余一些Linux的 分布和进展 。 最终再来回忆一下Intel本次揭晓的三大算力产品 。 Gaudi 3 AI加快器采纳台积电5nm工艺,装备8个矩阵引擎、64个张量核心、96MB SRAM缓存、1024-bit 128GB HBM2E内存(带宽3.7TB/s),还有16个PCIe 5.0通道、24个2000GbE网络、JPEG/VP9/H.264/H.265解码器 。 功耗有600/900W两个级别,提供OAM兼容夹层卡、通用基板、PCIe 扩充卡三种 状态 。 Gaudi 3相比上代 占有2倍的FP8 AI算力(1835TFlops)、4倍的BF16 AI算力、2倍的网络带宽、1.5倍的内存带宽 。 Intel还 声称,它对照NVIDIA H100 LLM推理性能率先50%、训练 工夫快40-70%,能效率先最多达2.3倍 。 另外,得益于 壮大、便捷的开发工具,开发者 起码 只有转变3行代码,就能将 其余AI 利用移植到Gaudi 3之上 。 崭新的至强6包括两个分支,其中Sierra Forest第二季度公布,堪称至强 解决器历史上最大的一次 改造,首次采纳纯能效核(E核)设计 。 它重点针对效率进行优化, 合适高密度、可 扩充的工作负载,最多288核心288线程 。 依照官方说法,相比第二代至强,Sierra Forest 能够带来2.4倍的能效 晋升,机架密度则 能够 遍及2.7倍 。 Granite Rapids则是传统的纯性能核(P核)设计,重点针对性能优化,适 总计算密集型 利用和高强度的AI负载 。 它新增了对MXFP4数据 格局的软件 支撑, 能够运行700亿参数的Llama 2大模型,对照四代至强能将令牌延迟缩小最多6.5倍 。 代号Lunar Lake的下一代超低功耗酷睿Ultra 解决器,AI算力将超过100TOPS(100万亿次每秒),是现有一代酷睿Ultra Meteor Lake的足足三倍! 其中,单单是NPU单元就 能够提供大概45TOPS的算力,是当前的多达四倍,自己即可满足微软定义下一代AI PC的需求 。 能够说,Intel 占有当前最为完善的AI体系,从底层 遮蔽云端、数据 核心端、边缘端、客户端的XPU硬件算力,到上层的网络 方案、开发工具,再到 宽泛的生态合作,如今又组建了开放的企业AI平台, 能够说万事俱备,在AI训练与他推理、AIGC领域必然会有一番作为 。 |
百度中 封闭没有前途!Intel打造开放AI生态 誓要虎口夺食 相关内容 | |
Google搜索中 封闭没有前途!Intel打造开放AI生态 誓要虎口夺食 相关内容 |
按类别查新闻 | ||||||||||||||||||||||||
|
热点网游推荐 | ||||||||
|
Copyright 2024
www.PC0513.com.cn All Rights Reserved.
|
南通电脑游戏网 网爵电脑版权所有 苏ICP备05016148号-41
|