近日,AMD、英特尔、谷歌、微软、博通、思科、Meta、惠普企业等八家科技巨头联合组建了一个新的行业联盟——UALink Promoter Group(简称UALink),直接对抗NVIDIA的NVLink技术

许多人认为英伟达(NVIDIA)在AI系统的主导地位,仅仅是因为他们的GPU或软件。其实在AI和高性能计算(HPC)领域,连接技术才是实现计算加速器芯片之间高效通信的关键。

目前,NVIDIA拥有一系列用于跨多个GPU和系统扩展工作负载的技术,包括芯片间和封装间互连(D2D)、用于服务器或pod中GPU到GPU通信的NVLink、用于pod间扩展的InfiniBand,以及连接到更广泛基础设施的Ethernet。

其中NVLink技术在行业中占据着领导地位,其总线和通信协议广泛用于连接CPU与GPU,以及多个NVIDIA GPU之间的相互连接。

然而,这一局面可能即将改变。例如去年我们就看到了Ultra Ethernet,它使用增强的Ethernet来作为InfiniBand的替代方案。

UALink是什么?

近日,AMD、英特尔、谷歌、微软、博通、思科、Meta、惠普企业等八家科技巨头联合组建了一个新的行业联盟——UALink Promoter Group(简称UALink)。这一联盟的成立标志着这些科技巨头将共同推动AI加速器芯片之间连接组件的发展,直接对抗NVIDIA的NVLink技术。

UALink,即Ultra Accelerator Link,是一项开放的行业标准,旨在连接数据中心内的AI加速器芯片,以满足日益增长的计算密集型工作负载的需求。

与NVLink不同,UALink的目标是提供一个可扩展的、高性能的连接解决方案,支持AI和HPC应用,并允许多达1024个GPU AI加速器的连接,组成一个计算“集群”(pod),意指服务器中的一个或多个机架。

根据UALink推广组的说法,基于包括AMD的Infinity Fabric在内的“开放标准”,UALink 1.0将允许AI加速器所附带的内存之间的直接加载和存储,并且与现有互连规范相比,总体上将提高速度,同时降低数据传输延迟。

行业期待已久

UALink的推出受到了行业的广泛关注。

AMD数据中心解决方案总经理福雷斯特·诺罗德(Forrest Norrod)表示,行业需要一个能够快速推进的开放标准,允许多家公司为整个生态系统增值,而不受任何单一公司的束缚。他还谈到,第一批采用UALink技术的产品“将在未来几年内”上市。

这一技术不仅适用于大型企业,也为行业中的所有人提供了一个在规模和创新方面与NVIDIA竞争的机会。目前,博通公司已经开始使用AMD Infinity Fabric AFL生产UALink交换机。

UALink计划在今年第三季度成立一个官方行业联盟,并向加入该联盟的公司提供UALink 1.0技术。该技术将能够在单个集群中连接多达1024个AI加速器,通过将大量加速器连接在一起,共同完成大规模计算任务。

此外,该组织第四季度还将发布第一轮迭代版本UALink 1.1,提供更高的带宽。

其他行业大佬对UALink也发来贺电:

“博通很荣幸成为UALink联盟的创始成员之一,落实我们对提高大规模AI技术在数据中心的实现这一长期承诺。支持通过生态系统协作来实现具有各种高速低延迟解决方案的纵向扩展网络至关重要。”——博通副总裁兼数据中心解决方案部总经理Jas Tremblay 

“随着AI工作负载的规模和范围不断增长,超高性能的互连变得越来越重要。我们共同携手,承诺将UALink建设成为一个可扩展的开放解决方案,帮助克服构建AI超级计算机时所面临的一些挑战。”——思科通用硬件部执行副总裁Martin Lund 

“随着我们在超级计算领域进行创新以及对系统的访问量增加,开放标准对惠普十分重要。作为UALink行业联盟的创始成员之一,我们将贡献我们在高性能网络和系统领域的专长,与同行携手合作制定面向下一代超级计算的加速器互连的新开放标准。”——惠普(HPE)高级副总裁兼高性能计算和人工智能基础设施解决方案部总经理Trish Damkroger 

“UALink是人工智能计算发展的一个重要里程碑。英特尔非常荣幸联合牵头这一新技术,贡献我们的专长以建立一个开放、富有活力的AI生态系统。作为这一新联盟的创始成员之一,我们期待通过UALink标准带来新一轮的行业创新,为客户创造价值。该倡议是英特尔对AI连接创新的承诺的延申,包括在超级以太网联盟(Ultra Ethernet Consortium)和其他标准机构承担领导角色。”——英特尔公司高级副总裁兼网络和边缘计算部总经理Sachin Katti 

“在极端的时间内,科技行业用于面对AI和HPC解开的挑战。将GPU等加速器进行互连,需要采取全面的方法来提高效率和性能。在UEC,我们认为UALink通过纵向扩展来解决容器组集群问题的方法与我们自己的横向扩展协议形成互补,我们期待携手合作,共同建立可在未来同时满足这两种需求的,开放的、对生态系统友好的、全行业解决方案。”——超级以太网联盟主席J Metz博士 

NVLink不好撼动啊

NVIDIA作为全球最大的AI加速器生产商,占据了约80%至95%的市场份额。其NVLink技术以其高效的连接性能和广泛的应用基础,在行业中具有显著的竞争优势。

此前,NVIDIA第一财季财报显示,公司期内实现营收260.44亿美元,同比上涨262%,远高于市场预期的247亿美元。数据中心业务营收为226亿美元,与上年同期相比增长427%。这些数据证明,NVIDIA拥有强大的实力和影响力,所以也有不与其他公司合作的底气。

然而,UALink的成立可能会对NVIDIA的市场地位构成挑战。

截至5月30日,NVIDIA股价收于每股1105.00美元,跌3.77%,总市值2.72万亿美元。股价的本次下跌或是收到了UALink组织成立的部分影响,此外有消息称,美国政府已放缓向NVIDIA和AMD等芯片制造商发放对中东国家大规模出口AI加速器的许可证,或将使NVIDIA在中东市场的扩张受阻。

值得注意的是,除了NVIDIA的缺席,和谷歌、微软并列全球三大云服务巨头之一的亚马逊也尚未加入UALink联盟。分析指出,AWS作为云服务提供商,可能仍在评估UALink对其业务的潜在影响。

巨头为何结盟?有利益就有动力

研究机构Gartner预测,由于企业应用需求的增长,对AI处理器的需求将推动2024年全球AI芯片的收入增长33%,达到712亿美元,其中数据中心产品将贡献29.6%的收入。到2028年,数据中心产品的收入预计将增加到330亿美元。

UALink联盟的成立为AI加速器领域的连接技术带来了新的竞争和发展机遇。作为NVIDIA的竞争对手,AMD和英特尔毫无疑问将从UALink的成立中收益颇丰。此外微软、Meta和谷歌也将从中获益,这三家公司已累计花费了数十亿美元来购买NVIDIA的GPU,以支持自己的云服务并训练AI模型。

谷歌有用于训练和运行AI模型的定制芯片——TPU和Axion。亚马逊拥有几个AI芯片家族。微软去年也加入了这场竞争,推出了Maia和Cobalt。而Meta则在不断完善自己的加速器产品线。

尽管NVIDIA目前在市场上占据主导地位,但开放的UALink标准可能会吸引更多的行业参与者。据报道,微软及其密切合作伙伴OpenAI计划在超级计算机上投资1000亿美元,用于训练配备未来版本的Cobalt和Maia芯片的AI模型。而这些芯片需要某种方式连接,也许这就会用到UALink。

责编:Luffy
阅读全文,请先
您可能感兴趣
作为全面计算解决方案(Total Compute Solutions, TCS)的直接继任者,Arm终端CSS包括最新的Armv9.2 CPU、Arm Immortalis GPU、基于3纳米工艺生产就绪的CPU和GPU物理实现、CoreLink系统互连和系统内存管理单元(SMMU)。此外,Arm还同步推出了包含KleidiAI和KleidiCV的Arm Kleidi软件库,助力软件开发者无缝取得 Arm CPU 上的最佳性能。
芯原从2016年就开始做AI相关的IP了,到现在采用其NPU IP的芯片出货量也突破了1亿颗。芯原的AI相关IP及其生态则覆盖从云到端,这个生态大致上是这样的...
在手机芯片架构上,Arm可以说卡着全球科技巨头的“脖子”,但要想在PC市场复制这样的垄断优势似乎很难实现。对于Arm计划在未来五年内占据超过50%的Windows PC市场份额,我们还是持谨慎乐观的态度。
有苹果M4、骁龙X Elite这样的高手在PC处理器市场晃荡,酷睿Ultra的确压力山大。Intel公开了今年末、明年初要上市的Lunar Lake处理器的更多架构细节,一起来看看...
Arm将其所有最新CPU设计都转向3nm工艺技术,并对Cortex-X925和Cortex-A725内核进行改进,表明其战略重点是优化现有架构,确保新设备在处理苛刻要求的应用程序的同时,能够大幅改进效率和性能,为更强大、更高效、更智能的设备以及未来的AI时代铺平道路。
2023年,设计IP收入达到70.4亿美元,license授权费增长14%,royalty版税下降6%。版税收入的下降,反映了全球芯片销售额的下降,有线接口IP仍在推动设计IP整体的增长,2023年增长率高达16%,远超其他类别。
AONZ66412 XSPairFET™ 占地面积紧凑,可简化 PCB板内设计,有助于提高功率密度,同时满足高效Type C应用性能需求。
随着低轨卫星服务全球用户渗透率持续上升,驱动全球卫星零组件供应商陆续切入星链(Starlink)与一网(OneWeb)两家主要卫星大厂供应体系,预估2021~2025年全球卫星市场产值从2830亿提升至3570亿美元,年复合成长率(CAGR)2.6%。
“成电协·会员行”专题内容团队今天走进致力成为国内一流的创新型安全用电管理专家方案提供商的优秀企业——成都博高电管家科技有限公司。
江波龙巴西子公司Zilia(智忆巴西)已经开始封装生产江波龙存储产线。与此同时,智忆巴西公布了6.5亿雷亚尔(约8.59亿人民币)的投资计划。
大模型知识库凭借着落地速度快、上层应用场景丰富、成本&算力可控等优势,已经成为企业优先考虑以及选择比较多的能力场景。今天将邀请行业专家,带来客户服务场景下大模型和知识库的联合应用,分享过往的落地经验。
今日光电     有人说,20世纪是电的世纪,21世纪是光的世纪;知光解电,再小的个体都可以被赋能。追光逐电,光赢未来...欢迎来到今日光电!----追光逐电 光赢未来----来源:通信百科申明:感谢
2024慕尼黑上海电子展将在2024年7月8日-10日在上海新国际博览中心举办。ADI也将参加本次展会,全方位展示在汽车、工业、仪器仪表以及电源等领域的系统级解决方案,同期还有精彩主题演讲,与专家面对
最近,韩国多家半导体厂商启动了化合物功率半导体技术发展计划,三星、SK Siltron及DB HiTek等多家企业正积极参与其中,重点发展GaN技术,打造韩国化合物功率半导体生态系统。6月28日,据多
光波导可以用在很多领域,VR眼睛、光纤分路器等等,而采用PECVD是一种常用且容易控制参数的工艺手段。PECVD是利用辉光放电产生的非平衡等离子体激活反应气体,使之电离,从而获得离子、原子和大量的活性
点击上方蓝字谈思实验室获取更多汽车网络安全资讯一、应用试点的申报和遴选过程是怎样的?申报流程。应用试点工作以城市为主体自愿申报,有意愿参加应用试点的城市,按照《关于开展智能网联汽车“车路云一体化”应用
前段时间,网上出现了一条新闻,成功吸引了我的注意。新闻标题如下:堡垒基站?这是什么东东?以前没听说过啊!本着好奇心,我仔细阅读了这条新闻,并搜寻了相关资料,终于搞明白了这个新名词的来龙去脉。接下来,我
点击上方蓝字谈思实验室获取更多汽车网络安全资讯作为汽车网络安全产业发展的观察者、见证者及记录者,我们谈思将和同仁们一起为汽车网络安全落地献智献策,探讨智能汽车行业的新方向,共同拓展汽车网络安全产业新机
来源:中国传感器与物联网产业联盟编辑:感知芯视界 Link传感器产业国际化已成趋势,中国的传感器产业迈向全球价值链也是不争的事实。欧洲作为全球传感器技术创新策源地,积累了大量领先的传感技术,培育了博世
今日光电     有人说,20世纪是电的世纪,21世纪是光的世纪;知光解电,再小的个体都可以被赋能。追光逐电,光赢未来...欢迎来到今日光电!----追光逐电 光赢未来----一,引言:     AO