广告

DPU市场,一片混战

时间:2021-12-30 05:24:38 作者:邵乐峰 阅读:
据IDC统计,全球算力的需求每3.5个月就会翻一倍,远远超过了当前算力的增长速度。在此驱动下,全球计算、存储和网络基础设施也在发生根本转变,一些在通用CPU上不能得到很好处理的复杂工作负载开始转向智能网卡(SmartNIC)和DPU,以此来减轻CPU内核的负担。
广告

市场研究机构Dell’Oro的数据显示,预计到2024年,SmartNIC市场规模将超过6亿美元,占全球以太网适配器市场的23%。而整体控制器和适配器市场将以7%的年复合增长率增长,其中25Gbps和100Gbps的销售将是主要增长驱动力。

CPU不能承受之重

之所以能够取得如此高的增长率,原因在于目前数据中心内部流量(也称横向流量)的年复合增长率都在25%以上,但与此同时,随着SDN的增加,云服务器会在CPU和软件中使用很多SDN功能,使得高达30%的数据中心计算资源被分配用于联网I/O处理云数据。

坦率地说,如果听之任之,这个问题随着时间的推移只会越来越严重。

当前,以几何级数幅度增长的联网端口速度,远超摩尔定律和Dennard缩放比例定律(Dennard’s scaling)的计算周期速度,这种差距的存在使得服务器中所有的CPU资源都将遭到挤占,而无暇顾及应用级处理,降低了CPU利用率。如果是公有云的话,他们需要把这样的资源出售给客户来进行变现。但如果不能出售这些核心内容,云服务商就会赔钱,这是一个非常严峻的问题。

图1 端口速度超过摩尔定律

亚马逊和微软这样的一级云服务提供商在很多年前就意识到了上述问题的严重性,纷纷选择卸载掉服务器的联网功能,并将这部分工作转移到SmartNIC上运行,以便释放出更多的CPU核,优化服务器利用率,降低联网成本。

例如亚马逊收购了一家名为Annapurna的初创企业,专门开发类似的器件和SmartNIC,并在2017年发布了AWS Nitro;微软此前也通过将FPGA集成到SmartNIC上去卸载服务器的联网功能,并实现了数以百万计规模的部署;VMware则宣布将SmartNIC集成到VMware Cloud Foundation中的Project Monterey项目;而阿里云的做法是在其神龙服务器核心组件MOC卡中使用了专用的X-Dragon芯片,统一支持网络、I/O、存储和外设的虚拟化。

电信服务提供商则是另一大具有强劲增长潜力的市场,他们正考虑将SmartNIC从核心网集成到边缘网,为NFV和AI推断等应用提供服务。

不过,并非每一家公司都拥有足够的研发能力和人才储备去部署SmartNIC,因此目前有80%以上的云服务供应商尚未采用SmartNIC。相比之下,二、三级的厂商们就更加需要现成且方便的SmartNIC解决方案——无需自行开发,只需即插即用就可满足数据中心的卸载、存储和计算加速等需求。

数字基础设施中的新物种

2020年10月,英伟达将基于Mellanox的SmartNIC方案命名为数据处理单元(Data Processing Units, DPU),并将CPU、GPU、DPU称为组成“未来计算的三大支柱”。

不过,需要指出的是,从SmartNIC变为DPU并非简单的改改名字。为了在数据中心充分实现应用程序的效率,传输卸载、可编程的数据平面以及用于虚拟交换的硬件卸载等功能是SmartNIC的重要部分,但只是DPU的最基本要求之一。要将SmartNIC提升到DPU的高度,还需要支持更多的功能,比如能够运行控制平面,以及在Linux环境下提供C语言编程等。

说得再直白一些,DPU是面向数据中心的专用处理器,新增了AI、安全、存储和网络等各种加速功能,将成为新一代的重要算力芯片。它能够完成性能敏感且通用的工作任务加速,更好地支撑CPU、GPU的上层业务,成为整个网络的中心节点。

当然,我们还是要佩服黄仁勋的“带货”能力,能让DPU概念一炮而红,吸引业内众多竞争者纷至沓来。从海外的英特尔、博通、英伟达、赛灵思、Marvell、Netronome、Pensando、Fungible、Dream Big Semiconductor,到国内的DPU创企中科驭数、星云智联、大禹智芯、芯启源、云豹智能,每一家企业都在摩拳擦掌,跃跃欲试。

从英伟达公布的DPU产品路线图来看,BlueField-3/3X和BlueField-4将分别于2022年和2023年问世,届时,将可提供400TOPS的AI算力和400Gbps的带宽性能,从而解放GPU,只在单芯片DPU上就可实现网络、存储、安全等关键任务的加速工作。

Marvell今年6月最新推出的OCTEON 10系列DPU,采用了Armv9架构的Neoverse N2 CPU内核和台积电5nm制程工艺,支持最新的PCIe 5.0 I/O与DDR5内存。作为DPU的重要补充,Marvell还为OCTEON 10引入了内部机器学习(ML)引擎。这样,从本质上讲,Marvell正在成为英伟达的直接竞争对手。

英特尔在2021架构日上推出的全新基础设施处理器(IPU) Mount Evans其实也值得一提。按照英特尔的官方说法,IPU是一种可编程网络设备,扩展了英特尔的智能网卡功能,旨在使云和通信服务提供商减少在中央处理器(CPU)方面的开销,并充分释放性能价值。利用IPU,云运营商可以将基础设施任务卸载到IPU上,更大化实现CPU利用率和收益;客户则可以通过一个安全、可编程、稳定的解决方案更好地利用资源,使其能够平衡处理与存储。 

再回到国内。根据Canalys Cloud Channels Analysis预测,到2023年,中国DPU市场规模将达190亿人民币。当然,还有其它分析机构的预测更加乐观,认为中国DPU市场规模预计将在2025年超过37亿美元,约合240亿人民币。

中科驭数算是国内布局较早的一家DPU企业,其DPU基于自主研发的KPU(Kernel Processing Unit)架构。以KPU架构为核心,中科驭数在2019年设计了业界首颗数据库与时序数据处理融合加速芯片,已经成功流片。今年初,该公司又宣布了其下一颗DPU芯片研发计划,功能层面包括完善的L2/ L3/L4层的网络协议处理,可处理高达200G网络带宽数据,预计将于2021年底流片。

另一家DPU芯片企业“芯启源”则在6月宣布完成数亿元Pre-A3轮融资。这是一家针对超大规模电信和企业级的智能网络提供核心芯片和系统的高科技公司,可提供从芯片、板卡、驱动软件和全套云网解决方案产品,已获得了中国移动苏研院的首批智能网卡订单。

成立于2021年3月22日的星云智联专注于数据中心基础互联通信架构和DPU芯片研发,今年4月宣布完成数亿元天使轮融资。其正在研发的DPU将在IAAS和PAAS之间形成独立的CAAS(通信服务层)),实现物理资源的“多虚一”和近乎裸金属性能的“一虚多”,可以简化IAAS,提升资源利用率。

有行业人士表示,未来,用于数据中心的DPU量级将达到和数据中心服务器等量的级别。“每台服务器可能没有GPU,但一定会有一块或者几块DPU/IPU卡,这将是一个千亿量级的市场。”作为数字基础设施中的新物种,火热的DPU赛道未来会走出怎样一波行情,值得期待。

《2021年度中国IC设计调查》开始了!本调查针对中国IC设计公司专业人士进行,包括EDA/IP/IC设计、设计重心与制造工艺、个人发展和工作习惯相关问题四个部分,仅限中国本土IC公司工程师参与,完善信息参与调查将有机会获得最新半导体行业魔法书《观点》! 点击链接参与调查:http://emediasurvey.mikecrm.com/89t6f5q

本文为《国际电子商情》2021年12月刊杂志文章,版权所有,禁止转载。免费杂志订阅申请点击这里

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
邵乐峰
ASPENCORE 中国区首席分析师。
  • VR/AR显示器主要器件OLED、LTPS、OLEDoS、LEDoS的设计 • 与AR(augmented reality)显示器相比,VR(virtual reality)显示器的供应链更加成熟,因为基于TFT驱动线路的LCD或AMOLED显示屏被广泛使用,而且相关的面板厂商已经存在,产能与供应都不是问题。 • AR显示器的主要元器件是微型显示器(micro display)和光学器件(optics)。两者需要组合才能发挥功能。LEDoS(LED on silicon, micro LED)的优势在于高亮度,并足以抵抗环境光的强度,但其彩色化的技术尚未成熟。
  • 神经形态新秀连手催生结合处理器IP的图像感测单芯片 瑞士新创公司SynSense和法国厂商Prophesee正在合作开发一款事件导向图像传感器单芯片,结合Prophesee的Metavision 图像传感器和Synsense的DYNAP-CNN 神经形态处理器。
  • 云端竞速:MLPref最新AI训练跑分结果出炉 微软Azure利用大规模的Nvidia驱动实例,在最新一回合的MLPref人工智能训练性能测试基准跑分展现了世界速度最快的AI云端系统...
  • Gartner发布2021年全球半导体厂商营收排行,三星重返王 Gartner 1月19日发布的报告显示,去年整个半导体市场增长了25.1%,达到5835亿美元,这是销售额首次突破5000亿美元。厂商排名方面,三星超过英特尔,成为顶级芯片销售商……
  • 调涨最高10%,苹果首次接受台积电涨价 苹果为确保自身产能已接受台积电涨价,包下台积电12-15万片4nm产能。目前苹果自研的下一代A16应用处理器已完成设计,采用台积电4nm工艺投片,预计2022年下半年进入量产。
  • 中科院微电子器件与集成技术重点实验室7篇论文入选IED 中科院微电子器件与集成技术重点实验室7篇学术论文入选,研究成果覆盖了阻变存储器、铁电器件存储器、IGZO 随机动态存储器DRAM、器件物理与模型等多项学术前沿领域,这是重点实验室连续8年在IEDM大会上发表论文。
  • 新款iPad Pro 2021成最受欢迎的 由于采用性能相对强大的M1处理器和mini-LED屏幕以及更多的创新,新款iPad Pro 2021已经成为消费者心目中最受欢迎。然而,iPad 2却已经在全球范围内被列入“复古和过时”的名单中。
  • 三星折叠屏手机Galaxy Z Fold 3 目前来看,折叠屏新机作为一种新的生产力工具,逐渐成为高端/平板的一种趋势,有报料称三星的Galaxy Z Fold 3发布时间或为7月,并且会引入新手势操控。

  • 5G基站数破百万,高通助力手机品牌成 1月20日,5G发展迎来又一里程碑——工信部宣布,截至2021年年底,中国5G手机终端连接数达5.18亿户。这相当于自5G牌照发放之日起,平均每天新增入网手机达54万部之多。
  • SXSW多元创新大会公布2022年入围名 全球三大创新大会之一的SXSW多元创新大会公布创新奖入围名单,Velodyne Lidar智能基础设施解决方案获得智慧城市、交通运输两项创新大奖的认可。
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了