广告

身材虽小,却为数据中心加速提供大智慧

时间:2019-08-13 作者:邵乐峰 阅读:
在当前的超大规模数据中心中广泛部署FPGA产品并不是什么新鲜事。得益于自身所特有的可重配置和可重编程特性,FPGA能为复杂多变的超大规模数据中心应用提供所需的灵活性、应用广度和功能速度,而这些正是传统CPU和定制ASIC所无法企及的,也是阿里巴巴、亚马逊、百度、Facebook、谷歌、微软和腾讯这些超大型数据中心公司最为敏感的问题。
广告

继2018年底推出面向数据中心加速的自适应计算加速卡Alveo U250/U280后,赛灵思(Xilinx)持续扩展产品组合的步伐一直没有停歇,最新推出的Alveo U50系列,则被赛灵思数据中心业务部产品规划和市场营销总监Jamon Bowen称之为“业界首款可支持第四代PCIe(PCIe Gen 4)的轻量级自适应计算加速卡。” GLSEETC-电子工程专辑

1.jpgGLSEETC-电子工程专辑

赛灵思Alveo产品阵容GLSEETC-电子工程专辑

快速、灵活应变和方便易用是U50的核心特征。与U200/U250/U280系列相同,Alveo U50卡同样采用赛灵思UltraScale+架构,支持第四代PCIe和CCIX互联标准,并率先使用半高半长的外形尺寸和低于75瓦的低包络功耗。8GB高带宽存储器(HBM2)和QSFP端口则分别提供了超过400Gbps的数据传输速率和高达每秒100Gbps的网络连接速率。此外,高速网络I/O还支持包括NVMe-oF解决方案(NVM Express over Fabrics)、解耦计算存储(Computionial Storage)和专业金融服务在内的各种前沿应用。GLSEETC-电子工程专辑

2.pngGLSEETC-电子工程专辑

Alveo U50系列加速卡GLSEETC-电子工程专辑

为什么加速在计算、网络和存储领域受到越来越多的重视?Jamon Bowen对此解释称,一方面是因为以AlexNet、GoogleNet、DenseNet为代表的领域专用架构,需要不同的硬件架构和对应的算法来实现高吞吐量、低时延和高效率;另一方面,数据中心要优化性能,需要定制数据路径、定制精度和定制存储器层级,可编程硬件在定制化加速方面具备天然优势。GLSEETC-电子工程专辑

以GZIP压缩为例,ZS、ZT、LZ、微软Zipline等标准层出不穷,这就需要硬件不但能够加速,还可以实现编程,一旦出现新的算法迭代,厂商就能够充分利用 FPGA的灵活性实现快速部署。GLSEETC-电子工程专辑

不过,数据中心开发者对FPGA编程始终带有抱怨。为此,Alveo提供了开放的平台和开发环境,让开发者能够更加便捷地使用。这意味着,Alveo平台上的开发者越多,带来的云和相关产品就会越多,从而逐步形成一个全堆栈的解决方案,继而实现原来只有在软件部分才有可能实现的硬件IP的灵活应变能力。数据显示,自2018年10月推出Alveo以来,目前已发布的应用和培训开发者数量分别是当初的2倍和4倍。GLSEETC-电子工程专辑

3.jpgGLSEETC-电子工程专辑

Alveo解决方案堆栈GLSEETC-电子工程专辑

具体来说,Alveo U50的加速解决方案具体可应用于广泛领域,其中包括以下5个领域:GLSEETC-电子工程专辑

1、深度学习推理加速(如语音翻译):与纯GPU相比,Alveo U50在语音翻译的性能可降低多达25倍的延迟,提高10倍的吞吐量,并能显著提高每节点的功耗效率。GLSEETC-电子工程专辑

2、数据分析加速(如数据库查询):运行TPC-H查询基准时,Alveo U50与存储器内的CPU相比,它每小时的吞吐量可提升4倍,还可将运营成本降低3倍。GLSEETC-电子工程专辑

3、计算存储加速(如压缩):与仅使用CPU的节点相比,Alveo U50将每个节点的成本降低了40%,同时它还可将压缩/解压的吞吐量提高20倍,实现更快的Hadoop(分布式计算)和大数据分析。GLSEETC-电子工程专辑

4、网络加速(如电子交易):与仅使用CPU的10微秒延迟相比,Alveo U50能将延时降低20%,交易时间低于500纳秒。GLSEETC-电子工程专辑

5、财务建模(网格计算):运行蒙特卡罗模拟(Monte Carlo simulation)时,Alveo U50的功耗效率与GPU相比提高7倍,具有更快的分析和判断效率、确定性延时和更低的运营成本。GLSEETC-电子工程专辑

“提供充分商业化的标准化产品,是调动IT行业积极性最重要的因素之一。”Jamon Bowen说Alveo是一个非常标准化的产品,所以开源框架很容易与Kubernetes和docker这类免费的微服务内容平台实现对接,比如Kubernetes中就直接有插件可以在系统内部反映出有Alveo加速硬件,开发者也可以把Alveo和docker配合起来,通过对Alveo进行编程而在系统中体现出加速应用。GLSEETC-电子工程专辑

4.jpgGLSEETC-电子工程专辑

为大规模部署而打造的堆栈GLSEETC-电子工程专辑

反之,如果没有这样一个标准化的产品配置,客户可能需要花费大量的投资才能够实现这样一个功能,这对于一些超大规模数据中心的应用来说是非常有必要的,既可以在云端,也可以用Alveo在本地进行加速,而且是一个非常开放式的框架,可以进行全面的加速。GLSEETC-电子工程专辑

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
邵乐峰
ASPENCORE 中国区首席分析师。
  • 威盛宣布出售x86芯片组IP给上海兆芯集成电路 威盛(VIA)召开重大信息记者会表示,经过董事会同意,将出售部分芯片组产品相关技术、数据等知识产权 (不含专利权), 给予威盛间接持股合计达 14.75% 之上海兆芯集成电路有限公司,交易总金额为美金 138,974 仟元……
  • 韩国三星会长李健熙去世,没有他就没有三星半导体 10月25日早5时,韩国三星会长李健熙(Lee Kun-hee)于首尔江南区逸院洞的三星首尔医院去世,享年78岁。三星的一份声明说,李健熙周日去世时,他的家人,包括他的儿子和实际的公司负责人李在镕,都在他身边。
  • 13年,那些我们看着长大的iPhone 富人一般睡醒直接买,小编和穷人才熬夜看发布会,作为从iPhone 4开始就通宵写报道的《电子工程专辑》小编,可以说是看着iPhone慢慢长大的。事实上,iPhone确实在长大,从最初代的3.5英寸到iPhone 12 Pro Max的6.7英寸 ,苹果在13年里发布了29款iPhone。本文将带大家一起回顾iPhone历史上那些重要时刻和事件……
  • 研究表明端到端模拟芯片可用于AI计算 神经拟态芯片初创公司Rain Neuromorphics与Mila合作进行的一项研究证明,使用全模拟硬件训练神经网络是可能的,显示出创建端到端模拟神经网络的可能性。这对整个神经拟态计算和AI硬件领域都具有重大意义:完全采用模拟AI芯片可以进行训练与推理,从而可以大大节省算力、能耗,并缩减延迟时间和产品尺寸。
  • 计算密度暴涨70%,IMG宣布向桌面和云端GPU市场发起冲锋 在A系列发布之后不到一年,Imagination公司日前再度宣布推出全新GPU IP—IMG B系列,增加的多核技术不但提供了最高的性能密度,还以惊人的33种全新配置扩展了公司的GPU产品系列,可以针对给定的性能目标实现更低的功耗和最高35%的带宽降低。
  • 拆解华为5G基站:美国产零部件占成本近3成 近日《日本经济新闻》(Nikkei)在专业调查公司Fomalhaut Techno Solutions的协助下,拆解并分析了华为的最新5G基站,确定了组件制造商并估算了其市场价格。并计算了组成要素的每个国家/地区的组成部分的总价值,以及这些国家/地区的份额。
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了