广告

HBM2E:超带宽解决方案中的明星

时间:2021-07-27 作者:美光全球显存业务主管Bill Randolph 阅读:
HBM2E是HBM系列产品的第三项标准:HBM1、HBM2和现在的HBM2E。HBM2E提供了非常宽的多通道 I/O——即1,024位宽,并且拥有非常短的物理通道,关键是它在极小的尺寸上实现了极高的内存密度。
广告

数据中心在不断发展,以解决快速高效地存储、移动和分析数据时所面临的挑战。在很大程度上,其不断发展是由如下所示的四种高性能应用趋势所推动的。

传统的游戏和专业视觉应用主要集中在个人电脑领域,采用快速 GDDR 内存。但随着人工智能(AI)训练和推理以及高性能计算的出现,数据中心越来越多地使用速度最快的内存,即高带宽内存(HBM)。这些领域的应用架构师需要找到尽可能高的带宽。

让我们花点时间思考一下原因。究其原因就是数据,海量的数据!

数据正在不断加速增长。据IDC2021年全球数据圈Global Datasphere 2021)》报告,2018年全球数据总量为 36 泽字节,2020 年增长至 64 泽字节,2024 年将继续增长至 146 泽字节。

AI、深度学习、机器学习离不开海量数据。在实现智能方面,AI 是游戏规则的改变者,能够带来超越人类主导发现的新洞察。过去我们为计算基础设施编写程序,而如今我们可以利用海量数据来对它们进行训练,从而服务于智能农业、个性化教育和精准医疗等广泛领域。

美光提供 GDDR 和 HBM 等超带宽解决方案,赋能分析引擎,帮助训练下一波 AI 算法。例如,一个拥有超过 13 亿个参数的 AI 模型无法放入单个 GPU(即使是拥有 32GB 内存)中。因此,扩展内存容量可以让更大的模型/更多的参数留在离核心计算更近的地方。通过增加带宽和容量,减少内存和存储解决方案带来的延迟,我们正在加速实现洞察,帮助客户获得更大的竞争优势。

基于加速器的多组件异构方法

为了应对数据密集型工作负载和应用程序的增长以及不断演变的应用场景和新的业务机会,数据中心的基础设施正在重新被定义。数据中心传统上是以 CPU 为中心的,通过使用内存(如 DDR4)和存储(如 SSD)来处理数据。随着 AI 等现代应用场景和工作负载的出现,这种传统架构已经成为无法让 CPU 以所需的高性能速度运行的瓶颈。

为解决这种越来越大的性能差距问题,现在的方法是采用专用硬件来解放 CPU 的某些功能。这种基于加速器的新计算模式正逐渐成为异构数据中心发展的关键所在。现代数据中心的新架构部署了各种组件,分别侧重于提供特定功能或者处理不同类型和格式的数据,从而显著提高整个系统的速度和性能。

对于那些使用 DDR4(很快将是 DDR5)计算内存的传统 CPU,我们添加了用于加速的GPU,以及用于其他功能的 FPGA 和 ASIC。现代数据中心可以使用这些不同的计算功能,而且,使用不同类型的内存对于满足处理各种工作负载所需的高性能也是不可或缺的。

这就是 HBM 出现的原因——它使得性能更上层楼。Micron HBM2E 是最新一代的HBM,也是我们最快的 DRAM,让我们能够为客户带来更好的洞察力。

HBM2E:超带宽解决方案中的明星

美光凭借不断发展的内存解决方案而引领市场,并通过满足新兴市场应用不断变化的需求,从而改变世界。

HBM2E 使用硅通孔(TSV)通道来构建垂直堆叠的 DRAM。(详细信息请参阅美光技术简报“集成并使用HBM2E内存”。)美光研发堆叠 DRAM 已有 20 年的历史,在此过程中获得了数千项专利。(美光研发主管 Akshay Singh 的文章“堆叠硅奇迹”中有更详细的阐述。)在未来的堆叠式 DRAM 创新研究中,我们计划开发新产品,以满足更多数据密集型工作负载的高性能和低功耗需求。

美光用于 HBM2E 的垂直堆叠 DRAM,并通过硅通孔(TSV)通道连接各层

高带宽内存的架构被寄望于满足业界对于带宽、功耗和外形尺寸方面的需求。它现在是 AI 行业标准内存解决方案,广泛应用于数据中心。HBM2E 是 HBM 系列产品的第三项标准: HBM1、HBM2 和现在 HBM2E。HBM2E 提供了非常宽的多通道 I/O——即 1,024 位宽,并且拥有非常短的物理通道。关键是它在极小的尺寸上实现了极高的内存密度。

HBM2E 位于非常靠近 GPU 或者 CPU 的中介层上,通常被放置在同一个封装或者散热机箱中。HBM2E 具有极宽的 I/O 总线和更高的密度,为现代数据中心基于加速器的计算模式提供了所需的高性能和高能效。

关于数据中心加速器内存产品线和美光高性能内存的逐项比较,请参阅白皮书“超带宽解决方案的需求”中的表 1。HBM2E 更强的 I/O 性能、带宽和能效使其成为美光超带宽解决方案产品线的基石。

总结

随着高性能应用需求推动着下一代系统架构和异构数据中心的发展,美光 HBM2E 内存和超带宽解决方案提供了关键的内存和先进的系统性能,从而帮助将数据转化为洞察。如需更多资料,欢迎点击micron.com/hbm2e

 

 

 

 

 

Bill Randolph

Bill Randolph 现任美光全球显存业务总监,负责业务开发,职责包括发展美光合作伙伴业务,重点是用于游戏机和高端图形市场的美光高速内存解决方案产品线。

Bill 在美光任职 10 余年,曾在生态系统发展部和消费类/图形业务开发部担任过多种职务。他于 1990 年进入 DRAM 行业,之前曾在三菱和奇梦达从事过设计、开发中心管理和销售等工作。Bill 拥有美国佛罗里达州立大学的电气工程学士学位,以及乔治亚理工大学的电气工程硕士学位。

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • 2021年第二季全球十大晶圆代工厂营收排名 台积电(TSMC)第二季营收达133.0亿美元,季增3.1%,稳坐全球第一。其营收增幅受限于四月份南科Fab14 P7厂区跳电事件所致,导致少部分40nm及16nm晶圆报废;以及五月份台电高雄的兴达电厂跳电,位于南科的晶圆厂受到最直接的冲击,尽管厂内发电机及时运作使得在线晶圆不至报废……
  • 全新品牌“闪迪大师”如何赋能影视行业专业人士? 2021年8月18日,西部数据在中国电影起源和百年魅力的上海电影博物馆隆重揭幕SanDisk Professional闪迪大师品牌,它是为全球专业人士所打造的高品质系列存储解决方案。在会上,现场上海电影博物馆和多位影视行业知名人士,与大家分享了在影视行业的数字化、流程化、标准化趋势下,闪迪大师如何通过其强大的产品组合,用高性能、模块化、高可靠性的解决方案为内容创作过程中的不同阶段保驾护航。
  • 传西部数据拟200亿美元并购铠侠 在2020年的NAND flash市场上,韩国三星、铠侠、西部数据是市占率排名前三的设计商,其中三星市占率大约三分之一、Kioxia市占率大约19%、西部数据市占率大约15%。这也意味着,如果后两者合并,将可能控制全球三分之一的闪存市场,与三星实力相若,形成“双雄并举”的新格局……
  • 2021年第二季全球NAND Flash品牌厂商营收排行 时序进入第三季,资料中心对于高容量enterprise SSD的需求进一步成为NAND Flash市场成长的主要动能,加上笔电需求维持,故对位元需求仍有支撑,带动合约价继续上涨。TrendForce集邦咨询预期,第三季NAND Flash整体营收将持续成长,并有望突破历史新高。
  • 2021年第二季全球DRAM厂商自有品牌营收排名 以营收表现来看,三大DRAM原厂的表现相当一致,出货量与平均销售单价同样呈现「量价齐扬」走势,且出货增幅皆优于预期。除了报价上涨会激励采购备货意愿,加上今年来各种缺料问题频传,更加强化买方提前备货心态,以避免成为终端产品组装中的瓶颈。因此,三星(Samsung)、SK海力士(SK hynix)及美光(Micron)的营收涨幅皆超过两成……
  • IC Insights:三星Q2重回全球半导体龙头,Q3继续 三星在2017年和2018年的大部分时间里一直位居半导体供应商榜首,当时存储芯片市场经历了最后一次周期性回升。该公司上一次季度销售额超过200亿美元是在2018年,当时是上一次存储芯片市场回升的高峰期。近日IC Insights的数据显示,三星电子在2021年第二季度再次取代英特尔成为全球最大半导体供应商……
  • 新款iPad Pro 2021成最受欢迎的 由于采用性能相对强大的M1处理器和mini-LED屏幕以及更多的创新,新款iPad Pro 2021已经成为消费者心目中最受欢迎。然而,iPad 2却已经在全球范围内被列入“复古和过时”的名单中。
  • 三星折叠屏手机Galaxy Z Fold 3 目前来看,折叠屏新机作为一种新的生产力工具,逐渐成为高端/平板的一种趋势,有报料称三星的Galaxy Z Fold 3发布时间或为7月,并且会引入新手势操控。

  • EMC对策产品: TDK推出用于移动设备 TDK株式会社(TSE:6762)推出用于移动设备的TCM0403M系列小型薄膜共模滤波器
  • 比科奇ORANIC板卡获行业大奖,5G小基 比科奇(Picocom)日前宣布:该公司荣获全球小基站论坛(SCF)一项大奖,其全新的ORANIC板卡赢得了全球小基站论坛(SCF)2021年度“小基站芯片及组件杰出创新金奖”。
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了