HBM是一种可以实现高带宽的高附加值DRAM产品,适用于超级计算机、AI加速器等对性能要求较高的计算系统。过去八年来,HBM产品带宽增加了七倍,目前已接近1TB/秒的里程碑节点,而本文将着重探讨如何通过卓越的设计工艺来提高产品性能或创造速度优势。

高带宽存储器(HBM, High Bandwidth Memory)是一种可以实现高带宽的高附加值DRAM产品,适用于超级计算机、AI加速器等对性能要求较高的计算系统。随着计算技术的发展,机器学习的应用日渐广泛,而机器学习的基础是自20世纪80年代以来一直作为研究热点的神经网络模型。作为速度最快的DRAM产品,HBM在克服计算技术的局限性方面发挥着关键的作用。

HBM的高带宽离不开各种基础技术和先进设计工艺的支持。由于HBM是在3D结构中将一个逻辑die与4-16个DRAM die堆叠在一起,因此开发过程极为复杂。鉴于技术上的复杂性,HBM是公认最能够展示厂商技术实力的旗舰产品。

从2015年推出HBM1到2021年10月开发业界第一款HBM3 DRAM,SK海力士一直是HBM行业的领军企业。SK海力士的HBM产品大获成功的首要因素是产品特性,具体而言,产品设计在保证市场竞争力方面发挥了重要作用。SK海力士HBM设计团队负责将产品规格落实到实际电路中,同时开发配套的产品架构和设计技术,以确保准确实现产品功能、高性能和低功耗特性。得益于对产品的全面了解,HBM设计团队还在未来产品规划及规格定义方面发挥着至关重要的作用。此外,HBM设计团队会聆听客户反馈,并围绕问题展开分析。

产品特性通常分为三类:性能、功耗和面积,即PPA (Power, Performance, Area)。本文着重探讨如何通过卓越的设计工艺来提高产品性能或创造速度优势。如前所述,HBM支持高带宽,而带宽指的是在特定单位时间内可以传输的数据量。由于具有高带宽的特性,HBM主要应用于高性能计算场景。

通过机器学习解决偏移问题

过去八年来,HBM产品带宽增加了七倍,目前已接近1TB/秒的里程碑节点。鉴于同期内其他产品的带宽仅增加两到三倍,我们有理由将HBM产品的快速发展归功于存储器制造商之间激烈的竞争。

<图1: ISSCC上发表的HBM相关文章的趋势 >

存储器带宽指单位时间内可以传输的数据量,要想增加带宽,最简单的方法是增加数据传输线路的数量。事实上,每个HBM由多达1024个数据引脚组成,HBM内部的数据传输路径随着每一代产品的发展而显著增长,如图2所示。

<图 2: 各代HBM产品的数据传输路径配置>

但是,芯片的尺寸限制了传输路径的增加。因为增加的不仅是数据传输线路,还有使用每条传输线路的传输/接收电路。此外,随着传输线路的增加,等量匹配每条传输线路长度和配置的难度加大,使得运行速度无法提升。 

传输线路之间的时序差异就是我们所说的偏移。为了减少偏移,每条传输线路的总长度和电子元件应采用相似的设计。然而,HBM有数千条内部传输线路,逐一匹配几乎是不可能的任务。为此,SK海力士引入了机器学习。强化学习(Reinforcement learning)技术可以在每条传输线路上附加多余的传输路径,无需工程师手动作业,即可精确地优化偏移问题,由此减少整个传输路径间的偏移。

<图3: 基于机器学习技术的信号线路优化>

图3显示了这一优化过程。一些90度弯曲的线路具有不同的特性,因此必须通过增加红色附加线的方式来减少偏移(Skew)。与初始的随机解决方案(如图3左侧所示)相比,强化学习技术的使用可以带来最优结果(如右图所示)。通过这种方法,偏移从100皮秒(100ps)缩短至70皮秒(70ps),降幅达30%。

通过PVT感知时序优化来提高速度

即使偏移问题得到优化,各种信号之间相对时序关系的匹配仍然是一个难题。例如,每32个数据信号对应一个时钟信号(clock signal)*,如果需要由时钟信号来控制数据信号,那么时钟信号必须采用与数据信号不同的电路。电路配置的差异也会导致关系的变化,具体取决于工艺、电压、温度(PVT)的变化。无论何种情况下,时钟都必须位于数据的特定时序部分。但是,随着运行速度的提升,时序部分会减少,由此增加了设计复杂度。

* 时钟信号(clock signal):在同步数字电路中,时钟信号在高位和低位状态之间振荡,并且像节拍器一样用于协调数字电路的动作。

为了解决这一问题,SK海力士采用PVT感知时序优化技术来检测HBM3中的PVT变化,以找到最佳时序。这项技术可以确定单元电路的哪一个分级与精确循环的外部时钟输入具有相同的周期,并基于该数据自动优化主时序裕量电路(timing margin circuit)中的电路配置。如图4所示,随着PVT的变化,时钟时序通常会将时钟移动到一侧,而PVT感知时序优化技术可以在任何情况下让时钟始终保持在中心位置,以此来提高速度。

<图4:PVT感知时序优化技术>

为了增加作为HBM关键性能指标的带宽,SK海力士正在开发一系列设计技术,包括数据路径优化、基于机器学习的信号线路优化、PVT感知时序优化技术以及全新工艺技术等。基础die与典型DRAM工艺的不同之处在于基础die没有单元,利用这一特性,我们正在开发HBM优化工艺技术以及用于3D堆栈的先进封装技术。

通过上述一系列努力,SK海力士实现了HBM的快速发展。然而,为了满足客户不断增加的期望,打破现有框架进行新技术开发势在必行。此外,SK海力士还在与HBM生态系统中的参与者(客户、代工厂和IP公司等)通力合作,以提升生态系统等级。商业模式的转变同样是大势所趋。作为HBM领军企业,SK海力士将致力于在计算技术领域不断取得进步,全力实现HBM的长期发展。

责编:Lefeng.shao
阅读全文,请先
您可能感兴趣
2022年ISSCC共收到651篇论文,最终共有200篇入选,收录率达30.7%,其中美国以69篇入选论文排名第一,中国以45篇入选论文(包括中国大陆+港澳地区30篇、中国台湾15篇)排名第二。ISSCC 2023中国大陆及港澳地区贡献了59 篇论文,排名第一......
近日,中科院微电子所集成电路先导工艺研发中心朱慧珑研究员团队研发制备出一种高性能单晶硅沟道3D NOR储存器。遵循知识产权保护优先的原则,自2021年起,朱慧珑在器件结构、集成工艺和电路架构等方面先后提出了多个解决方案并提交了相应专利申请。
疲软的经济状况和高通胀率减缓了全球对个人电脑、主流智能手机和其他消费电子产品的需求。DRAM需求呈螺旋式下降,目前预计2022年下半年的销售额将仅有293亿美元,下降40%。而2022年上半年为490亿美元。2022年全年,DRAM市场预计将下滑-18%。
产业政策与“自由市场”、国产替代与全球合作,将是未来半导体发展重要的“代名词”,而对峙与博弈也将常态化。因此,技术、投资、市场都将是日本半导体产业需要认真对待的重要课题。
美光三星海力士纷纷下调资本支出,应用材料范围业绩大涨。
2023年知存科技将会推出第三代存内计算架构产品——WTM-8和WTM-C series,最高可以支持100Tops左右的算力,同时也会推出10-30Tops不同档次算力的存内计算产品。
德州仪器首席执行官Rich Templeton当选SIA副主席
由于采用性能相对强大的M1处理器和mini-LED屏幕以及更多的创新,新款iPad Pro 2021已经成为消费者心目中最受欢迎。然而,iPad 2却已经在全球范围内被列入“复古和过时”的名单中。
VOA300单端输出可直接连接放大器或模数转换器,汽车级器件,采用单端输出,数据传输速率达1.4 MHz,确保人员和车辆安全。
经过7个月的激烈角逐,2022玄铁杯RISC-V应用创新大赛揭晓获奖名单。基于阿里平头哥玄铁C906的开发板,一批RISC-V创意项目涌现,落地碳中和、智能家居、智慧工厂等场景,最终冠军由华东师范大学“萌新队”获得。
芯片供应商骗局近期频频爆雷,假货、跑路、维权无门,两眼一抹黑怎么办?【超人投票】告诉你答案,火眼识别靠谱供应商。【超人投票】是芯片超人在2017年推出的,帮助市场上的朋友找到靠谱供应商的决策工具。5年
━━ ━━半个世纪前,摩托罗拉展示了第一款手持移动电话。它有一块砖头那么大,但重量是砖的一半。10年后,这个原型孵化出了第一款商用手机。这款手机看起来也很笨拙,但能在用它接打电话时四处走动,这在当时是
  文 | 金融街老李尽管资本市场低迷,但低谷时期总有企业能给予惊喜,岚图汽车就是其中一个。上周,岚图有两个动作。一个是在11月14日,岚图召开了2022科技日,发布了全新的ESSA原生智能电动架构以
差分信号具有两个特性:(1) 两个信号线上的信号幅度相等,相位相反(2) 两个信号线上的信号具有相同的直流电压,称为"共模电平VCM"假设差分信号线上的两个信号为:Vx=VCM+Asinwt,Vy=V
邓思邈 发自 副驾寺智能车参考 | 公众号 AI4Auto估值600亿,全球Top 10,冲刺IPO…这就是长城旗下电池公司蜂巢能源,刚展现的新进展。谁也没想到,当初魏建军随手落子的项目,现在正在高速
最近对特斯拉的信息做一些梳理,主要参考来自Troy Teslike和美国的一些信息。从目前的数据来看:◎Q4 特斯拉的生产量预估为466165台,2022年全年生产量预估为139.6万台。◎Q4 特斯
我曾在通用从事了多年的电动汽车开发。凯迪拉克锐歌是通用在国内奥特能纯电平台下的首款量产车型,这次有机会参与这款车的试驾和测试。这期视频,主要是给大家分享一些真实的测试体验。这是一台蓄力了多年的产品,通
    在发展20多年之后,如今蓝牙技术已经深入到我们生活、工作的方方面面。我们的手机、耳机、音箱、周边的智能产品都有蓝牙技术的身影,蓝牙技术应用以每年9%的速度稳定增长,尽管最近三年全球遭遇新冠疫情
广告分割线眼下全球经济下行已是不争的事实,后疫情时代的各类“后遗症”也不断显现。世界各国都或多或少陷入“订单慌”和“裁员潮”的危机之中,大厂靠裁员削减成本,小厂只能选择躺平关门……未来市场的出路究竟在
2022年11月23日,荣耀正式发布折叠旗舰荣耀Magic Vs系列和荣耀80系列,这是首批搭载全新荣耀MagicOS 7.0操作系统的手机产品。荣耀Magic Vs荣耀Magic Vs系列致力将轻薄