据业内人士提供的消息,SK海力士和美光公司分别从英伟达获得了7000亿~1万亿韩元(约5.4亿~7.7亿美元)的预付款。

从来都是别人给英伟达打钱,但最近英伟达也给人打钱了。为了给最近火爆的生成式AI和大语言模型(LLM)提供强大的加速能力,英伟达在其GPU产品中需要使用高带宽内存(HBM),而HBM技术主要掌握在SK海力士和美光等公司手里。

市场研究机构TrendForce指出,英伟达2024年的产品组合分类将更为细致,除了之前的既有产品A100/A800以及H100/H800之外,还将推出使用6颗HBM3e的H200以及8颗HBM3e的B100,并同步整合自家基于Arm架构的 CPU与GPU,推出GH200及GB200。

据台湾《电子时报》报道,英伟达为了确保HBM的稳定供应,已经向SK海力士和美光公司提前支付了数亿美元预付款。与此同时,三星电子最近也完成了产品测试,并与英伟达签订了HBM产品供应合同。

而就在26日,BusinessKorea也援引半导体业内人士消息称,在HBM市场,已有一家客户预付6亿美元,支持美光开发新产品。目前美光主要客户正在对美光开发的HBM3E进行质量评估。

据业内人士提供的消息,SK海力士和美光公司分别从英伟达获得了7000亿~1万亿韩元(约5.4亿~7.7亿美元)的预付款。尽管具体细节尚未披露,但业内人士认为,这是英伟达为确保其在2024年新推出的GPU稳定供应HBM3e而采取的必要措施。

HBM要起飞了

大模型的推理和训练是内存密集型工作,从内存中存储和检索数据的能力将制约AI芯片性能的发挥,即内存墙。HBM在传统DDR内存和片上缓存的基础上,通过大幅增加引脚数量以达到每个HBM堆栈1024位宽的内存总线,实现了更高的带宽,相当于每个DIMM 64位宽的DDR5的16倍,从而解决内存墙的问题。

由于能有效解决“内存墙”和“功耗墙”问题,HBM成为GPU芯片内存解决方案,如今已经迎来价量齐升新阶段,这与《电子工程专辑》在最新2024年全球半导体行业10大技术趋势中预测的一致。

据TrendForce预测,高端AI服务器GPU搭载HBM芯片已成为主流趋势,2023年全球搭载HBM总容量将达2.9亿GB,同比增长近60%。

Omdia研究显示,从2023年到2027年,DRAM市场收入的年增长率预计为21%,而HBM市场预计将飙升52%。HBM今年在DRAM市场收入中的份额预计将超过10%,到2027年将接近20%。

根据SK海力士自己的预测,到2027年HBM市场将出现82%的复合年增长率。

相对于GDDR显存来讲,HBM是一种3D堆叠方式,通过使用先进封装方法垂直堆叠多个DRAM,与GPU通过中介层互联封装在一起,在较小的物理空间里实现存储器高容量、高宽带、低延时与低功耗。

HBM主要玩家和市场格局

一般来说,客户向内存供应商大规模预付款项的情况很少见。然而,由于AI发展导致HBM市场需求快速增长,英伟达计划通过积极的投资来确保稳定的HBM来源,以确保其GPU的供货。其他全球科技巨头如 AMD、微软、亚马逊等也在竞购 HBM3E。

这对于在2023年遭受重大损失的内存供应商来说,预付款可以帮助他们解决财务问题,并降低与HBM相关的投资风险。资料显示,尽管HBM市场整体短缺,但内存供应商仍面临巨大的投资负担。其中,提高硅通孔(TSV)工艺的成本和产量是最具挑战性的任务。随着HBM的不断发展,工艺和设备要求也在不断变化,内存供应商必须采用不同的解决方案来解决散热等问题。因此,需要在技术开发方面进行大量投资,而英伟达以大量预付款的形式提供资金支持,预计将会推动内存供应商对HBM的研发投入。

从市场格局上来看,HBM的竞争主要在SK海力士、三星和美光之间展开。根据 TrendForce报告统计,2022年SK海力士占据了HBM全球市场规模的50%,其次是三星占比40%,美光占10%。

2023年以来,三大HBM巨头在股票市场大幅上涨。截至目前,美国上市的美光科技年内涨幅达到75.16%,最新总市值逼近千亿美元;韩国上市的SK海力士、三星电子年内分别上涨87.2%、41.05%。

据报道,三星最近完成了HBM3和HBM3E的产品测试,并与英伟达签署了供应合同。但有分析人士指出,与SK海力士在英伟达产品测试中使用1b纳米(第五代10纳米)内存相比,三星电子在生产HBM3E时使用的还是1a纳米(第四代10纳米)工艺,其可能需要额外的流程来提高性能,从而导致更高的成本。

在上个月末的财报会议上,SK海力士已透露,2024年的HBM3与HBM3E产能已全部售罄,正在与客户、合作伙伴讨论2025年HBM产量与供应。

美光公司在上周公布财报时,美光CEO Sanjay Mehrotra对外透露,公司正处于“为英伟达下一代AI加速器供应HBM3E的最后验证阶段”。得益于生成式AI的火爆,推动了云端高性能AI芯片对于HBM的旺盛需求,美光2024年的HBM产能预计已全部售罄。美光指出,专为AI、超级计算机设计的HBM3E预计2024年初量产,有望于2024会计年度创造数亿美元的营收。

三星与SK海力士还正在开发HBM4,预计将采用混合键合技术,实现扩大容量的同时有效缩小尺寸。

责编:Luffy
阅读全文,请先
您可能感兴趣
目前韩国在半导体、显示和氢能等领域已经具备一定的技术积累和优势。例如,韩国企业在HBM和OLED领域均取得了显著的研发成果和商业化应用。通过将这些技术纳入国家战略技术,韩国可以进一步巩固和扩大在这些领域的技术优势,提高国际竞争力。
与SODIMM产品相比,LPCAMM2模块能在网页浏览和视频会议等PCMark®10重要工作负载中将功耗降低高达61%,性能提升高达71%,空间节省达64%,是“PC产业中的重要里程碑”。
从长远来看,大容量机型的逐渐普及是一个大趋势。而大内存也将成为各大手机厂商在2024年暗自较劲的硬件之一。不过,QLC NAND产品验证到进入量产仍存在许多变数,是否能如预期从今年下半首次搭载QLC NAND仍须进一步观察。
2023年的存储市场跌了多少?2024年的存储市场是否能回到过去2年的水平?结合两家市场研究机构,及多家企业的财报,我们来谈谈DRAM和NAND市场。
实际上,2023年半导体行业出现需求复苏迹象,主要是受ChatGPT带动的AIGC浪潮,以及PC、智能手机需求改善来驱动的。不过,尽管AI、高性能计算有关的半导体炙手可热,但由AI带来的增长在2024年不会太明显,相关产品规模化落地预计在2025年。
佰维存储方表示,智能穿戴市场具有广泛的市场覆盖度和巨大的成长空间,基于在智能穿戴领域的竞争优势以及该领域的巨大成长潜力,预计未来公司的智能穿戴业务将保持快速增长。公司将持续扩大一线合作品牌的供应占比,并积极将旗舰穿戴产品导入更多一线客户。
2023年纯电动车(BEV)排名仍由Tesla(特斯拉)夺冠,市占率19.9%,比亚迪位居第二,紧追在后,比亚迪与特斯拉的全年销量落差已缩小至24.8万辆。
2023年第四季度,华为超过Apple成为中国平板电脑市场出货量第一,这是自2010年以来中国平板电脑季度出货量首次出现TOP1 品牌的更替。
先楫新一代的仪表显示产品具有高画质、低功耗等特点
2024年3月4日,上海 - 国产高性能微控制器厂商上海先楫半导体科技有限公司(先楫半导体,HPMicro)在其丰富的高性能微处理器产品组合的基础上,推出新一代数字仪表显示及人机界面系统应用平台——HPM6800系列。
按照华为迭代策略,华为Mate 60系列后的下一款顶级旗舰,便将是全新的华为P70系列,不出意外的话将至少同时推出P70、P70 Pro和P70 Art三款机型,将有望在3月与大家见面,截至目前已经有
★欢迎星标 果壳硬科技★二维范德华材料具有众多有趣的光学特性,如高非线性光学响应、宽带光谱响应、带间激子效应等。平面内各向异性的二维范德华瓦尔斯材料具有面内低对称结构,从而具有面内各向异性的物理性质。
业内消息,近日新加坡 RF GaN(射频氮化镓)芯片供应商 Gallium Semiconductor(加联赛半导体)突然终止业务并解雇所有员工,包括位于荷兰奈梅亨的研发中心。加联赛半导体发言人表示:
2024开年,科技圈热门大事件不断,包括苹果头显Vision Pro发布、NVIDIA等科技巨头纷纷入局人形机器人、Open AI的文生视频大模型Sora闪亮登场。传感器作为其背后不可或缺的关键驱动力
★欢迎星标 果壳硬科技★脑深部电刺激(DBS)需要通过手术在脑内植入电极,对功能失常的脑网络进行调控,脑网络功能失常表现为各种神经疾病。对丘脑底核(丘脑下方的一个小型结构)的DBS常用于治疗帕金森病,
点击上面↑“电动知家”关注,记得加☆“星标”!中国新能源汽车发展史!电动知家消息,3月4日,在新车发布后的首个交易日,理想汽车跌幅一度超过13%。截至收盘,理想汽车港股股价暴跌10.71%,报收160
来源:芯极速,谢谢 编辑:感知芯视界 Link2月28日晚间,寒武纪发布2023年年度业绩快报。2023年实现营业总收入 70,938.66 万元,较上年同期降低1,964.80 万元,同比下降2.7
《APM32芯得》系列内容为用户使用APM32系列产品的经验总结,均转载自21ic论坛极海半导体专区,全文未作任何修改,未经原文作者授权禁止转载。如何提高APM32F103C8T6的ADC外设精度引言
据行家说储能不完全统计,广东省2024年1-2月共有184个储能备案项目,总投资约188.35亿元。其中12个产能类项目,投资金额超23亿;用户侧储能项目有121个,占6成以上,总投资约3.7593亿
‍欢迎关注、点赞和评论以下是视频的部分文字内容:你眼中的华为是什么样的形象?很多人的答案可能是搞研发的中年大叔。伙伴们眼中的华为,却是个朝气、温暖、迅速解决问题的IT大男孩!为什么伙伴们会有这样的印象