在AI大模型的时代,行业中的一个关键趋势是更大的NAND裸片密度,这有助于推动更大容量的SSD,使系统构建者能够设计更多的服务器,以便拥有更大的容量或将更多的GPU或CPU放入服务器中。鉴于此,特别是随着人工智能的发展,GPU直接存储的能力变得愈发重要。 

根据美光公布的FY2024Q3财季业绩,该季公司营收68.11亿美元,同比增长81.5%;净利润7.02亿美元,较上季度4.76亿美元增长47%。美光方面认为,人工智能(AI)的蓬勃发展带动了市场对HBM产品的需求,数据中心SSD收入也创下历史新高,证明了美光在DRAM和NAND闪存领域产品组合的实力。

日前,美光再次面向数据中心推出首款PCIe 5.0产品9550 SSD,集成了自有的控制器、G8 NAND、DRAM和固件,存储容量从3.2TB到30.72TB,并支持U.2、E1.S和E3.S外形规格,旨在为数据中心运营商带来业界领先的性能、能效和安全性。 

美光9550 SSD

“从性能角度看,它展现了出色的‘四角性能’,即顺序读取、顺序写入、随机读取和随机写入四项,均表现出色。“美光存储事业部产品管理总监Bill Bollengier指出,在AI大模型的时代,行业中的一个关键趋势是更大的NAND裸片密度,这有助于推动更大容量的SSD,使系统构建者能够设计更多的服务器,以便拥有更大的容量或将更多的GPU或CPU放入服务器中。鉴于此,特别是随着人工智能的发展,GPU直接存储的能力变得愈发重要。 

性能数据方面,得益于控制器、NAND以及专为制造高性能SSD而开发的美光架构固件,美光9550 SSD拥有14.0 GB/s的顺序读取速率和10.0GB/s的顺序写入速率,与业界同类SSD相比,其性能提升高达67%。此外,其随机读取速率达到3,300 KIOPS,比竞品提升高达35%;随机写入速率达到400 KIOPS,比竞品提升高达33%。

考虑到当前AI工作负载需要高性能、高能效存储解决方案,例如,大型语言模型(LLM)需要高顺序读取速率,而图形神经网络(GNN)则需要高随机读取性能,9550 SSD也更加注重在关键AI工作负载中的表现。

官方资料显示,9550工作负载完成时间可缩短高达33%,在配备大加速器内存(BaM)的GNN训练中,特征聚合可提速高达60%。此外,9550 SSD还为NVIDIA Magnum IO™ GPUDirect® Storage提供了高达34%的更高吞吐量。

另一个关键点是效率,即每瓦性能。Bill Bollengier认为,在这个全球都关注气候和可持续性的世界里,这一点非常重要,特别是数据中心本身就会使用大量能源。因此,在提升效率上,美光投入了大量时间,他选取了4个典型应用场景的数据来佐证这一点:

  • 使用BaM进行GNN训练:SSD平均功耗降低高达43%,整体系统能耗减少高达29%;
  • NVIDIA Magnum IO GPUDirect Storage:每传输1TB数据,SSD能耗降低高达81%;
  • MLPerf:SSD能耗降低高达35%,系统能耗降低高达13%;
  • 使用Microsoft DeepSpeed对Llama LLM训练进行微调:SSD能耗降低高达 21%;

9550 SSD搭载美光自主研发的垂直集成架构,支持NVMe 2.0和OCP 2.0,并具备OCP 2.5遥测功能,可实现先进的性能和健康监测,从而简化数据中心的大规模部署和管理。

Bill Bollengier认为OCP对客户而言帮助很大,因为它标准化了许多驱动器的功能,从而可以帮助客户在测试和鉴定SSD时实现更高的可预测性,包括遥测、延迟监测、日志记录、热节流算法,以及序列号的格式化方式等。这样,凭借OCP固件,客户不仅能够做出预测,还能够更快地通过鉴定,因为他们在获得驱动器之前就已经了解产品的行为表现。

而之所以要通过完全垂直整合的美光设计来提供一个适用于多代的通用架构,Bill Bollengier解释说,一是因为数据中心规模庞大,而且SSD的合格认证既昂贵又耗时,用户对产品在不同代际之间保持大量共通性这一点十分看重;其次,在数据安全方面,支持所有最新的行业标准和站点证书等功能非常重要,需要确保任何固件的更新都来自美光。

9550 SSD在设计上注重端到端的安全性,具备自加密硬盘(SED)功能,符合安全协议和数据模型标准(SPDM 1.2),同时提供稳定的数据加密功能以及其他关键安全特性。针对需要更高安全标准的客户,还提供符合FIPS 140-3 Level 2和TAA标准的选项。

同期发布的还包括采用第九代(G9)TLC NAND技术的 SSD 产品,美光也因此成为业界首家实现这一里程碑的厂商之一。

美光G9 TLC NAND

根据美光存储事业部NAND产品生命周期管理及应用工程总监Daniel Loughmiller的介绍,G9 NAND技术具备高达3.6GB/s的数据传输速率,比当前SSD中的NAND技术要快50%。同时,与市场上现有的同类NAND解决方案相比,美光G9 NAND的每颗芯片写入带宽和读取带宽分别高出99%和88%。尺寸方面,与前一代NAND产品相同,美光G9 NAND采用11.5mm x 13.5mm的紧凑封装,比同类产品节省28%的空间。

美光2650 NVMe SSD就集成了G9 TLC NAND技术,其连续读取速率高达7000 MB/s,已经可以与PCIe 4.0性能媲美。与同类竞品相比,2650 NVMe SSD连续读取性能提升高达70%,连续写入性能提升高达103%,随机读取性能提升高达156%,随机写入性能提升高达85%。 

尽管G9 NAND达到了276层,比G8 NAND多出约40层,但Daniel Loughmiller强调称,“层数并非决定性因素,目前各大厂商都在研究多项前沿技术,NAND的层数肯定会继续增加。客户真正关心的指标,其实是能耗、密度、以及如何达到预期的性能,这些都比单纯的层数更为重要。“

总体而言,今后NAND Flash将主要朝着扩展容量和降低成本两个方向发展,而市场对闪存容量的追求,可细分为纵向扩容、逻辑扩容、横向扩容:

纵向扩容,体现在存储原厂发力更高堆叠的产品,比如向更多层数的NAND演进;从SLC、MLC、TLC、QLC到PLC的演进是逻辑扩容,每个单元存储的数据越来越大,以便SSD可保存更多的数据;而横向扩容是指在每一层增加更多的存储容量,以达到更大单位比特的容量,这也是探讨未来新技术、新制程时候要关注的方向。

责编:Lefeng.shao
本文为EET电子工程专辑原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
阅读全文,请先
您可能感兴趣
此次新产品采用的第五代PCIe带宽比现有第四代(Gen4)高一倍,PEB110的数据传输速度达到了32GTs(千兆传输/秒)。由此,PEB110的性能较上一代产品提升一倍,能效提升了30%以上。
Rambus的HBM4控制器IP还具备多种先进的特性集,旨在帮助设计人员应对下一代AI加速器及图形处理单元(GPU)等应用中的复杂需求。这些特性使得Rambus在HBMIP领域继续保持市场领导地位,并进一步扩展其生态系统支持。
HBM4作为第六代HBM芯片,不仅在能效上较现有型号提升40%,延迟也降低了10%,成为各大芯片厂商竞相追逐的焦点。
随着支持AI的应用程序的普及以及6400MT/s或更高速度成为主流,PC内存性能要求不断提高,使用CKD的系统数量将伴随时间的推移呈现显著增长的态势。
SK海力士29日宣布,全球首次成功开发出采用第六代10纳米级(1c)工艺的16Gb(Gigabit,千兆比特)DDR5 DRAM。由此,公司向世界展现了10纳米出头的超微细化存储工艺技术。
美光科技计划收购友达光电旗下的两家工厂,将主要用于扩充先进封装与高带宽内存(HBM)生产线。美光科技表示,此次收购的厂房将主要用于前段晶圆测试,以支持其在台中和桃园的DRAM生产扩张。
许多拥有大型语言模型(LLM)的供应商的收入运行率表明,2024 年的收入增长将达到三位数……
本次报告的测评涵盖了市面上最热门的八个Chatbot App:kimi智能助手、豆包、海螺AI、天工、通义、文心一言、讯飞星火以及智谱清言(按照公司拼音首字母顺序排列)。
9月10日,芯片行业年度嘉年华“2024新思科技开发者大会”在上海成功举办,汇聚全球科技领袖,与全场芯片开发者们一起探讨如何加速从芯片到更广泛科技领域的创新,共创万物智能时代。
新思科技40G UCIe IP 全面解决方案为高性能人工智能数据中心芯片中的芯片到芯片连接提供全球领先的带宽
9月11日,大众汽车宣布终止自1994年以来就生效的长期就业保护协议,该协议已具有30年历史,旨在保护工作岗位至2029年。然而,大众决定在明年年中提前结束该协议,增加了其明年可能进行大幅裁员的可能性
亚化咨询重磅推出《中国半导体材料、晶圆厂、封测项目及设备中标、进口数据全家桶》。本数据库月度更新,以EXCEL表格的形式每月发送到客户指定邮箱。中国大陆半导体大硅片项目表(月度更新)中国大陆再生晶圆项
是德科技和爱立信在2024年IEEE国际通信大会上展示Pre-6G网络原型,该网络使用爱立信为潜在新频谱量身定制的预标准协议栈,这也代表着验证6G协议栈的最初一步已经启动演示在爱立信基站测试床和是德科
文|拎壶冲零跑汽车成为第三家月销量破3万的造车新势力,后台有很多读者问,为啥是零跑,而不是其他?想来也是,没有疯狂的促销和迭代,没有花里胡哨的配置以及相关营销活动,零跑就站上了销量Top3的位置,这说
近日,清华系AI创业公司无问芯穹完成了近5亿元A轮融资,这是国内AI基础设施公司最大单笔融资,累计融资近10亿元。据悉,本轮融资联合领投方为社保基金中关村自主创新专项基金(君联资本担任管理人)、启明创
一凡 发自 副驾寺智能车参考 | 公众号 AI4AutoMobileye反复横跳,又放弃激光雷达了。最近,Mobileye发表声明,在审查技术路线后,决定放弃激光雷达的研发。Mobileye的决定,一
 智能汽车网络与数据安全新媒体 (谈思汽车讯)9月10日,有网友发布的一段视频显示, 一疑似理想车主启动自动泊车功能后下车离开,车辆在开始泊车时来回倒腾几次就是停不进车位,最后竟然在没有司机的情况,自
随着智能制造技术的不断成熟与普及,一个全新的制造业时代已经到来,智能制造已成为推动全球制造业转型升级的重要引擎。在日新月异的市场环境中,传统制造业更需加快转型升级的步伐,以智能化、精细化的生产模式,实
国芯网[原:中国半导体论坛] 振兴国产半导体产业!   不拘中国、放眼世界!关注世界半导体论坛↓↓↓9月12日消息,苹果在欧盟最高法院的爱尔兰税收案件中败诉,这意味着苹果将支付高达130亿欧元(约10
9月11日,“工信微报”发文称,工业和信息化部近日印发《关于推进移动物联网“万物智联”发展的通知》,旨在提升移动物联网行业供给水平、创新赋能能力和产业整体价值,加快推动移动物联网从“万物互联”向“万物