数据存储,下一代技术方向在哪?

云脑智库 2021-07-26 00:00


来源 | 全栈云技术架构

智库 | 云脑智库(CloudBrain-TT)

云圈 | “云脑智库微信群”,请加微信:15881101905,备注研究方向



进入移动互联网时代,存储应用场景急剧变化,下一代数据存储技术应运而生。下一代数据存储技术主要指在存储介质、存储架构、存储协议、应用模式及运维模式等方面迭代创新的一系列技术的集合,总体呈现出高性能、易于扩展、服务化和智能化等特点。



本文参考自中国通信院“下一代数据存储技术研究报告”,文章将从这五个方面对下一代数据存储技术的演进进行梳理与分析。


(一)存储介质演进 

1、全闪存储

全闪存储指全部由固态存储介质构成的独立存储阵列或设备。全闪存储的高速发展,既是新应用对性能需求驱动的结果,也是闪存技术不断创新的成果。在需求侧,当前数据爆炸式增长,云计算、物联网、大数据、人 工智能、区块链等新技术快速发展,驱动人 脸识别、 自动驾驶等新智能应用不断涌现,业界已进入智能驱动的新数据时代。这一时代,数据存储具有三大需求,分别是EB 级容量、亿级IOPS(每秒进行读写操作的次数)和智能管理,亿级 IOPS 需求使得存储介质的变革势在必行。


在技术侧,全闪存储普遍被认为是存储行业的发展方向,其具备远高于传统磁盘存储的数据吞吐能力及更低的时延。数据显示,固态硬盘对比机械硬盘,拥有更快的读取速度、更低的功耗以及更低的故障几率,实现了对机械硬盘性能的全面超越,为底层存储介质的替换提供了客观条件。

在产品侧,各大存储厂商均推出了全闪存储产品。如华为的OceanStor Dorado 及浪潮的 HF 系列产品。以 OceanStor Dorado 为例,相较传统机械存储,在存储性能委员会(SPC)的 SPC-1 基准下,业务性能提升了5倍;在数据库场景下,业务性能提升了10 倍;在虚拟桌面场景下,在Word/PowerPoint/Excel应用测试中,启动响应时间缩短 80%。充分体现了全闪存储产品优异的性能。


2、非易失性内存

非易失性内存(Non-Volatile Memory,NVM)是指断电后,存存的数据不会消失的存储器,是存储技术领域近十余年来最具革命性创新。依据技术原理,非易失性内存介质可分以下几类。

为开发出比传统非易失性存储介质更高速、更低功耗、更高密度、更可靠的新型非易失性存储介质,研究者们把目光聚焦到一些特殊材料上,提出了一些存储介质模型。下表对这五种存储介质的存储原理、优缺点及发展状况进行了简要介绍。



随着存储技术的发展和人们对存储性能的不懈追求,高性能存储的探索开始向内存通道迁移。非易失性双列直插式内存模块(Non-Volatile Dual In-Line Memory Module,NVDIMM)便在这中趋势下应运而生。根据电子器件工程联合委员会标准化组织的定义,有三种NVDIMM 的实现方式∶


(1)NVDIMM-N 指在一个模块上同时放入动态随机存取存储器(DRAM)和闪存。通过使用一个小的后备电源,为掉电时数据从 DRAM 拷贝到闪存中提供足够的电能,当电力恢复时,再重新加载到DRAM 中。


(2)NVDIMM-F指使用了DRAM的 DDR(双倍速率,DoubleData Rate)总线 Flash 闪存,一定程度上减少协议带来的延迟和开销,但只支持块寻址。


(3)NVDIMM-P是真正 DRAM和 Flash闪存的混合。它既支持块寻址,也支持类似传统 DRAM 的按字节寻址。容量可以达到类似 NAND 闪存的 TB 级,又能把延迟保持在102方纳秒级。Intel 发布的基于 3D XPoint 技术的英特尔傲腾持久化内存,可认为是 NVDIMM-P 的一种实现。


非易失性内存的出现填补了从硬盘到DRAM之间,存储在性能、延迟、容量成本的鸿沟,为多样化的解决方案奠定了坚实的基础。非易失性内存技术能够存储不适用于DRAM 的庞大数据集,进行快速计算,同时与其他存储介质共同组成多级存储池,让数据更加靠近处理器,提升存储系统的整体性能表现。


(二)存储架构演进

大数据、云计算和虚拟化等技术的出现,使得传统的IT 架构难以满足企业日益增长的数据存储需求。为应对这一挑战,软件定义存储(SDS,Software Defined Storage)和超融合基础架构(HCI,Hyper-Converged Infrastructure)应运而生,打破了传统 IT 系统复杂和繁冗的现状,优化了网络的可扩展性和管理方式。


1、软件定义存储

企业对数据服务的需求变得更加复杂、精细和个性化,对数据存储的高可靠性、高性能、高扩展以及面向云架构的延伸能力等层面提出了更高的要求。虚拟化和云技术的发展和成熟转变了数据中心的设计、建造、管理和运维方式,这种变革使软件定义存储越来越有吸引力。



软硬解耦、易于扩展、自动化、基于策略或者应用的驱动是软件定义存储的特征。就业务应用来说,即不限制上层应用,不绑定下层硬件;除了提供块存储,也可以在同一平台提供文件、对象、HDFS 等存储服务,实现非结构化数据的协议互通;同时应具备完善的监控能力,实现应用感知。



软件定义存储产品在提供高可靠和高可用服务能力的同时,集成了数据智能处理和分析能力, 简化了海量数据处理所需的基础设施,帮助客户实现数据互通、资源共享、弹性扩展、多云协作,有效降低用户的使用成本。Gartner 报告指出,通过使用 XSKY的 XEDP数据存储平台,企业用户实现整体使用成本降低 54%。


2、超融合基础架

构超融合基础架构是一种软件定义的 IT 基础架构,它可虚拟化常见"硬件定义"系统的所有元素。超融合基础架构包含的最小集合是∶ 虚拟化计算、虚拟存储和虚拟网络; 超融合系统通常运行在标准商用服务器上。



超融合基础架构除对计算、存储、网络等基础元素进行虚拟化外,通常还会包含诸多 IT 架构管理功能,多个单元设备可以通过网络聚合起来,实现模块的无缝横向扩展,形成统一资源池。


超融合基础架构通过为企业客户提供一种基于通用硬件平台的计算存储融合解决方案,为用户实现可扩展的 IT 基础架构,提供高效、灵活、可靠的存储服务。


超融合由于其融合部署架构,可有效协调虚拟化和存储高可用联动的问题,从而以非常简洁的架构提供不同级别的高可用方案。



存储系统整体性能的大幅提升。分布式架构提升了系统整体的聚合性能,可以在不改变硬件配置下进一步降低访问延迟。


(三)存储协议演进

在存储系统中,HDD 磁盘和早期 SSD 磁盘的传输协议一般采用AHCI(高级主机控制器接口,Advanced Host Controller Interface)。AHCI为单队列模式,主机和 HDD/SSD 之间通过单队列进行数据交互。对于HDD 这种慢速设备来说,主要瓶颈在存储设备,而非 AHCI协议。不同于 HDD的顺序读写特点,SSD可以同时从多个不同位置读取数据, 具有高并发性。AHCI 的单队列模式成为限制 SSD并发性的瓶颈。随着存储介质的演进,SSD盘的 IO 带宽越来越大,访问延时越来越低。AHCI 协议已经不能满足高性能和低延时 SSD的需求,因此,存储系统迫切需要更快、更高效的协议和接口,NVMe(NVM Express)协议应运而生。


NVMe协议旨在提高吞吐量和IOPS,同时降低延迟。基于NVMe的驱动器可实现高达 16Gbps 的吞吐量,且当前供应商正在推动 32Gbps 或更高的吞吐量产品的应用。在 IO 方面,许多基于NVMe 的驱动器,其 IOPS可以超过 50 万,部分可提供 150 万、200万甚至1000 万 IOPS。与此同时,延迟持续下降,许多驱动器的延迟低于20 微秒,部分低于10微秒。


凭借卓越的性能,NVMe SSD在 2018-2023 年间以 38%的复合年增长率持续增长,2020 年占据企业级 SSD出货量的 55%以上,云客户、OEM 厂商和企业均将NVMe SSD 作为存储设备的首选。


在网络协议层,30年来,存储网络都是以 SCSI(小型计算机系统接口,Small Computer System Interface)协议为基础框架,前端传输网络层一直以 FC(光纤通道,Fiber Channel)网络为主,后端则以 SAS(串行 SCSI技术,Serial Attached SCSI)网络为主,这构成了服务器间以IP 为主要互联手段的 IP 存储网络。



2010年后,随着闪存介质的普及,SCSI协议框架对性能的限制也越来越突显出来。NVMe 和 NVMe Over Fabric(NVMe-oF)技术的出现打破了这些限制,面向高性能介质设计的多队列模型更能发挥闪存介质的性能。NVMe-oF 推动IP 化、低时延化,基于 IP 网络的 NVMe-oF 技术不但使得前端存储网络可以基于 IP直接与本地局域网连接,甚至可以直连广域网;同时,利用 NVMe-oF 技术小于10us 的超低附加时延,使得替换后端 SAS 网络也成为了可能,整个数据中心可以基于统一的以太网来构建; 一方面降低整个数据中心的建设成本,一方面降低独立存储网络的运维成本,同时有利于云及大数据应用环境下的数据共享。



华为 NoF+存储网络是 NVMe-oF 技术一个典型应用,在OLTP/OLAP(联机事务/分析处理过程)场景,IOPS 最高提升 85%,拥塞时延最大降低 46%,端到端故障切换时间<1s,充分体现新协议对网络性能的巨大提升。


(四)应用模式演进

云存储是基于云计算相关技术延伸和发展而来的全新应用模式。云存储的内核是应用软件与存储设备相结合,通过应用软件来实现存储设备向存储服务的转变。本质上,云存储是一种服务,是由多个存储设备和服务器所构成的集合体。


通过解耦,计算与存储可以在云数据中心独立扩展,提供调度和资源共享的灵活性,提高资源使用效率,降低成本。其次,计算和存储可以更加灵活的针对不同负载进行优化。网络技术的高速发展,个位数微秒的延时、百 G 级别的带宽,使得计算和存储分离、分布式存储等架构在稳定性和性能等领域变得更加高效。对于行业用户而言,云存储的价值主要体现在以下三个方面∶


  • 提供诸如块存储和文件存储等标准化的存储方式。云存储提供标准化接口,使客户能够直接迁移数据,避免应用的大量修改。
  • 存储系统的服务化。在云计算时代,云存储将存储系统演化成一种云服务,用户只需要关心自己的业务逻辑即可。
  • 存储系统的开放化。云存储服务提供众多管理与控制的API,通过开放接口,使得用户可以通过编程调用 API 管理与监控存储资源,实现跨平台的管理。

云存储在发展的过程中也面临着诸多挑战,为满足云时代发展的需求,新一代存储需要不断演进。


未来云存储技术主要呈现出集成设计能力不断加强,云上大规模运维能力的不断提升云存储产品形态不断丰富三点趋势


(五)运维模式演进

随着数字化转型的加速,企业用户需要更加敏捷地响应快速变化的市场需求。不仅是业务模式,IT基础架构的革新在其数字化转型中也是非常关键的一部分。现代化的应用、多数据中心、多云及边缘等趋势在加速业务的同时,也对运营管理带来了巨大的压力,靠人力投入完全管控存储系统变得不可维系。运维团队急需新技术协助,智能运维平台应运而生。


智能运维指利用大数据和机器学习等方法提高运维的自动化、效率及故障自愈的技术,同时利用机器智能从运维数据中持续挖掘深层信息,是一种结合工程能力与算法能力的综合性科学。智能运维常用于集群自动扩缩容、服务变更、库存管理等日常管理事务以及异常定位、根因分析、系统自愈等异常处理事务。


智能运维架构主要由两部分组成,集成了众多传感器的服务器、存储设备和基于云端的智能运维平台。通过数据收集、转换及训练对基础架构中可能出现的问题做出预测并提供建议。智能运维技术的主要特点有∶


  • 主动式问题处理∶ 智能运维平台能够对简单问题自动进行处理;对于复杂的问题,能够自动开具工单,通过支持中心分派工程师主动联系用户,帮助用户发现和解决问题。

  • 智能需求预测∶ 通过人工智能、机器学习等技术,实现对存储未来容量、性能的提前预测,便于客户提前规划。

  • 智能风险预防∶ 除了预测分析外,领先的智能运维平台还能做到对风险的预防,主动优化 IT基础架构,通过黑、白名单等功能特性预防已经发现的问题,并给予可行的建议。

  • 云上管理∶ 基于云创建的智能运维平台,可以让 IT 运营团队随时随地以任意终端访问智能运维平台,查看运行状态;云端自动升级,在新特性上线时,不会影响用户的日常使用。


随着下一代数据存储技术的发展和成熟,性能不再是困扰用户的首要难题,各存储供应商也逐渐将注意力放到智能运维上,希望能够提供更丰富的功能、更好的使用体验。未来智能运维平台的发展呈现出以下两点趋势。


  • 一站式分析。存储的智能运维平台将逐步成为整个 IT 基础架构运维平台的核心。通过将服务器、网络、虚拟化应用逐步接入智能运维平台,能够提供更丰富的 IT 运行状态数据,帮助智能运维平台判断故障和瓶颈。

  • 离线智能。由于监管因素的限制,部分企事业单位无法使用基于云的智能运维平台。存储厂商开始考虑提供离线智能运维平台,通过集成智能运维平台知识库,提供基于本地的性能瓶颈分析、容量和性能的预测、硬盘故障预警等功能。


现今,智能运维已成为热 门存储技术,并在实践中逐步应用,提供更好的用户体验。如新华三的InfoSight 智能运维系统,企业用户通过使用智能运维系统,86%的问题得到自动解决;平均给出解决方案的时间小于 1 分钟;93%的问题能够自动提交 工单; 用户满意度高达到 98.2%。

- The End

声明:欢迎转发本号原创内容,转载和摘编需经本号授权并标注原作者和信息来源为云脑智库。本公众号目前所载内容为本公众号原创、网络转载或根据非密公开性信息资料编辑整理,相关内容仅供参考及学习交流使用。由于部分文字、图片等来源于互联网,无法核实真实出处,如涉及相关争议,请跟我们联系。我们致力于保护作者知识产权或作品版权,本公众号所载内容的知识产权或作品版权归原作者所有。本公众号拥有对此声明的最终解释权。

投稿/招聘/推广/合作/入群/赞助 请加微信:15881101905,备注关键词

微群关键词:天线、射频微波、雷达通信电子战、芯片半导体、信号处理、软件无线电、测试制造、相控阵、EDA仿真、通导遥、学术前沿、知识服务、合作投资.

“阅读是一种习惯,分享是一种美德,我们是一群专业、有态度的知识传播者.”

 阅读原文加入知识星球,发现更多精彩内容.

   ///  先别走,安排点个“赞”和“在看” ↓  

云脑智库 努力是一种生活态度,与年龄无关!专注搬运、分享、发表雷达、卫通、通信、化合物半导体等技术应用、行业调研、前沿技术探索!专注相控阵、太赫兹、微波光子、光学等前沿技术学习、分享
评论
  • 在物联网无线通信领域,随着行业应用场景的不断拓宽,同一频段下的设备通信需求正呈指数级增长,然而这一增长趋势却与频谱资源的有限性形成了鲜明对立,信道拥挤、信号串扰与非线性失真等不良现象所造成的“通信压力”正在持续放大。从智能家居的设备互联到工业物联网的实时控制,从智慧楼宇的广域组网到智慧城市的海量数据传输,有限的频谱资源不仅需要满足不断增长的设备通信需求,还需要适配不同场景对速率、时延与可靠性等差异化要求。在此背景下,如何在有限的频谱资源中实现更为稳定的无线通信质量,已成为物联网行业发展路径中的核
    华普微HOPERF 2025-07-07 16:13 668浏览
  • 在全球广泛倡导绿色低碳与可持续发展的时代浪潮中,新能源汽车作为实现节能减排的重要载体之一,正受到各国政府与企业的加速培育。在此背景下,为提升新能源汽车的市场渗透率,我国已率先进入充电基础设施建设的加速期,从私人专用充电桩到社区公用充电桩,从高速路网补能节点到城市公用充电桩,汽车补能网络正在急速膨胀中。图源:摄图网(已授权)据中国充电联盟(EVCIPA)最新统计数据显示,截止2025年5月份,我国充电基础设施累计数量为1440万台,同比上升45.1%。其中,在2025年1月~5月期间,我国充电基础
    华普微HOPERF 2025-07-09 16:13 353浏览
  • 工业物联网时代,作为一种普遍应用在汽车电子、工业控制与医疗器械等领域中的串行总线通信技术——CAN(Controller Area Network)总线基于消息广播模式,通过双绞线传输差分信号,是一种多主控(Multi-Master)的总线系统,具备极强的抗干扰能力、极低的传输延迟和高速数据传输性能。一种典型的CAN总线网络示意图在CAN总线通信过程中,CAN收发器作为物理层上的接口芯片,位于CAN控制器(MCU)和CAN总线之间,主要负责将来自CAN控制器(MCU)的数字信号与总线上的差分信号
    华普微HOPERF 2025-07-04 14:44 1979浏览
  • 本文主要针对分立方案高速输出电路,由于MOS管、稳压管、PCB布局布线都存在一些寄生电容,这些寄生电容都会影响高速输出电路的占空比,所以本文对这些寄生电容的影响进行简单说明。测试工况:电压:24V,负载类型:阻性负载2K,输出频率:200Khz,要求占空比45%~55%;电路拓扑如下图所示:图1寄生电容分布情况:如下图所示,MOS管寄生电容为Cgd、Cgs、Cds,稳压管寄生电容为Cd;图2而MOS管手册常见的参数如下图所示为Ciss、Coss、Crss(为啥是这些参数,而不改成Cgs、Cgd、
    用户1751282873645 2025-07-08 23:58 265浏览
  •   去年底,整理旧物,扔的扔了,留的留了,这不,十四个几十年前留下来的工业级小型排风扇,下图左上角处,又拿出来,下决心把它们再利用发挥余热。  呵呵,这回不是拆而是装了。怎么装呢?组装、固定、机架、接线,简单,也不简单,原则是一切都用手头现有废旧材料,争取做到一个不买!DIY,废物利用,如今时髦的话,以旧换新!摆上台面,找来木条,策划怎么做?  比一比,看一看,觉得合适,按尺寸锯开木条。  咋走线?想到了,在有限空间内弯转,从一个螺丝孔穿出来,整体拼凑整齐。   咋固定风扇呢?找来木片条,锯断,
    自做自受 2025-07-06 21:37 625浏览
  • 据知名市场研究机构Counterpoint Research发布的数据概览,2025年第二季度,中国智能手机销量预计将迎来小幅回暖,增长率约为1%。在这场销量微增的背后,华为与苹果两大品牌成为了推动市场前行的核心力量。其中华为手机的表现最为亮眼,数据显示,华为在中国市场的智能手机销量份额实现了12%的同比增长,这一成绩不仅使其成为了当季增长最快的品牌,更助力华为重新夺回销量榜首的位置。相比之下,vivo的表现就有些尴尬了。虽然还是位列第二,但vivo在第二季度的智能手机销量份额同比下降了9%,下
    用户1742991715177 2025-07-09 08:19 290浏览
  • 在万物互联浪潮席卷全球的时代背景下,数字气压传感器作为物联网环境感知层的核心硬件之一,正凭借精准、实时的数字化气压测量能力,快速消融着现实世界与数字世界之间的沟通壁垒,其不仅能为物联网终端提供与环境进行对话的“媒介语言”,还能与其他环境感知技术形成协同效应,是物联网社会实现高效沟通的基石之一。数字气压传感器主要通过检测压敏元件在不同环境气压下的电信号变化,实现对气压的测量,并能直接输出数字信号以满足物联网终端对气压数据的传输、储存与记录等需求。现阶段,由于数字气压传感器具备着低功耗、高精度、快速
    华普微HOPERF 2025-07-01 09:20 1651浏览
  • 在数字化、自动化高速发展的今天,光电耦合器正以一种低调却不可或缺的方式,悄然改变着我们的生活。它不仅是电子电路中的“安全卫士”,更是连接信号世界的“桥梁”,凭借出色的电气隔离能力,为各类设备提供稳定可靠的信号传输保障。电气隔离——让系统更安全在工业控制系统中,安全始终是重中之重。光电耦合器通过光信号进行电气隔离,能够有效防止高压电流侵入低压控制电路。例如,在智能电网系统中,它广泛应用于电表与通信模块之间,确保数据传输的安全性,防止电网高压对低压设备造成冲击。在电动汽车的电池管理系统(BMS)中,
    腾恩科技-彭工 2025-07-05 13:56 471浏览
  • 曾经靠“砍一刀”撕裂传统电商格局的拼多多,如今疲态尽显。数据显示,拼多多今年第一季度实现营收957亿元,同比增长10%,市场预估1016亿元,相比预期低了近60亿元;经营利润为161亿元,相比去年同期下降38%;归属于普通股股东的净利润为147亿元,同比下降47%。与此同时,拼多多市值也坐上了“过山车”。去年市值一度突破 2180 亿美元,力压国内电商巨头阿里,今年(7月1日收盘)市值仅余 1497.59 亿美元,已不足阿里(市值2718.63亿美元)一半
    用户1742991715177 2025-07-05 14:24 469浏览
  • 现代人对于影音效果的追求持续增加,在多数影音产品中,HDMI是最为重要的接口,而HDMI 2.1中有一新增功能eARC可以透过HDMI线材来传输数字Audio,除了支持Dolby TrueHD、Atoms等声音格式外,也可以支持8声道喇叭,满足消费者对于声音的追求。新时代的高阶电视都具备支援eARC的功能,然而却有些号称支持的电视产品,因为在设计上的疏忽,造成eARC无法输出8声道Audio,以致eARC的功能大打折扣,对于花大钱欲享受高规格电视的消费者来说自然难以接受,对于该电视品牌也会产生负
    百佳泰测试实验室 2025-07-04 14:42 2032浏览
  • 提要:采用LOXIM的微孔雾化专用芯片LX8201,能突破压电陶瓷驱动电压超标(24伏)的技术难题,满足全球市场对喷雾玩具的电压安规认证要求。玩具行业尤其是喷雾玩具行业内人士都知道,喷雾玩具的压电陶瓷驱动电压超标(常需60-100V)与强制安规标准(中国,日本,欧美,都一样)对玩具电压的限制(≤24V)存在根本性冲突,如果采用“多层压电堆叠(MPA)技术“(比如日本TDK公司),成本将增加至现有微孔雾化片的10倍以上,这个矛盾一直没有得到好的解决。喷雾玩具在国内热销(淘宝/抖音),能卖的原因,无
    Loximonline 2025-07-08 10:55 309浏览
  • 什么是LoRaWAN? LoRaWAN技术及应用LoRaWAN(Long Range Wide Area Network)是一种低功耗、长距离、广域网络通信协议,特别设计用于连接物联网(IoT)设备。LoRaWAN采用无线通信技术,能够覆盖数十公里的范围,提供长时间的电池寿命,适用于智能城市、农业、工业自动化、环境监测,与健康医疗等领域应用。来源: LoRa Alliance一探究竟:LoRaWAN物联网应用优势营运商采用 LoRaWAN 具有多方面的优势,除了长距离覆盖范围及低功耗的特点外,还
    百佳泰测试实验室 2025-07-10 14:51 410浏览
  •   几个月前,一个老旧的大风扇的散风圈(俺不知其专业名称)的开关按钮不起作用,就是锁不住了,散风圈也就不转了。今天,有空,就拿到工作台,开始拆解分析故障原因,能修好更好。  看看,用的时间够长了吧!皮肤都变颜色了。看标签,合格品2005年的。  底部四个螺丝固定,很容易拆开了。  看到掉下一个标签圆纸片,拿起来看看,是那个横向摇头的电机的。  找到那个按钮开关位置  应该是开关内部的有缺陷了。把它拆下来,一看就是正规合格品。  拿出我日积月累的分类藏宝盒,呵呵,找到一款螺丝孔位正好合适的。   
    自做自受 2025-07-10 11:16 442浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦