广告

存算一体芯片,这几年可能就要覆盖从端到云

时间:2021-09-16 作者:黄烨锋 阅读:
随算力增加,处理器核心数增多,每核心可用带宽越来越少,也就限制了整体速度。“搬运数据,成为相当大的瓶颈。”“与此同时能耗也成问题。”从外部存储器,和片内存储搬运数据的能耗差别巨大;而且“数据搬运时间是运算时间的几百倍、上千倍。”
广告

有关存算一体、存内计算的概念,此前我们撰文探讨。尤其在AI发展的时代背景下,存储墙问题越来越成为算力持续提升的瓶颈,所以业界就提出了非冯(non-von Neumann)架构,将传统、以计算为中心的冯诺依曼架构,变换计算范式,将部分算力下推到存储,也就有了存内计算的说法。

这个概念有不同的实施方案,通常这种存算一体结构,可理解为在存储器中嵌入算法,存储单元本身就有计算能力,从理论上消除数据存取的延迟和功耗。这种芯片格外适用于神经网络。

昨天的第二届中国(上海)自贸区临港新片区半导体产业发展高峰论坛的“芯”品路演活动中,北京知存科技有限公司CEO王绍迪谈到了自家的WTM2101:存算一体芯片;以及未来今年内知存的战略规划。

解决存储墙问题

王绍迪给出的下面这张图中,提及了存储墙问题存在的一些典型数据;主要反映的是,随着工艺技术的进步,处理器计算能力越来越强、运算速度越来越快,存储容量越来越大,但存储器带宽却难以获得同比增长。

随算力增加,处理器核心数增多,每核心可用带宽越来越少,也就限制了整体速度。“搬运数据,成为相当大的瓶颈。”“与此同时能耗也成问题。”从外部存储器,和片内存储搬运数据的能耗差别巨大;而且“数据搬运时间是运算时间的几百倍、上千倍。”

“这也是为什么要做存算一体方案。解决存储墙最根本的方案,就是把存储和计算融合到一起,用存储单元去做计算。”王绍迪说。

“存内计算这个名字可能更好,就是用存储器去做计算,整体还是计算类型的芯片。其计算介质是存储器,不是逻辑运算单元。”上面这张图对比了两者的结构区别,其中的圆圈代表存储单元。

和传统计算架构存储子系统每次激活一行,并依次完成数据读取不同;存算一体架构同时激活多行多列。“横轴不再是选择信号,实际上是被处理数据。”过程中需转换为模拟电路——此前我们也提过利用单一器件的欧姆定律完成一次乘法,然后利用基尔霍夫定律完成列累加。以此使用存储器件单元完成乘加计算。

“一个存储器运算周期可以完成100万次参数乘法和加法运算,效率提升50-100倍。”显然这对AI而言就相当有价值了。

在更具体的使用场景方面,面向从端侧到云的AI计算,做算力弹性扩展在存算一体的芯片产品上似乎也具备了天然的优势。“2MB、4MB、8MB存储器算力相对更低,可以给端侧设备去用;存算一体阵列到128MB,就可以给边缘侧了;存储容量达到1GB、2GB、4GB,可提供超过1000TOPS的算力,使用云端场景。”

“存算一体会花5-8年的时间去覆盖AI运算场景,就从端侧和边缘侧开始。”王绍迪说。上面这张图也明确给出了不同场景的AI芯片,未来的市场规模及其发展潜力——这些应当也是众所周知的了。

从知存1.0到知存3.0

从知存这家公司的发展轨迹来看,两名创始人比较早就有参与美国存算一体项目研发的经验;2017年成立知存科技,并于次年拿到天使轮融资。这还是相当年轻的一家企业。2019年,知存“与国际知名公司开展存算一体IP研发合作,并完成IP和SoC测试芯片的流片,发布国际上首个存算一体芯片”。

2020年,知存完成“国际首个存算一体芯片量产投片”,以及“国际首个存算一体SoC芯片验证”。这次王绍迪介绍的WTM2101存算一体芯片预计于今年第四季度量产。看起来“存算一体”这个概念的发展速度远比我们预想中的快。

上面这张图左侧为WTM2101芯片架构图,有存算一体的存储器主体部分“大部分运算都通过存算一体完成”;另外也配了RISC-V CPU,提供非矩阵类运算。

“对比现有市场方案的算力、功耗,WTM2101都有10倍以上的优势。”虽然并不清楚这张图中“市场现有方案”究竟是什么方案,但WTM2101这一栏所标的算法复杂度与功耗,的确都相当令人惊叹。

除了介绍产品以外,王绍迪还谈到了知存的战略规划。从公司成立到2020年是“知存1.0时代”,这一阶段“研发存算一体技术,并应用于语音场景”,王绍迪也再次强调了“我们是国际上首个技术落地的公司”。

从今年到2024年属于知存2.0规划期,“进一步推进,推进到128MB,实现64-100TOPS算力级别,覆盖端侧、边缘侧场景。我们会选择优势场景去落地应用。”

而在2024年以后,芯片“推向云端”,以1GB容量做到500-2000TOPS算力区间,且产品实现车规级的可靠性。“2025年之后,计划推出标准化产品。之后产品不再以应用场景落地为导向,而是像存储器那样提供不同的容量,和现有计算系统做整合,以先进封装技术完成这样的整合。”“同时我们也推出对应的工具链,完全适配存算一体技术,去适配主流的人工智能算法。”

注意这张图横轴的营收与纵轴市值预期,都表明这家公司在未来短期内的发展信心就相当充足。或许这张图本身也能代表存算一体技术未来几年内的发展趋势。

责编:Luffy Liu

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
黄烨锋
欧阳洋葱,编辑、上海记者,专注成像、移动与半导体,热爱理论技术研究。
  • 如何打造全方位有国际竞争力的半导体设备公司? 数码产业的发展是一场深刻的工业革命。美国公司预测, 2020年数码产业的产值在全球企业 总产值占比41%。到2035年数码产业的产值极有可能会超过全球企业总产值的 50%,数码工业和传统工业是世界经济的两大支柱。而以微观加工为基础的数码产业的四个基本层次—半导体设备是数码产业的基石。
  • SIA:7月全球半导体行业销售额达454亿美元,创月度纪录 从今年2月开始,全球半导体行业销售额每月都在增加。SIA称,从地区来看,半导体行业销售额同比增长最快的是欧洲地区,其次是亚太地区/所有其他地区、中国、美洲和日本。
  • 2020 vs. 2019前十大DRAM模组厂排名、营收及市占对比 2020年全球前五大存储器模组厂占整体市场销售额近90%;前十名则囊括全球存储器模组市场近95%的营业额,其中,金士顿(Kingston)单一家市占逼近八成,虽市占较2019年小幅下滑,但仍持续蝉联全球第一,受到当时疫情的不确定性影响,金士顿采取较为保守的销售策略,年销售成长约2%。
  • 解决人工智能内存的瓶颈到底需要靠什么呢? 人工智能发展到如今的地步,在行业内已经有很多声音都在讨论,目前内存才是人工智能的最大瓶颈,由于无法加速处理器和内存之间的数据传输,内存性能的瓶颈阻碍了目前的现实应用。
  • 全新品牌“闪迪大师”如何赋能影视行业专业人士? 2021年8月18日,西部数据在中国电影起源和百年魅力的上海电影博物馆隆重揭幕SanDisk Professional闪迪大师品牌,它是为全球专业人士所打造的高品质系列存储解决方案。在会上,现场上海电影博物馆和多位影视行业知名人士,与大家分享了在影视行业的数字化、流程化、标准化趋势下,闪迪大师如何通过其强大的产品组合,用高性能、模块化、高可靠性的解决方案为内容创作过程中的不同阶段保驾护航。
  • 边缘人工智能需求激增,创新存储方案受青睐 华邦电子日前携手瑞萨,正式确认华邦HyperRAM和SpiStack (NOR+NAND) 产品能够与瑞萨基于Arm内核的RZ/A2M微处理器 (MPU) 搭配使用。
  • 新款iPad Pro 2021成最受欢迎的 由于采用性能相对强大的M1处理器和mini-LED屏幕以及更多的创新,新款iPad Pro 2021已经成为消费者心目中最受欢迎。然而,iPad 2却已经在全球范围内被列入“复古和过时”的名单中。
  • 三星折叠屏手机Galaxy Z Fold 3 目前来看,折叠屏新机作为一种新的生产力工具,逐渐成为高端/平板的一种趋势,有报料称三星的Galaxy Z Fold 3发布时间或为7月,并且会引入新手势操控。

  • 瑞萨电子携手豪威科技提供汽车摄像 设计采用瑞萨电子的新型汽车高清链接(AHL)技术和豪威科技的OX01F10 130万像素SoC,以提供低成本的优质视频;于9月15日至16日在比利时AutoSens展会上进行展示
  • 芯查查屹立数字化潮头,赋能电子信息 全球市场对芯片需求进一步扩大,我国集成电路产业布局加快,广东、上海、浙江、天津等多地陆续公布制造业“十四五”规划,集成电路成为各地未来五年的重点发展方向。
  • 五菱再“出手” 点击上面↑“电动知家”可以订阅哦!果然是“人民需要什么五菱就造什么”,五菱芯片正式发布。电动知家消息,9月15日,2021年世界新能源汽车大会开幕首日,上汽通用五菱举办了“中国五菱,全球新能源普及者”
  • 中国厂商入局1000亿美元存储市场,将如何构建产业生态? 9月14日,主题为“存储标准-存储生态”的2021中国闪存市场峰会在深圳举行。活动吸引了存储产业链上下游人士到场,三星、美光、铠侠、长江存储、英特尔等国内外企业相关代表出席并发表演讲,共同探讨存储产业
  • 中石油,卖车! 点击上面↑“电动知家”可以订阅哦!电动知家消息,日前,据中国石油消息,其与大搜车共同打造的汽车换购店正式开业,这也是中国石油首座汽车换购店。官方表示,在这里,客户能实现买车比市场价低,卖车比市场价高。
  • 嵌入式项目可以自动生成?惊现开源生成器 实际开发中,不同的人习惯用不同的开发工具。比如,对于STM32开发来说,可以用Keil、IAR、VSCode+GCC等。比如安富莱开发板的例程中,常常都会提供有Keil及IAR的工程:有没有这样子的一
  • 「VOLANT沃兰特」完成数百万美元首轮融资,青桐资本担任财务顾问 | 青桐交易 近日, 「VOLANT沃兰特」宣布已完成数百万美元种子轮融资,由顺为资本领投、Ventech China跟投,青桐资本担任财务顾问。作为本轮融资财务顾问,青桐资本投资总监霍婷洁表示:“随着研发体系的成
  • 做新能源,这个证书很吃香! 点击上面↑“电动知家”可以订阅哦!官方唯一认证!“电池制造工程师”广东班班来了!随着新能源汽车、消费电子、智能产品、共享经济等众多终端应用市场迅猛发展,电池产品技术在快速迭代升级、电池企业规模不断扩大
  • 华为成立第3家超聚变公司,落户郑州 昨日,除了科技巨头苹果发布了几款新品之外,国内科技龙头华为也出现了新的动作。根据相关报道显示,华为近日在河南郑州成立了一家超聚变数字技术有限公司,工商信息显示该公司的法定代表人为郑丽英,注册资本7.2
  • Nano Transport:一种硬件实现的用于SmartNIC的低延迟、可编程传输层 随着摩尔定律中的物理尺寸逐渐逼近极限,但实际应用中人们逐渐通过软件的硬件定制化加速来继续延续着摩尔定律的加速使命,这里面最典型的场景就是计算机网络。如软件的TCP/IP协议栈时延较大,于是就有了硬件化
  • 单片机串口发送数据很慢?这种方法帮助你提高! 本文介绍如何使用带FIFO的串口来减少接收中断次数,通过一种自定义通讯协议格式,给出帧打包方法;之后介绍一种特殊的串口数据发送方法,可在避免使用串口发送中断的情况下,提高系统的响应速度。一种可1. 简
  • 【EMC案例】时钟辐射问题分析及解决方案 01STEPS       问题                 02
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了