广告

ReRAM助力实现更像人脑的AI系统

时间:2020-09-07 作者:Gary Hilson 阅读:
米兰理工大学开发了利用以色列业者Weebit之ReRAM技术的硬件,结合卷积神经网络(CNN)的效率以及启发自人脑的棘波神经网络(SNN)之可塑性,让硬件系统能在不忘记先前撷取信息的训练任务之情况下,再学习新事物。
广告
电子工程专辑 EE Times China -提供有关电子工程及电子设计的最新资讯和科技趋势

近期发布的一项研究成果采用了以色列业者Weebit Nano的二氧化硅(silicon oxide,SiOx)可变电阻内存(ReRAM)技术打造出类人脑的人工智能(AI)系统,号称可执行高精确度的非监督式学习(unsupervised learning)任务。

该研究成果是由意大利米兰理工大学(Politecnico Milan)的研究人员与Weebit Nano共同发表,在一篇论文中介绍了以Weebit二氧化硅ReRAM为基础实现的创新AI自主学习。ReRAM被视为最具潜力的NAND闪存技术“接班人”,因为具备速度比NAND快1,000倍、所消耗能量又比NAND低1,000倍的优势,而且能以现有的制程生产。

有多家研究机构着眼于将ReRAM应用于AI领域,米兰理工大学就是其中之一;该校开发了利用Weebit之ReRAM技术的硬件,结合卷积神经网络(CNN)的效率以及启发自人脑的棘波神经网络(spiking neural networks,SNN)之可塑性,让硬件系统能在不忘记先前撷取信息的训练任务之情况下,再学习新事物。此外,该系统藉由调整运作频率来达到省电的目的,号称能藉此实现自主性AI系统的“终身学习”解决方案。

这项研究是由米兰理工大学教授Daniele Ielmini的团队所执行,目标是解决人工神经网络(ANN)──即便他们的物体识别能力胜过人类──无法不忘记先前的训练任务、再撷取新信息的缺点。Ielmini接受《EE Times》采访时表示,团队的研究成果展现了能调整运作频率以达到省电目的之电路可塑性。并能实现50%未经训练分类的连续性学习;这种分类上的优化以及过滤器的重新训练,克服了标准ANN会“遗忘”的重大缺点。

Ielmini表示,AI系统迄今遭遇的最大挑战,是能学习的东西有限制;举例来说,如果硬件系统已经接受训练去识别特定的数字,它就只能识别被训练过的数字,却无法识别额外的数字。类似地,系统无法标识符母,因为它只学过数字。

他进一步指出,研究团队的目标就是开发一种以ReRAM技术为基础、具备连续学习能力的新硬件,而且他们开发的推论系统也展现了能学习比被教过的东西多50%以上的能力;举例来说,该硬件被训练了100种图形,却仍能识别额外100个未被训练过的图形,“这实际上是我们的大脑进行学习时的情况。”

Ielmini解释,基本上,当大脑看到某个认得出的东西,就会有一个代表该目标的神经元被触发;每一次该神经元被触发,就会消耗能量。因为大脑会想要节省能量,会有一种内部回馈机制降低神经元触发的阈值,最终实现终身学习。团队研究人员就是以采用ReRAM的硬件来模仿人脑的架构,实现系统的高能源效率;“这是现今AI硬件很大的一个限制。”

Weebit Nano对于米兰理工大学的研究成果并不感到意外,该公司执行长Coby Hanoch表示,他们与Ielmini及其团队密切合作了三年以上的时间。“能展现二氧化硅ReRAM不仅能作为先进内存,也能实现其他先进应用,对我们来说相当重要;”他指出,Weebit Nano一直深信ReRAM具备在神经形态等先进应用上的庞大潜力。

Hanoch强调,Weebit Nano与众多研究人员合作开发ReRAM的潜在应用,与米兰理工大学的合作成果为目前的AI系统添加了可塑性。他指出,今日常见的AI系统是以监督式学习为基础,需要花费庞大的精力来训练系统,而且训练后只能执行被训练的单一任务;但人脑是能够在不需要被大量训练的情况下分类物体,这是因为具有可塑性、只要几张影像就能投射。

不过就算Weebit Nano对神经形态AI应用持续看好,Hanoch表示,身为一家商业公司、也是尚未产生营收的新创公司,他们还是将焦点集中在透过市场上的嵌入式产品或是开发独立式ReRAM产品,来产生初始营收。

“无论如何,我们准备好迎战被认为将颠覆半导体产业的神经形态系统未来应用,”他指出:“像是Google、Facebook、Microsoft、Intel等公司都在该领域投入很多精力,因为他们相信其巨大潜力,以及需要改善目前得在云端布署大量硬件、能源消耗量非常高的ANN系统。”

Weebit已经在二氧化硅ReRAM的内存应用与设计创新方面,申请了多项聚焦于制造、优化与编程技术的专利;Hanoch指出:“ReRAM组件将会是未来以ReRAM为基础之神经形态系统的基础。”

举例来说,该公司最近与长期合作伙伴──法国研究机构Leti合作的专利,定义了一种在ReRAM中实现更强韧多层储存的有效方法,能实现在每个内存单元储存超过1位以上的功能。这能提升内存的储存容量,又不需要增加内存单元的数量或内存数组的规模,使得该内存技术更具成本效益。

虽然上述方法是以Weebit Nano的二氧化硅ReRAM为基础,也能够扩展到其他ReRAM内存技术上;Hanoch表示,“我们相信我们的专利能被众家想要实现MLC的ReRAM公司采用,就算是不需要用该技术实现MLC的公司,如果想要实现更多层也会需要这种方法。”

而Weebit Nano也不是唯一开发ReRAM在AI应用领域潜力的公司──在2020年初,ReRAM制造商Crossbar和其他几家公司共同成立了一个名为SCAiLE (SCalable AI for Learning at the Edge)的AI联盟,致力于实现利用ReRAM的节能AI平台。

编译:Judith Cheng    责编:Yvonne Geng

(参考原文 :ReRAM Research Improves Independent AI Learning,By Gary Hilson)

电子工程专辑 EE Times China -提供有关电子工程及电子设计的最新资讯和科技趋势
本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
Gary Hilson
EE Times特约编辑。Gary Hilson是一位自由撰稿人和编辑,曾为北美地区的印刷和电子出版物撰写过大量稿件。 他感兴趣的领域包括软件、企业级和网络技术、基础研究和教育市场,以及可持续交通系统和社会新闻。 他的文章发表于Network Computing,InformationWeek,Computing Canada,Computer Dealer News,Toronto Business Times,Strategy Magazine和Ottawa Citizen。
  • 《三体》作者刘慈欣加入商汤科技,担任科幻星球研究中心 世界人工智能大会(WAIC)企业论坛上,《三体》作者、著名科幻作家、“雨果奖”得主刘慈欣通过线上方式公布了新身份——商汤科技(SenseTime)科幻星球研究中心主任。在视频发言中,刘慈欣透露,很高兴能携手商汤,参与“三体宇宙”开发工作。
  • 基于事件的视觉传感器,究竟能用在哪些地方? 基于事件的视觉感知技术有三个优势:产生数据量更少;反应速度更快;以及实现更高的动态范围(>120dB)。这三项属性,尤其是减少数据量和高动态范围属性,在当代机器视觉应用都具备了相当高的价值。
  • SIA:五月全球半导体销售额创单月历史新高,同比增长26% 美国半导体行业协会(SIA)发布最新数据显示,2021年5月,全球半导体行业销售额为436亿美元,比2020年5月的346亿美元增长26.2%,比4月份增长4.1%。2021年四月的销售总额为419亿美元。
  • 为什么市场需要DSA架构的AI推理芯片?解读瀚博SV100芯片 EE Times刚刚公布今年的Silicon 100榜单中,中国企业增加了不少,有9家是首次入选该榜单的。其中有一家是致力于AI芯片研发的瀚博半导体:这家公司今年4月份刚刚完成了5亿元人民币的A+轮融资,自天使轮至今身价看涨。这和AI技术和行业本身的火热应当也有很大的关系。
  • 人工智能的演进需要高适应性的AI推理平台 随着模型增大和结构上变得更加复杂,FPGA正成为一种越来越具吸引力的基础器件来构建高效、低延迟AI推理解决方案,而这要归功于其对多种数值数据类型和数据导向功能的支持。但是,仅仅将传统的FPGA应用于机器学习中是远远不够的。机器学习以数据为中心的特性需要一种平衡的架构,以确保性能不受人为限制。
  • 神经拟态视觉解决方案企业普诺飞思获创新工场新一轮投 本轮投资由全球AI专家李开复博士创办的创新工场领投,小米及韦豪创芯跟投,将助力普诺飞思扩展全球布局、深耕中国市场……
  • 新款iPad Pro 2021成最受欢迎的 由于采用性能相对强大的M1处理器和mini-LED屏幕以及更多的创新,新款iPad Pro 2021已经成为消费者心目中最受欢迎。然而,iPad 2却已经在全球范围内被列入“复古和过时”的名单中。
  • 三星折叠屏手机Galaxy Z Fold 3 目前来看,折叠屏新机作为一种新的生产力工具,逐渐成为高端/平板的一种趋势,有报料称三星的Galaxy Z Fold 3发布时间或为7月,并且会引入新手势操控。

  •  Cirrus Logic宣布同意收购Lion S Cirrus Logic近日宣布已达成协议,以3.35亿美元现金收购位于美国加利福尼亚的Lion Semiconductor。此次收购为智能手机、笔记本电脑和其他设备的电源应用带来了独特的知识产权和产品,并加速了公司高性能混合信号业务的增长。预计 Lion Semiconductor将立即增加 GAAP 和非 GAAP 每股收益,从交易完成到 2022 财年结束之间贡献约 6000 万美元的收入。
  • 2021国产IP和定制芯片生态大会成功 7月6日,2021国产IP和定制芯片生态大会在上海盛大召开,本次大会由中国高端IP和芯片定制企业芯动科技主办,是国内首个聚焦IP技术和产品合作的行业生态大会,适应了产业链上下游对合作共赢的企盼,有力助推国产自主化风口……
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了