向右滑动:上一篇 向左滑动:下一篇 我知道了
广告

当AI遇上闪存,一种全新的运算架构诞生了

时间:2018-05-22 作者:Rick Merritt 阅读:
一家新创公司的目标是将神经网络映像至NOR闪存数组,以或许可节省两个数量等级功耗的方式来运算与储存数据...

有几十个工程师挤在美国德州奥斯汀(Austin)近郊重划区的咖啡店与美容院之间,探索运算技术的新方向──这是一家名为Mythic的新创公司,目标是将神经网络映像至NOR闪存数组,以或许可节省两个数量等级功耗的方式来运算与储存数据。qaGEETC-电子工程专辑

如果他们成功了,这家新创公司就可跳过来自诸如英特尔(Intel)或是其他IP供应商、以及众多富裕中国新创公司的数字处理器与核心;这些处理器的目标都是进驻下一代保全摄影机、无人机、工厂设备等试图搭上人工智能(AI)热潮的嵌入式系统,甚至是未来的自动驾驶车辆。qaGEETC-电子工程专辑

“我们从研究所的时候就知道,混合信号处理很适合这类应用;”与同事Mike Henry在密歇根大学(University of Michigan)一起创立Mythic的David Fick表示:“你需要利用其可调阈值电压来储存很大的数据量与闪存──每个晶体管都非常具吸引力。”qaGEETC-电子工程专辑

Mythic所开发的闪存数组,基本上可免除将数据从外部内存移出移入的需要,因此大幅节省功耗;Fick表示,他的指导教授David Blaauw与Dennis Sylvester“已经展开一些闪存研究,我们也拥有一些专长技术,因此能很轻易地加速启动一个项目。”qaGEETC-电子工程专辑

不过要在内存中执行模拟处理器这种有数十年历史的老概念是件棘手任务,Fick表示:“你必须考虑很多模拟效应──不匹配(mismath)、噪声、温度,而且内存单元也有很多类似的显著效应;”不同于配备经过妥善定义之内存、处理与储存子系统的数字计算机,机器学习使用的模拟计算机基本上是一个整合性的庞大工程。qaGEETC-电子工程专辑

“你需要同时一起设计所有的东西,因此需要了解重迭领域的人,例如了解彼此领域的组件端设计与神经网络设计工程师;”Fick解释:“我们在这方面已经远胜于其他人,因为我们拥有一个可以完成整个任务的超强团队。”qaGEETC-电子工程专辑

确实,这家公司才刚完成B轮融资、获得一笔高达5,000万美元的资金,有部分原因是他们拥有一个总监等级(director-level)专家组成的多元团队,包括来自德州仪器(TI)的模拟专家、Microchip的闪存设计总监,以及Netronome的实体设计专家。
DaveFrickandEllie
*Dave Fick与他的宠物狗Ellie在奥斯汀办公室合影;Ellie是Mythic这家公司的非正式情绪支持总监
(来源:EE Times)*qaGEETC-电子工程专辑

Mythic也藉由实现一系列的原型投片逐步展现其技术进展赢得投资者青睐,Fick在学校里的VLSI设计表现就赢得不少声誉;他表示:“当你以研究所学生身份设计芯片,包括内存、合成、设计规则检查变异(DRC variations)…等所有的步骤都得自己动手;而如果你是直接进入业界,你可能永远看不到整个设计流程,所以很多从学校独立的新创公司会更容易成功量产。”qaGEETC-电子工程专辑

这家公司的两个创办人从小就是“科技宅男”(geek);Fick在高中时的第一份工作就是网页开发工程师,念研究所时则进入AMD、IBM与Intel等多家大公司当实习生。Henry则是为了好玩,很爱参加各种快速写程序竞赛。qaGEETC-电子工程专辑

大大小小的竞争对手以及需要克服的软件障碍qaGEETC-电子工程专辑

这些日子以来,Mythic的二人组遇到大大小小的竞争对手,至少有40家老牌与新创IP供应商或芯片业者,纷纷表示准备推出或是正在规划某种形式的客户端AI加速器芯片;这些竞争对手还包括中国几家财力雄厚的新创公司,例如地平线(Horizon Robotics)就是其中最具潜力的一家,已经用较传统的数字架构推出低功耗客户端AI加速器。qaGEETC-电子工程专辑

还有一家美国新创公司Syntiant,跟Mythic一样在开发利用闪存的内存内处理器(processor-in-memory)架构,该公司的团队成员包括几位Broadcom前任工程经理,并获得了Intel Capital的支持。此外IBM Research也正在研究以电阻式RAM (ReRAM)为基础的机器学习加速器,但Fick认为该公司采用了错误的方法。qaGEETC-电子工程专辑

他表示:“他们正在尝试以完美的内存来让所有事情变得简单,但我们是透过共同设计所有东西取得领先…就算他们找到了理想内存,总是会有一种不太完美的内存可以支持更低功耗或是更快速度。”qaGEETC-电子工程专辑

创新的并行储存器在历史上总因为太难编程而失败,新兴的内存内处理器芯片肯定也会面临相同的问题,因为机器学习本身需要全新的、仍在发展的编程模型。Mythic的工具虽名为开发平台,但扮演的角色像是编译程序,能为其芯片将TensorFlow数据库内描述的神经网络转换为机器语言。qaGEETC-电子工程专辑

Fick表示,该开发平台采用PCI Express与芯片链接,能提供“如何从芯片取得额外性能的提示,以及一些常见应用的优化网络范例。”想要使用TensorFlow以外其他框架的客户,显然会需要使用ONNX格式来转译其任务;ONNX (Open Neural Network Exchange)是少数几种用来转译几个不同AI软件架构的新兴工具之一。qaGEETC-电子工程专辑

而Fick也充分体认到他的客户所面临之软件障碍:“为了进入这个领域,你需要聘请几个深度学习科学家,但这类专家因为非常短缺、费用也非常昂贵 …建立数据集与神经网络并进行训练非常耗时、代价也很高…这些都是冒险进军且投资此领域的限制。”qaGEETC-电子工程专辑

好消息是,与竞争对手方案相较,Mythic芯片的内存数组应该能处理更多样化的卷积(convolutional)或归递(recurrent)神经网络,而且其性能的提升可望实现在功耗受限制的边缘系统执行更复杂模型。
Mythicchips
*Mythic到目前为止已经有数款测试芯片投片
(来源:EE Times)*qaGEETC-电子工程专辑

Mythic有几个重量级合作伙伴,例如洛克希德马丁(Lockheed Martin)希望未来的无人机能使用该公司芯片,富士通(Fujitus)则是该公司的闪存供应商。到目前为止,有两种应用似乎超出其能力范围,一个是预算只有几美元的智能音箱,与Mythic的目标应用相较太过需要控制成本;另一个是自动驾驶车辆,因为需要车用等级规格,是该公司目前无法负担的。qaGEETC-电子工程专辑

这家新创公司预计在今年底推出40纳米工艺芯片,这个节点可支持嵌入式闪存单元设计,也符合低成本目标。Fick指出,其闪存单元已通过28纳米工艺质量认证,这会是该公司的下一步;在那之后,晶圆代工业者正在开发嵌入式MRAN与ReRAM单元。qaGEETC-电子工程专辑

Fick表示:“没有任何理由能阻止我们前进最小节点,我们能从工艺微缩中受益;”而如果Mythic成功了,并不会是因为摩尔定律(Moore’s Law)或是那些数字处理器使他们受到欢迎,而会是因为他们将运算技术推往一个全新的方向。qaGEETC-电子工程专辑

编译:Judith ChengqaGEETC-电子工程专辑

本文授权编译自EE Times,版权所有,谢绝转载qaGEETC-电子工程专辑

EETC wechat barcode


关注最前沿的电子设计资讯,请关注“电子工程专辑微信公众号”。
qaGEETC-电子工程专辑

qaGEETC-电子工程专辑

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
Rick Merritt
EE Times硅谷采访中心主任。Rick的工作地点位于圣何塞,他为EE Times撰写有关电子行业和工程专业的新闻和分析。 他关注Android,物联网,无线/网络和医疗设计行业。 他于1992年加入EE Times,担任香港记者,并担任EE Times和OEM Magazine的主编。
您可能感兴趣的文章
  • 适合小型穿戴设备的ReRAM:密度最高,读取电流最低 可变电阻式随机存取内存(ReRAM)为非挥发性内存,藉由电压脉冲于金属氧化物薄膜,产生的大幅度电阻变化以记录1和0。其制程化繁为简,由两电极间简易金属氧化物架构组成,使其同时拥有低功耗和高写入速度的优点。富士通电子推出业内最高密度8Mbit ReRAM,拥有业内最低的读取电流,适合需要电池供电的小型穿戴设备……
  • 存储芯片自研:虽千万人吾往矣 如果要用一句话形容现在的国产存储器产业,没有比 “虽千万人吾往矣”这句更适合的了。语出《孟子·公孙丑上》,原文是:“自反而不缩,虽褐宽博,吾不惴焉。自反而缩,虽千万人吾往矣。” ,意思是纵然面对千万人(阻止),我也勇往直前……
  • SRAM,你究竟肿么了? SRAM在经过多年作为计算机内存的主力后,如今也在成本和能效方面遭遇严峻挑战...
  • 为人工智能的进一步发展寻求新兴内存 随着半导体公司积极寻求更有效处理AI和神经形态运算的方法,ReRAM以及其他新兴内存技术在过去一年来受到了广泛的关注……
  • 性能媲美SRAM的新式内存——TCAM Leti研究人员基于RRAM的TCAM电路,据称其性能媲美基于CMOS的SRAM,且适于多核心的神经形态网络处理器应用…
  • 三星、英特尔加快嵌入式MRAM商用脚步 随着英特尔、三星陆续加速嵌入式MRAM在逻辑工艺的技术进展,现在正是展现MRAM投入量产制造和商业化成果的时候了!
相关推荐
    广告
    近期热点
    广告
    广告
    广告
    可能感兴趣的话题
    广告