广告

研究机构/新创公司联手优化AI芯片设计

时间:2018-05-31 作者:Rick Merritt 阅读:
Imec正在打造一款采用单位元精度的深度学习推论芯片原型,并期望在明年收集采用创新数据型态与架构的客户端装置有效性数据...
电子工程专辑 EE Times China -提供有关电子工程及电子设计的最新资讯和科技趋势

比利时研究机构Imec在近日举行的年度技术论坛(ITF BELGIUM 2018)上透露,该机构正在打造一款采用单位元精度的深度学习推论(inference)芯片原型;Imec并期望在明年收集采用创新数据型态与架构──采用内存内处理器(processor-in-memory,PIM),或是模拟内存结构(analog memory fabric)──的客户端设备有效性数据。QFFEETC-电子工程专辑

学术界已经研究PIM架构数十年,而该架构越来越受到数据密集的机器算法欢迎,例如新创公司Mythic以及IBM Research都有相关开发成果。许多学术研究机构正在实验1~4位的数据型别(data type),以减轻深度学习所需的沉重内存需求;到目前为止,包括Arm等公司的AI加速器商用芯片设计都集中在8位或更大容量的数据型别,部分原因是编程工具例如Google的TensorFlow缺乏对较小数据型别的支持。QFFEETC-电子工程专辑

Imec拥有在一家晶圆代工厂制作的40纳米工艺加速器逻辑部份,而现在是要在自家晶圆厂添加一个MRAM层;该机构利用SRAM仿真此设计的性能,并且评估5纳米节点的设计规则。此研究是Imec与至少两家匿名IDM业者伙伴合作、仍在开发阶段的项目,从近两年前展开,很快制作了采用某种电阻式内存(ReRAM)的65纳米PIM设计原型。QFFEETC-电子工程专辑

该65纳米芯片并非锁定深度学习算法,虽然Imec展示了利用它启动一段迷人的计算机合成音乐;其学习模式是利用了根据以音乐形式呈现、从传感器所串流之数据的时间序列分析(time-series analysis)。而40纳米低功耗神经网络加速器(Low-Energy Neural Network Accelerator,LENNA)则会锁定深度学习,在相对较小型的MRAM单元中运算与储存二进制权重。QFFEETC-电子工程专辑

Imec技术团队的杰出成员Diederik Verkest接受EE Times采访时表示:“我们的任务是定义出我们应该利用新兴内存为机器学习开发什么样的半导体技术──或许我们会需要工艺上的调整,”以取得优化结果。该机构半导体技术与系统部门执行副总裁An Steegen则表示:“AI会是工艺技术蓝图演化的推手,因此Imec会在AI (以及PIM架构)方面下很多功夫──这方面的工作成果将会非常重要。”
003ednc20180530
*Imec声称其LENNA芯片在推论任务上的表现将超越现有的CPU与GPU
(来源:Imec)*QFFEETC-电子工程专辑

确实,如来自英国的新创公司Graphcore首席执行官Nigel Toon所言,AI标志着「运算技术的根本性转变」;该公司将于今年稍晚推出首款芯片。Toon在Imec年度技术论坛上发表专题演说时表示:“今日的硬件限制了我们,我们需要某种更灵活的方案…我们想看到能根据经验调整的(神经网络)模型;”他举例指出,两年前Google实习生总共花了25万美元电费,只为了在该公司采用传统x86处理器或Nvidia GPU的数据中心尝试优化神经网络模型。QFFEETC-电子工程专辑

实现复杂的折衷平衡

Imec希望LENNA能在关于PIM或模拟内存架构能比需要存取外部内存的传统架构节省多少能量方面提供经验;此外该机构的另一个目标,是量化采用二进制方案在精确度、成本与处理量方面的折衷(tradeoff)。QFFEETC-电子工程专辑

加速器芯片通常能在一些热门的测试上提供约90%的精确度,例如ImageNet竞赛;Verkest表示,单位元数据型别目前有10%左右的精度削减,“但如果你调整你的神经网络,可以达到最高85%~87%的精确度。”他原本负责督导Imec的逻辑工艺微缩技术蓝图,在Apple挖脚该机构的第一个AI项目经理之后,又兼管AI项目。QFFEETC-电子工程专辑

Verkest表示,理论上模拟内存单元应该能以一系列数值来储存权重(weights),但是“那些内存组件的变异性有很多需要考虑之处;”他指出,Imec的开发项目将尝试找出能提供优化精度、处理量与可靠度之间优化平衡的精度水平。QFFEETC-电子工程专辑

而Toon则认为聚焦于资料型别是被误导了:“低精度并没有某些人想得那么严重,内存存取是我们必须修正之处;”他并未详细介绍Graphcore的解决方案,但声称该公司技术可提供比目前采用HBM2内存的最佳GPU高40倍的内存带宽。QFFEETC-电子工程专辑

在芯片架构方面,Imec的研究人员还未决定他们是要设计PIM或采用模拟内存结构;后者比较像是一种模拟SoC,计算是在模拟区块处理,可因此减少或免除数字-模拟转换。不同种类的神经网络会有更适合的不同架构,例如卷积神经网络(CNN)会储存与重复使用权重,通常能以传统GPU妥善运作;归递神经网络(RNN)以及长短期记忆模型(long short-term memories,LSTMs)则倾向于在使用过后就抛弃权重,因此更适合表达式内存结构
004ednc20180530
*Imec可能会以内存结构来打造LENNA,让运算留在模拟功能区块
(来源:Imec)*QFFEETC-电子工程专辑

新的平行架构非常难编程,因此大多数供应商正在尝试建立在TensorFlow等现有架构中摄取程序代码的途径。而Graphcore则是打造了一种名为Poplar的软件层,旨在以C++或Python语言来完成这项工作;Toon表示:“我们把在处理器中映像图形(graphs)的复杂性推到编译程序(也就是扮演该角色的Poplar)。”QFFEETC-电子工程专辑

Graphcore的客户很快就会发现该程序会有多简单或是多困难;这家新创公司预计在年中将第一款产品出货给一线大客户,预期他们会在今年底采用该款芯片执行大型云端供应商的服务。Toon声称,其加速器芯片将能把CNN的速度提升五至十倍,同时间采用RNN或LSTM的更复杂模型则能看到100倍的效能提升。QFFEETC-电子工程专辑

编译:Judith ChengQFFEETC-电子工程专辑

本文授权编译自EE Times,版权所有,谢绝转载QFFEETC-电子工程专辑

EETC wechat barcode


关注最前沿的电子设计资讯,请关注“电子工程专辑微信公众号”。
QFFEETC-电子工程专辑

QFFEETC-电子工程专辑

电子工程专辑 EE Times China -提供有关电子工程及电子设计的最新资讯和科技趋势
本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
Rick Merritt
EE Times硅谷采访中心主任。Rick的工作地点位于圣何塞,他为EE Times撰写有关电子行业和工程专业的新闻和分析。 他关注Android,物联网,无线/网络和医疗设计行业。 他于1992年加入EE Times,担任香港记者,并担任EE Times和OEM Magazine的主编。
您可能感兴趣的文章
  • 如何为低PIM PCB天线选择合适的电路板材料 尽管天线具有不同的形状和尺寸,但PCB天线形式仍能够在较大程度减小尺寸的情况下保持性能不发生变化。当然,天线(包括基于PCB的天线)必须在设计和加工时确保其具有最小的PIM指标,才能在现在拥挤的信号环境中发挥其最佳性能。具有良好PIM特性的电路板材料,可以为现代无线通信系统PCB天线所需的低互调特性提供保障。
  • 基站中PIM产生的原因及如何检查与解决 对服务提供商和设备供应商而言,PIM是一个突出的严重问题。检测并尽可能解决该问题,可提高系统可靠性并降低运行成本。本文尝试评述PIM的来源和原因,以及予以检测和解决的技术。
  • 人工智能风口到了?不急,先看这几个本土案例 作为目前最受投资者青睐的项目,人工智能类项目的确算得上是市场当红辣子鸡。随着智能机器人、智能监控、自动驾驶汽车等概念和产品陆续推出,人工智能能够落地的项目也越来越多。本土很多85后、90后的大学生在高校......
  • 对人工智能芯片的思考,国内So far魏少军教授的认识绝对 魏少军教授以谷歌阿法狗事件开始了人工智能的演讲,他透露了一个从谷歌拜访时得知的秘密:阿法狗赢了这么多李世石和柯洁两位围棋大师,其实并不是阿法狗单独完成,而是有背后的人工干预才赢下比赛。
  • Arm总裁:全球供应链至关重要,继续坚定投资中国 Arm总裁的回复在谨慎中透露着些许无奈,但他想传递的更重要的信息,是对中国市场的坚定信心。
  • 目前中国这些晶圆厂不适宜进口设备!是否有备胎可寻? 日前美方将华为列入所谓“实体清单”,还要切断华为供应链,禁止美系供应商向华为供货。最近陆续有美系半导体公司,如Lumentum Holdings、Arm宣布停止向华为供货或是中止与华为的合作。在如此敏感、复杂的时刻,国内许多晶圆大厂,要一期扩产以及筹备二期......
相关推荐
    广告
    近期热点
    广告
    广告
    广告
    可能感兴趣的话题
    广告