广告

催生更强AI,科学家致力破解人脑运算之谜

时间:2019-05-19 作者:Rick Merritt 阅读:
神经形态芯片面临的一大难题,是研究人员仍不知道大脑究竟是如何学习...
广告

美国史丹佛大学(Stanford)教授Kwabena Boahen相信,更厉害的人工智能(AI)即将来临。他是数十位正在以人类大脑为模型开发芯片的研究学者之一,这种芯片号称能提供比目前的处理器更高几个等级的运算性能,功耗却更低。

Boahen最新的开发成果Braindrop除了在能源效益上胜过Nvidia的Tesla GPU,也超越其他研究机构的类似处理器;他已经着手为开发下一代可望有更高性能的芯片寻找资金,可能会采用Globalfoundries的铁电场效晶体管FET (ferroelectric FETs)工艺。

这类所谓的神经形态(neuromorphic)芯片面临的一大问题,是缺乏了某个关键元素──研究人员相信他们已经了解大脑用以运算的模拟处理,以及用来在神经元之间有效沟通的棘波神经网络(spiking neural network)机制,但他们不知道的是大脑如何学习。

那会是算法中非常重要的一个部份,却仍然缺失。像是Boahen等研究人员都因为数个不错的线索指出的发展路线感到乐观与热衷,但他们缺乏倒传递(back-propagation,或简写为backprop)的方程式。

在深度学习相关领域中,倒传递是训练过程的核心,速度非常缓慢而且需要昂贵的CPU、GPU资源,以及大量脱机运作内存;但这种算法可以在广泛的图形识别问题上提供出色结果。研究人员表示,倒传递与深度学习所遭遇的问题在于是“人工”的,并非以大脑的神经元以及等同于将超级计算机等级运算任务以35W电源来执行的机制为模型,Boahen在接受EE Times访问时表示:“在这个领域有非常大的机会,有很多在云端执行的应用有大量会产生延迟的需求,都不是使用深度学习网络。”

举例来说,神经形态芯片能实时监控并分析桥梁的震动,却仅需能量采集器提供的几微瓦(microwatt)电力,只在人类需要采取行动时进行通讯;“我们应该思考,我们如何能让所有的任务──不只是云端服务──都能利用神经系统。”

20190516-nao.png
史丹佛大学团队开发的Braindrop芯片(来源:Stanford)

Boahen的乐观在最近一场于美国纽约州举行的技术研讨会(Neuro Inspired Computational Elements Workshop,NICE 2019)上获得了众多该领域顶尖研究学者的回响。如英特尔(Intel)的神经形态运算实验室负责人Mike Davies就表示:“我们希望能拓展我们能执行的运算种类范围,有很多在大脑中完成的有趣运算,并不在深度学习的范围内。”

Davis在该场研讨会的演说中指出:“深度学习所使用的只是神经元的粗略近似物,但因为倒传递算法支持脱机训练,所以很有用。这不是神经激发概念,而是一种随机梯度下降法(stochastic gradient descent),但运作成果相当好。”

英特尔研究人员正在利用其14纳米Loihi研究芯片来改善神经形态运算;这种主要是数字逻辑的芯片内含12万8,000个神经元,该公司打算在6月推出内含768颗该芯片的5U系统。

Davies提及能实现以棘波神经网络进行训练的三种具潜力方法的研发工作,也乐观表示英特尔很快就能找到他们已经在Loihi芯片上执行的、训练某个版本长短期记忆(LSTM)神经网络的方法;“我们要研究人员利用该芯片研发算法以及其可编程性的基础问题,”在此同时,英特尔继续改善该研究芯片架构,以削减其因为整合了运算与内存的相对较高成本。

除了以上研究成果,德国海德堡大学(Heidelberg University)的研究人员已利用了晶圆级整合技术打造其BrainScales组件;他们正在为预计明年发表的第二代芯片添加可编程核心,以模仿大脑的可塑性。

IBM的半导体与AI研究副总裁Mukesh Khare则透露,该公司正在研发结合模拟核心与非挥发性内存的芯片,以交叉点数组(crosspoint arrays)储存权重。他在上述的技术研讨会上对听众表示:“运算的未来是位、神经元与量子位(qubits)。”

使用忆阻器(memristor)数组也是一个被广泛研究的方案。资深研究人员Steve Furber介绍了号称全球最大的棘波神经网络系统Spinnaker,位于英国曼彻斯特大学(University of Manchester),在11个机柜里包含了上百万颗的Arm处理器核心,是欧洲为人脑研究项目(Human Brain Project)设置的众多系统之一,主要用来执行神经科学应用程序。

不过Fuber在演说中表示,为了因应打造人脑功能实际模型的挑战如此艰巨,除了Spinnaker本身的例行除错,没有任何一种应用程序会用到该系统10%以上的资源;“人脑仍然是最前沿的科学研究之一,我们基本上仍不了解我们的脑袋里正在发生的信息处理原则。”

(未完待续…完整阅读本文请看电子工程专辑台湾版杂志2019年6月刊)     编译:Judith Cheng

 

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
Rick Merritt
EE Times硅谷采访中心主任。Rick的工作地点位于圣何塞,他为EE Times撰写有关电子行业和工程专业的新闻和分析。 他关注Android,物联网,无线/网络和医疗设计行业。 他于1992年加入EE Times,担任香港记者,并担任EE Times和OEM Magazine的主编。
  • 苹果汽车明年9月只能发布PPT?芯片/电池/激光雷达都没准 中国台湾供应链厂商高管透露,传言已久的苹果电动汽车(Apple Car)将提前至少两年,有望于2021年第三季度发布,而相关组件则最早将在明年第二季度开始生产。据报道,目前苹果已开始向零组件供应商催货,但其最重要的几个电子零部件还远远没达到量产的程度,苹果真的能在2021年9月发布其汽车产品吗?
  • 2021年全球半导体行业10大技术趋势 2020年全球新冠疫情的蔓延和中美在半导体领域的冷战升级虽然对全球经济和半导体产业造成了负面影响,但半导体领域的技术进步却没有止步,有些技术甚至加快了市场商用化进程。ASPENCORE全球分析师团队精心挑选出2021年全球半导体行业将出现或凸显的10大技术趋势。对比2020年10大技术趋势,2021年有哪些变化呢?
  • 智连大湾区,TE能提供哪些“智”与“连”的技术及服务? 今年是谋划“十四五”规划的关键之年,同时也正值深圳经济特区成立40周年,中国为应对国际形势的压力和全球疫情带来的影响,“新基建”的概念开始提出及其涉及范围逐步明确。在如此背景下,粤港澳大湾区(以下简称“大湾区”)作为我国开放程度最高、经济活力最强的市场之一,人工智能、大数据中心、5G基建等新项目在大湾区各大城市集群落地、全面开花。数字新基建已成为大湾区建设的新引擎。
  • CMOS传感器在3D视觉、感测和度量中的应用 工厂已进入自动化工作,以提高产能和在产品查验和库存的方方面面节省时间和金钱。要优化这些因素,拥有视觉系统的机器需要更高速和以更佳性能工作。因应这些发展,2D视觉遇上了限制,使得3D视觉被广泛引进,以实施更高精度的质量检验,反向工程或物件量度任务。三角测量技术正在这些应用中获大量使用,鉴于三轴图像要求高分辨率,需要非常高速的的传感器。
  • AI的训练与推理,会往哪个方向发展? Graphcore公司CEO Nigel Toon先生多年前曾经专门撰文提过,训练和推理的问题。Graphcore的IPU同时支持训练和推理,不过“如果你根据训练和推理来看IPU,那么你可能对机器学习硬件有些误解。”“对于IPU是针对训练还是推理的问题,我的回答可能会让很多人惊讶。”
  • AI推动着存储器互连的不断演进 为了满足人工智能(AI)和机器学习应用的需求,位置这个词被越来越多地应用于数据存储。但解决这种位置的挑战不只是存储器供应商应做的工作,与AI相关的供应商也扮演着重要角色。尽管存储距离计算越来越近,但解决方案的很大一部分在于存储互连。
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了