英特尔首发大型神经拟态系统HalaPoint,推进“绿色AI”发展

知IN 2024-04-18 19:35



英特尔发布了代号为Hala Point的大型神经拟态系统。Hala Point基于英特尔Loihi 2神经拟态处理器打造而成,旨在支持类脑AI领域的前沿研究,解决AI目前在效率和可持续性等方面的挑战。在英特尔第一代大规模研究系统Pohoiki Springs的基础上,Hala Point改进了架构,将神经元容量提高了10倍以上,性能提高了12倍。



目前,AI模型的算力成本正在持续上升。行业需要能够规模化的全新计算方法。为此,英特尔开发了Hala Point,将高效率的深度学习和新颖的类脑持续学习、优化能力结合起来。我们希望使用Hala Point的研究能够在大规模AI技术的效率和适应性上取得突破。


——Mike Davies

英特尔研究院神经拟态计算实验室总监



Hala Point在主流AI工作负载上展现了出色的计算效率。研究显示,在运行传统深度神经网络时,该系统能够每秒完成多达2万万亿次(20 petaops)运算,8位运算能效比达到了15 TOPS/W,相当于甚至超过了基于GPU和CPU的架构。Hala Point有望推动多领域AI应用的实时持续学习,如科学研究、工程、物流、智能城市基础设施管理、大语言模型(LLMs)和AI助手(AI agents)。


目前,Hala Point是一个旨在改进未来商用系统的研究原型。英特尔预计其研究将带来实际技术突破,如让大语言模型拥有从新数据中持续学习的能力,从而有望在AI广泛部署的过程中,大幅降低训练能耗,提高可持续性。



深度学习模型的规模正在不断扩大,参数量可达万亿级。这一趋势意味着AI技术在可持续性上面临着严峻的挑战,有必要探索硬件架构底层的创新。神经拟态计算是一种借鉴神经科学研究的全新计算方法,通过存算一体和高细粒度的并行计算,大幅减少了数据传输。在本月举行的声学、语音与信号处理国际会议(ICASSP)上,英特尔发表的研究表明,Loihi 2在新兴的小规模边缘工作负载上实现了效率、速度和适应性数量级的提升[1]


Hala Point在其前身Pohoiki Springs的基础上实现了大幅提升,基于神经拟态计算技术提升了主流、常规深度学习模型的性能和效率,尤其是那些用于处理视频、语音和无线通信等实时工作负载的模型。例如,在今年的世界移动通信大会(MWC)上,爱立信研究院(Ericsson Research)就展示了其如何将Loihi 2神经拟态处理器应用于电信基础设施效率的优化。


Hala Point基于神经拟态处理器Loihi 2打造,Loihi 2应用了众多类脑计算原理,如异步(asynchronous)、基于事件的脉冲神经网络(SNNs)、存算一体,以及不断变化的稀疏连接,以实现能效比和性能的数量级提升。神经元之间能够直接通信,而非通过内存通信,因此能降低整体功耗。


Hala Point系统由封装在一个六机架的数据中心机箱中的1152个Loihi 2处理器(采用Intel 4制程节点)组成,大小相当于一个微波炉。该系统支持分布在140544个神经形态处理内核上的多达11.5亿个神经元和1280亿个突触,最大功耗仅为2600瓦。Hala Point还包括2300多个嵌入式x86处理器,用于辅助计算。


在大规模的并行结构中,Hala Point集成了处理器、内存和通信通道,内存带宽达每秒16PB,内核间的通信带宽达每秒3.5PB,芯片间的通信带宽达每秒5TB。该系统每秒可处理超过380万亿次8位突触运算和超过240万亿次神经元运算。


在用于仿生脉冲神经网络模型时,Hala Point能够以比人脑快20倍的实时速度运行其全部11.5亿个神经元,在运行神经元数量较低的情况下,速度可比人脑快200倍。虽然Hala Point并非用于神经科学建模,但其神经元容量大致相当于猫头鹰的大脑或卷尾猴的大脑皮层。



在执行AI推理负载和处理优化问题时, Loihi 2神经拟态芯片系统的速度比常规CPU和GPU架构快50倍,同时能耗降低了100倍[1]。早期研究结果表明,通过利用稀疏性高达10比1的稀疏连接(sparse connectivity)和事件驱动的活动,Hala Point运行深度神经网络的能效比高达15 TOPS/W[2] ,同时无需对输入数据进行批处理。批处理是一种常用于GPU的优化方法,会大幅增加实时数据(如来自摄像头的视频)处理的延迟。尽管仍处于研究阶段,但未来的神经拟态大语言模型将不再需要定期在不断增长的数据集上再训练,从而节约数千兆瓦时的能源。


世界各地领先的学术团体、研究机构和公司共同组成了英特尔神经拟态研究社区(INRC),成员总数超过200个。携手英特尔神经拟态研究社区,英特尔正致力于开拓类脑AI前沿技术,以将其从技术原型转化为业界领先的产品。


附属细则

1. 参见Efficient Video and Audio Processing with Loihi 2,论文地址:https://arxiv.org/abs/2310.03251,声学、语音与信号处理国际会议,2024年4月;Advancing Neuromorphic Computing with Loihi: Survey of Results and Outlook,论文地址:

https://ieeexplore.ieee.org/document/9395703,电气电子工程师学会论文集,2021。

2. 使用多层感知器(MLP)网络进行的特征描述,该网络有14784层,每层2048个神经元,8位权重,随机噪声刺激。在Hala Point上实施的多层感知器网络经过剪枝,稀疏度为10:1,Sigma-Delta神经元模型提供10%的激活率。截至2024年4月的测试结果。结果可能有所不同。



©英特尔公司,英特尔、英特尔logo及其它英特尔标识,是英特尔公司或其分支机构的商标。文中涉及的其它名称及品牌属于各自所有者资产。



相关资讯



/转载请注明出处/

知IN 一手、专业、有料! 知IN,英特尔中国自媒体,传递最新鲜的英特尔资讯,呈现最清晰的英特尔战略及业务进展,提供最前沿的洞察与趋势解读。
评论 (0)
  • 在Midjourney的生图创作中,提示词扮演着至关重要的角色。为了更精准地操控MidjourneyBot,生成出符合预期的精彩图像,需要深入剖析如何精心编写高效的提示词。提示词主要由基本提示词、高级提示词、多重提示词以及排列提示词构成。基本提示词简洁明了,能快速触发MidjourneyBot的灵感;高级提示词则更为详尽,能够引导生成更具个性和创意的图像。 重点关注提示词的编写要点。提示词的长度、语法、焦点和细节,都是影响最终生成图像效果的关键因素。通过精心调整这些要素,可以让Midjourn
    戈壁滩上绽放 2024-05-28 17:36 129浏览
  • Nginx 是一款高性能的 HTTP 和反向代理服务器,同时也充当 Web 服务器和电子邮件代理服务器。它以其轻量级的特性和高效的性能在网络服务领域得到广泛应用。下面将详细探讨 Nginx 的不同方面: 1. 基本概念   -定义与功能:Nginx (engine x) 是一个高性能的 HTTP 和反向代理服务器,具备处理大量并发连接的能力[^1^]。    -主要特点:其轻量级特性使得 Nginx 在资源消耗上相对较低,适合用于负载均衡、缓存等场景。
    丙丁先生 2024-05-29 08:21 71浏览
  • 单端信号需要转换成差分信号,以便使用ADC进行转换。这个就所谓的ADC驱动电路。需要的结果为Vp = Vcm + Vi/2Vn = Vcm – Vi/2这样 Vp – Vn = Vi使用简单的加法器和减法器完成这个功能。 电路中Vcm = 2.5V 可以求得 Vp = Vcm+ViVn = Vcm-Vi得到的结果差分信号为输入信号的2倍,实现单端到差分的转换。上述结论需要信号源输入阻抗为0。因此对于输出阻抗较高的传感器是不适用的。另外需要使用多个匹配度较好的电阻,否则会产生误差。考虑简化一下,使
    southcreek 2024-05-27 16:18 161浏览
  • 艾体宝干货 | 用于故障排除的最佳 Wireshark 过滤器引导语:在网络故障排除过程中,Wireshark是一款非常强大的工具,它可以用来分析网络数据包并解决各种问题。本文将介绍一些好用的Wireshark过滤器,以便更有效地进行故障排除。简介:Wireshark是一种流行的网络协议分析工具,可用于捕获和分析网络数据包。在网络故障排除中,Wireshark是一款不可或缺的工具,它可以帮助您识别和解决各种网络问题。本文将介绍一些最佳的Wireshark过滤器,帮助您提取和分析特定的数据包,加快
    虹科网络可视化 2024-05-29 15:49 46浏览
  • 设计领域的应用 Midjourney的应用场景广泛而多元,在创意设计领域有着卓越表现。作为一款功能卓越的图像生成工具,Midjourney为平面设计、产品设计、室内设计、建筑设计、时尚设计以及工业设计等多个领域注入了无尽的创作活力。 首先,让我们走进平面设计这一充满创意的艺术领域。Midjourney作为一款强大的图像生成工具,为平面设计师提供了源源不断的创作灵感。在本节中,详细解析Midjourney在平面设计中的实际应用,通过提供平面设计提示词参考,帮助读者丰富提示词语料库。同时,演示了如何
    戈壁滩上绽放 2024-05-29 12:50 76浏览
  • 当地时间 5 月 8 日,顶级科学期刊《Nature》发表了一份重磅研究论文。谷歌 DeepMind 发布了其生物学预测工具 AlphaFold 的最新版本——AlphaFold 3。这个革命性的新模型,能以前所未有的精度预测所有生命分子的结构和相互作用。作为一个以整体方式计算整个分子复合物的单一模型,不仅可以预测蛋白质的结构,还可以预测几乎所有生命分子的结构,包括蛋白质、DNA、RNA、配体等对于蛋白质与其他分子类型的相互作用,从而能对药物发现带来至关重要的作用。这份由谷歌DeepMind和其
    高性能服务器 2024-05-27 15:16 164浏览
  • 科技云报道原创。人类距离第一个AGI的出现已经越来越近了!马斯克在今年早些时候预测,AGI可能会在2026年投入使用。DeepMind联合创始人、首席AGI科学家Shane Legg在一次访谈中认为,2028年,人类有50%的概率开发出第一个AGI。然而百度CEO李彦宏的观点则更加审慎,他认为AGI还需要10年以上的时间才能出现。自1956年达特茅斯会议提出“人工智能”这一概念以来,实现人类水平的智能一直是AI领域的圣杯。去年上半年,有主流研究者提出,大语言模型已经表现出“通用人工智能的火花”(
    科技云报到 2024-05-28 14:59 127浏览
  • 随着科技的飞速发展,汽车工业也在不断地进行着革新。其中,车灯作为汽车的重要组成部分,其智能化配置已经成为汽车行业的一大趋势。这种趋势不仅为消费者带来了更加安全、便捷的驾驶体验,同时也为商家提供了丰富的商业机会。汽车工业的迅猛发展,车辆电子化、智能化水平的不断提升,车灯作为汽车的重要组成部分,其功能和控制方式也在经历着革命性的变化。传统的机械式车灯控制已经逐渐让位于更为高效、智能的CAN数据协议控制系统。 CAN(Controller Area Network)即控制器局域网络,是一种国
    lauguo2013 2024-05-28 10:43 144浏览
  • 5月27日据企业信息网站披露,国产集成电路产业投资基金三期股份有限公司(下文简称“国家大基金三期”),已于2024年5月24日正式注册成立,注册资本为3440亿元。据企业信息网站显示,公司经营范围为私募股权投资基金管理、创业投资基金管理服务,以私募基金从事股权投资、投资管理、资产管理等活动,企业管理咨询。传感器专家网https://www.sensorexpert.com.cn专注于传感器技术领域,致力于对全球前沿市场动态、技术趋势与产品选型进行专业垂直的服务,是国内领先的传感器产品查询与媒体信
    传感器专家网 2024-05-28 11:48 122浏览
  • 在全球物联网技术与应用日益蓬勃的背景下,电子纸产业联盟(EPIA)于5月22日在巴塞罗那世界物联网解决方案大会上,正式发布《全球电子纸白皮书2024》。作为行业首部综合性白皮书,此次发布标志着电子纸技术在全球范围内迈入了一个崭新的发展阶段,彰显了产业界对于可持续发展、技术创新与跨界合作的坚定承诺。  01、全球视角下的电子纸行业洞察 《全球电子纸白皮书2024》由电子纸产业联盟牵头,四分仪智库主编,汇集了元太科技、兴泰盈科(SEEKINK)、汉朔科技等多家行业代表性企业和数据机构的智
    兴泰盈科 2024-05-27 14:53 88浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦