广告

用真正的系统级优化迎接边缘计算时代

时间:2020-11-09 作者:邵乐峰 阅读:
根据预测,到2023年,网络边缘的智能设备数量可能是传统IT领域的20倍以上,Gartner也将边缘计算列为2020年十大战略技术趋势之一。边缘计算为何能呈现这样的高速增长态势?它的下一步会走向何方?恩智浦的技术专家们对此分享了自己的见解。
广告
ASPENCORE

2020年,Gartner将边缘计算列为十大战略技术趋势之一,并指出作为一种拓扑结构,包括物联网所有技术在内的边缘计算,之所以将信息处理、内容收集和传递放置在离信息源更近的位置,其核心逻辑就是保持流量本地和分布式以减少延迟。根据预测,到2023年,网络边缘的智能设备数量可能是传统IT领域的20倍以上。e9FEETC-电子工程专辑

第五次计算浪潮

边缘计算为何能呈现这样的高速增长态势?恩智浦(NXP)高级副总裁兼边缘处理事业部总经理Ron Martino认为以下三大驱动因素值得关注:第一,它能够降低总体拥有成本,不需要总是进行云接入,从而降低本地成本。第二,它可以保护数字隐私,提高安全性。第三,它能够减少应用延迟,支持实时应用,增强本地体验质量。e9FEETC-电子工程专辑

e9FEETC-电子工程专辑

他将边缘处理市场比喻为一个“分布式智能金字塔”——底部是包括工业和物联网在内的应用边缘,包括工厂自动化、基础设施、交通运输、医疗等,物联网边缘包括智能家居、消费及可穿戴领域,这是边缘处理规模最大的、十亿量级的大市场;中部是网络边缘,主要支持5G本地网络及数据集成,是一个千万到亿级的市场;最顶部则是数据中心,以云服务为主,大约是百万量级。对NXP来说,牢牢抓住金字塔底部和腰部这两块规模最大的市场,是公司发展的核心战略。e9FEETC-电子工程专辑

e9FEETC-电子工程专辑

EDGEVerse边缘处理平台,及其包含的eIQ机器学习软件开发环境、Immersiv3D音频体验套件和EDGEScale设备管理平台是恩智浦在可扩展边缘计算方面做出的努力,这一系列软件平台和架构的出现,为用户提供了完整的“一站式服务”,能够帮助他们实现从云到端的安全设备管理,更有效的机器学习运算能力。按照Ron Martino的说法,EDGEVerse产品能够满足中国提出的数字化网络建设七大重点领域中的六个,分别是:人工智能、工业互联网、城际交通、5G网络、数据中心和新能源汽车。e9FEETC-电子工程专辑

e9FEETC-电子工程专辑

机器学习的“入侵”

但其实,仅靠边缘计算市场的自我演进,市场呈现爆发式增长的态势可能还不会到来的如此之快,人工智能/机器学习对边缘计算市场的“入侵”,才是最大的“加速器”。e9FEETC-电子工程专辑

几年前,人们普遍认为机器学习、深度学习只能通过由网关、边缘服务器或数据中心执行的边缘训练和推理,在高端硬件上完成。但如今,处理器不必提供每秒数万亿次操作(TOPS),也能执行机器学习,只要使用带有嵌入式机器学习加速器的微控制器,就能在边缘设备上进行机器学习。e9FEETC-电子工程专辑

例如在生产数据的源头(麦克风、摄像头和监控其他环境条件的传感器)中引入智能计算,只需极低的成本和极低的功耗,这些设备就能出色地完成机器学习,仅在绝对必要时才连接到云。e9FEETC-电子工程专辑

目前,机器学习在边缘计算中的应用已经比较普遍,有55%的开发人员表示他们当前或未来工作需要机器学习,早期的采纳者已经开始探索更有意义的用例,未来则会被越来越多的开发者接受,也将使得机器学习的开发鸿沟得以消弭。e9FEETC-电子工程专辑

e9FEETC-电子工程专辑

在NXP方面看来,要想在嵌入式开发中引入机器学习,当务之急是让更多的开发者用起来。NXP最新的一个举措是与Au-zone的DeepView技术建立战略合作伙伴关系,合作开发机器学习工具包,并使用Arm Ethos-U65 microNPU实现机器学习加速。通过合作,加强NXP对eIQ机器学习开发环境的支持,帮助用户部署优化机器学习的模式,并且在全球范围内优化机器学习能力,直到MCU的层级。e9FEETC-电子工程专辑

边缘智能的落地

不过,机器学习在嵌入式端具体如何实现?毕竟设备资源受限,对功耗、带宽、存储、模型尺寸等都有完全不同的要求。e9FEETC-电子工程专辑

NXP边缘处理事业部副总裁兼IoT业务线总经理于修杰表示,目前尚处于机器学习发展的早期,会有很多迭代和战略微调,机器学习和人工智能应用在选择处理器方面不可能做到一刀切,取决于市场对于应用的需求和对功耗、成本的容忍度,每种技术都能找到自己适用和擅长的领域,因此未来还有很大的继续创新的空间。e9FEETC-电子工程专辑

此外,微处理器中应用处理器和神经网络加速器的发展速度十分迅猛,更完善的解决方案也层出不穷,总体趋势是将更多以人工智能为中心的功能(例如神经网络处理)与应用处理器一起整合到微处理器中,同时避免功耗或尺寸显著增加。e9FEETC-电子工程专辑

  • 物联网边缘

个人设备、智能家居、智能家电以及新兴消费类和零售是NXP在物联网业务上聚焦的四大领域。在智能家居应用中,未来的智能家电可以判断出自己的保养时间、准确地辨别出与之互动的人,还可以帮助用户更好地烹饪、洗衣服……与此同时,智能家电的安全性也在大幅度提升。以洗衣机为例,它就集合了包括MCU、MPU、NFC、Wi-Fi等在内的多种技术,参考平台则能够让用户更好更快的设计出创新产品。e9FEETC-电子工程专辑

e9FEETC-电子工程专辑

  • 工业边缘

据恩智浦边缘处理事业部高级总监兼工业业务线总经理Jeff Steinheider介绍,在工业领域,恩智浦的重点应用市场主要瞄准工厂与流程自动化、建筑与能源、医疗保健以及交通运输。e9FEETC-电子工程专辑

他尤其提到了工业通讯领域最热门的技术—时间敏感型网络(Time Sensitive Network ,TSN),并指出TSN最关键的目的在于“同一”网络的数据传输,即周期性的控制通信需求和非周期的数据在同一个网络中传输,这是TSN的核心诉求。与此同时,恩智浦还将机器学习、机器视觉、运动控制、HMI以及电机控制在TSN网络上互相交互,并且可以在同一个网络上实现IoT和IT的流量。e9FEETC-电子工程专辑

e9FEETC-电子工程专辑

  • 网络边缘

5G是解放边缘计算能力的一把钥匙,尤其是想要满足从云端到边缘的多应用需求时,5G能够提供高带宽、低延迟和很强的覆盖能力。e9FEETC-电子工程专辑

“当前在5G开发上面临的一大主要挑战便是如何构建融合不同架构、频谱和演进标准的网络基础设施。”恩智浦产品管理高级总监Nikolay Guenov对记者说,新推出的Layerscape Access产品是恩智浦专为“5G网络边缘”应用而设计的具有集成可编程矢量引擎的创新型软件定义基带处理器; 它可提供灵活的Sub-6GHz或毫米波5G无线选项,并降低了功耗、复杂性、BOM成本。e9FEETC-电子工程专辑

而对数据中心来说,效率是最关键的指标,需要考虑如何在服务器上实现高数据密度来支持应用软件,需要关注网络接口、网络处理、加密处理以及网络基础架构,并满足最近五六年的虚拟化需求,而客户的应用软件同样重要。恩智浦提供的多核处理器,能够将网络方面的功能融入Smart NIC加速卡上,使服务器上的处理器能满足应用软件的高密度要求。”e9FEETC-电子工程专辑

e9FEETC-电子工程专辑

目前,恩智浦的边缘计算平台已从毫安级单一DMIPS的小型控制器,扩展到了瓦特级数十万DMIPS的复杂处理器。由于产品组合的多样化,所以从成本和功耗角度来看,如何将这些产品投放到竞争激烈的市场中,是包括NXP在内的厂商遇到的共同挑战。e9FEETC-电子工程专辑

e9FEETC-电子工程专辑

因此,Ron Martino在NXP Connects 2020上与MCU/MPU工程部执行副总裁Kevork Kechichian进行边缘计算架构趋势炉边谈话时表示,由于不能用堆叠晶体管来解决问题且需要注重利润和成本,于是NXP现在将一些低端产品视作大型终端系统的基础子系统,并进行了非常广泛的优化。在此基础上,每个产品会各自添加不同的子系统,考虑到这种层次结构也包含软件,所以需要投入巨大努力。e9FEETC-电子工程专辑

边缘计算的下一步?

不过,机器学习已经出现了约20年了,一旦发布一款芯片,人们就会尝试在处理引擎上运行各类计算,CPU、GPU、DSP、多种硬件加速器……不胜枚举,随着高集成度的出现,在产品中使用这些计算密集型神经网络也成为可能。软件层面也是同样的现象,需要从机器学习的角度对协议栈、软件和应用层进行全方位的评估和优化。但从消费者的角度来看,他们主要关心用户体验,这就使得当前对机器学习的用例优化非常重要,通过硬件IP与软件相结合,真正解决终端应用需求。e9FEETC-电子工程专辑

“尽管任何芯片厂商都可以集成并拼接不同的IP,而且大多数IP经过独立验证,质量相当不错。但将它们投入使用后,挑战就出现了,所以是否能真正优化终端应用性能,并拥有一支经验丰富的团队以明智的方式完成这项工作,才是成功的关键。”Ron Martino说,从用户体验来看,NXP正在行业中构建一个能够通过开放标准和通用设备自我构建,并与浮于硬件之上的软件和应用层交互的平台,从而提高效率并加以利用。随着嵌入式计算的日趋广泛,对这些平台的裁剪及优化有可能将成为NXP的另一大优势。e9FEETC-电子工程专辑

以NXP近期在无线连接方面的收购为例,Wi-Fi、BLE、Zigbee、Thread这些都是开发智能家居和工业应用的关键部分,当把这些优质IP与硬件产品进行集成时,会发现大量的产品路线和不同的流程成为了挑战之一,而非技术,所以边缘处理事业部开始研究如何最大限度地减少不同技术版本的数量,以便将所有驱动程序、固件和开发环境集成到一个安装包中方便客户轻松高效地优化其系统。e9FEETC-电子工程专辑

“边缘计算有着广泛的可能性,无论是性能还是能力,因此可扩展的解决方案具有更大的价值,它能够充分挖掘边缘计算的能力,这也需要非常广泛的器件组合,在满足软件方面要求的同时又能够兼顾平台的效率”,Ron Martino强调,“安全也越来越重要,随着接入点的增多,产生了非常多的关键数据,安全性和不断集成的功能已经成为极为重要的因素,也成为嵌入式计算不断演进的关键因素。”e9FEETC-电子工程专辑

至于嵌入式计算会如何演进?他表示,这些年来嵌入式计算的关键指标从频率、单线程性能一直到具有很多计算模块的异构计算,能耗效率和成本效益在不断提升,机器学习功能也会不断进化。在开发嵌入式计算产品方面不仅要结合各种计算模块实现互联,也需要进行软件的优化赋能和硬件的用例优化。机器学习和传统的CPU工作负载有不同,比如内存的接入可能会成为一个潜在的瓶颈,另外还需要优化它的尺寸,将其作为计算部件的一部分,实现与CPU功能及其他功能的协同,这是涉及系统级优化的复杂过程,需要熟练的制造流程作用于软件和硬件应用,以便真正优化性能并降低功耗。e9FEETC-电子工程专辑

ASPENCORE
本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
邵乐峰
ASPENCORE 中国区首席分析师。
  • 国民技术N32 MCU如何实现硬件级的安全防护? 如今万亿级设备接入量的物联网市场,对MCU的需求量持续上升。IC Insights 数据显示,2020年MCU 市场规模将达 171 亿美元,同比增长 3.2%,出货量则将创下 289 亿片的历史新高。预计2018-2023年,MCU市场复合年均增长率达到3.9%,到2023年市场规模将达213亿美元,出货量382亿颗。
  • Secure Thingz CEO:物联网有风险,入行需“安全” 对于绝大多数人而言,当今物联网面临的最大挑战是安全性。根据英国DCMS的数据,超过45%的受访者表示,安全性正在阻碍物联网的普及。根据其他分析,如果安全性更好,超过70%的客户会增加物联网产品的购买量。而现实是,目前只有4%的物联网设备具有足够的安全性来满足当今的基本要求,同时全球有超过350万个网络安全职位空缺……
  • 魏少军:“百年未有之大变局”下中国半导体发展的六大战 在全球大变局下中国半导体业界“全面国产替代”发展很火热,甚至火热得有些过头,尤其是目前面临内忧外患大环境,怎么能保证战略定力,充分发挥中国庞大市场的优势,和已有的良好基础,在未来的5到10年,争取一次大的进步?魏教授认为这是一个非常重要的课题。
  • 安森美CEO:半导体是世界的半导体,合作才有创新 全球疫情给经济和社会造成了巨大的动荡,在此期间,全球各行业在一定程度上都调整了各自的经营模式。虽然人们在思考疫情时,首先想到的肯定不是半导体,但在帮助人类对抗病毒时,半导体的确发挥了非常重要的作用。半导体将很多不可能的构想,变成了可能,但最近全球贸易环境紧张,让半导体供应链出现问题。需要明确的是,半导体是一个全球性的行业……
  • Wally Rhines博士:未来10年全球半导体市场发展趋势 在今年的全球CEO峰会上,Wally Rhines博士为国内半导体人士带来了一场耳目一新的视听盛宴,他分享了AI芯片和数据采集/分析/保护的最新趋势和技术发展动向,介绍了一种新的加密计算技术及其市场前景,并对全球半导体未来10年的发展趋势做出了独到分析和预测。
  • 边缘计算中的 AI 如何驱动5G和IoT 边缘计算的概念是对位于应用附近的服务器中的数据进行处理和分析。这一概念日益普及,并为成熟的电信提供商、半导体初创公司和新的软件生态系统打开了新的市场。然而什么是边缘计算? 如何使用边缘计算,能为网络带来什么好处? 要了解边缘计算,我们需要了解推动其发展的因素,边缘计算应用的类型以及当今公司如何构建和部署边缘计算 SoC。
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了