广告

边缘计算的巅峰是自主学习,而我们还只在山脚下

时间:2021-08-05 作者:刘于苇 阅读:
展望未来的边缘计算和人工智能物联网(AIoT),一定会有自主的发展出现。系统会自主化决定应该选择模型、策略、算法,自动收集数据训练模型,把训练结果用于实际系统,open Pose 技术将在业界普及。我们认为这是边缘人工智能发展的第三个阶段,也是最高阶段。
广告
EETC https://www.eet-china.com

2012年,一个名叫Alex Krizhevsky的学生设计了被称之为AlexNet的卷积神经网络,并且参加了ImageNet大规模视觉识别挑战赛,结果准确度远超过以往的冠军成绩。自此,以卷积神经网络为代表的深度学习的技术在各个领域得到了广泛的应用,比如零售领域的刷脸支付、交通领域的车辆识别、自然语言处理领域的语音的识别以及围棋领域的阿尔法GO。

但如果站在人类历史的角度看人工智能,这次高潮并不是它经历的第一次发展;卷积神经网络虽然扮演了非常重要的角色,却也不是最主要的推手。因为早在上世纪90年代,上一次人工智能高潮兴起的时候,卷积神经网络就已经被使用。当时人工智能界有三个获得了图灵奖的人物:Yann Lecun、Geoffrey Hinton、Yoshua Bengio,其中Yann Lecun上世纪90年代在贝尔实验室工作时,就设计了卷积神经网络,并且以他自己的名字命名这个网络为LeCun et al 89,只有三层左右,应用在了当时北美的支票字符识别上。

推动本轮人工智能发展的核心因素

英特尔公司高级首席工程师、物联网事业部中国区首席技术官张宇博士

那么推动本轮人工智能发展的,到底有哪些核心因素?”在2021英特尔AI计算盒参考设计主题分享会上,英特尔公司高级首席工程师、物联网事业部中国区首席技术官张宇博士在主题演讲中说到,“我认为总结起来有两方面,一方面在算力,另一方面是数据。

算力方面,最能体现人类算力水平就是超级计算机。在1994年全球超级五百强算力榜单第一次发布的时候,排名第一名的超算每秒浮点运算峰值速度是13000/次;而在2021年6月底更新的榜单上,排名首位的超算每秒浮点运算峰值速度达到53亿亿次(TFlop/s)。

摩尔定律带来的算力急剧提升,让我们能在更短时间内完成网络模型的训练,或者处理更加复杂的人工智能网络系统,极大地拉近了人工智能技术与商业诉求的距离,推动人工智能技术的落地。

数据方面,人工智能的发展从来都离不开数据。以LeCunet为例,普通开放数据池包含超过1400万兆经过标注的图片,而且这个数字在不断增加,算法开发人员利用这些图片可以进行图像分类训练。这些图片、数据增加的背后,实际上是基于通讯技术与存储技术的不断演进。

上世纪90年代我们还在用磁盘存储,硬盘只有几百兆空间,如今单位都论TB;通信则在5G迅速普及的情况下,允许开发者用更大的网络传输带宽、更低的传输延时将带来性价比更高的数据收集方式。可见人工智能的发展离不开计算、通讯和存储技术,他们才是推动了本轮人工智能发展的最主要因素。

边缘计算的三个阶段

与之前存在于实验室或超算中不同,现如今人工智能技术已经在越来越多地在边缘端得到普及,但目前绝大多数都是利用数据中心的算力和数据训练网络模型,再把网络模型推送到边缘执行推理操作。边缘做推理实现起来比较容易也合理,毕竟算力和存储都有限,“但这种方式有一定的弊端,就是模型更新是由数据中心控制的,不可能随时随地为新进的数据做更新。” 张宇博士说到。

在某些用户使用场景中,对模型更新频率是有要求的。比如ABB公司的机械臂在废品分拣过程当中,用机器视觉的方式识别废品形态,根据识别结果控制机械臂的抓取。但每天都会有新形态的废品出现,很难用一个网络模型涵盖所有不同物体,这就需要对模型不断进行动态训练,不断进行动态更新,所以今后人工智能的发展,边缘训练是必然趋势。

所谓边缘训练,并不是把现有数据中心的训练方法原封不动地搬到边缘,毕竟边缘设备计算、存储能力相对有限。另外在边缘会涉及到如何保护数据,因为有时候用户并不希望数据分享给所有边缘设备使用者。

边缘训练是人工智能在边缘发展的第二个阶段,但不是最终阶段,因为当下人工智能有一半是人工,另一半是智能,人还是扮演着非常重要的角色。虽然可以用极大的算力以及大量的数据训练一个网络系统,但是网络模型结构仍需要人提前设计好,在设计结构的过程中,人很多的意识其实已经嵌入到模型中。

张宇博士表示,展望未来的边缘计算和人工智能物联网(AIoT),一定会有自主的发展出现。“系统会自主化决定应该选择模型、策略、算法,自动收集数据训练模型,把训练结果用于实际系统,open Pose 技术将在业界普及。我们认为这是边缘人工智能发展的第三个阶段,也是最高阶段。

如果用珠穆朗玛峰作为类比,实现边缘推理,只代表站在了边缘计算的山脚;实现边缘训练,意味着站在了山腰;只有实现自主学习才意味着站在了高峰。

人工智能的发展离不开计算、通讯和存储技术的不断提升,“英特尔的产品恰恰涵盖了这三个行业,计算方面提供CPU、GPU、FPGA等不同产品组合,满足用户对计算不同的需求;通讯方面,在3G时代曾推出自己的通讯标准,在4G和5G国际通讯标准制定过程当中也贡献良多;存储方面提供傲腾(Optane)等技术,可加快闪存读写速度,提高存储能力。” 张宇博士介绍到,英特尔所提供的是一个端到端的人工智能解决方案,通过将5G、AI、智能边缘三者的融合,将边缘计算、人工智能推向新的发展方向。

XPU与架构融合适应不同AI网络模型

在分享会后,张宇博士还接受了《电子工程专辑》等媒体的采访当前在人工智能领域,CPU、GPU、DPU、FPGA各种芯片分工明确,在谈到哪一类处理器更适合人工智能应用时,他表示,如今的芯片已不单纯提供计算功能,而变成了综合系统。从计算角度分析,业界不同类型的负载对应着不同的计算架构,线上交易、日常办公等标量数据的处理,需要根据逻辑判断的结果动态调整整个处理流程,CPU最适合这种有很多的分支、跳转的操作,因为CPU最灵活,可以不断的进行判断和调整。

科学计算类、图像处理渲染应用的矢量数据,更适合 GPU去处理,因为GPU可以在一条指令周期内处理连续若干个数据单元;5G通讯类应用负载需要对系统功能、接口做灵活调配,这种情况下FPGA是最优的架构类型,可以通过灵活配置改变硬件的操作。

现在的人工智能以卷积神经网络为基础,最基本的运算是矩阵乘法和加法。然而用户对于计算的需求是多样化的,很少只做标量运算或只做矢量运算,一个用户应用里涉及到的负载类型是多样化,对于特定负载的处理如果要做性能功耗最优,就需要特定架构。业界很多加速芯片的思路都是类似的,英特尔有“XPU战略”,人工智能加速芯片产品中都有专门用作矩阵运算的硬件,“只有把人工智能的核心运算交给专门的硬件来做,才能达到性能的最大化。”

谈到英特尔与其他AI解决方案商相比的优势,张宇博士认为是不同架构的融合。英特尔现在的处理器已经不是传统意义上的CPU,还集成了GPU来同时满足用户对于标量和矢量运算的综合要求, CPU可以做逻辑运算,集成显卡可以完成高性能的媒体编码、解码、转码操作,也做一些推理和训练操作,VPU则可以用于AI加速。

据悉,后续英特尔的集成显卡也将采用和独立显卡一样的Xe架构,以保证可以通过类似的软件接口,让用户的人工智能网络模型在集成显卡、独立显卡甚至不同的CPU和人工智能加速芯片之间进行迁移,“编程易用性是我们追求的目标,对于用户来说非常关键。”张宇博士说到。

在不久之前的Six Five峰会上,英特尔还首次提出了网络基础架构处理器IPU的愿景。IPU是可编程的网络设备,能让数据中心的网络基础设施进行安全加速,帮助服务提供商真正实现完全虚拟化的存储和网络架构。

生产工艺方面,近期英特尔宣布了最新的工艺节点命名和路线图,在Intel 7和Intel 4节点下EU数量得到了极大提升。对此张宇博士认为,EU数量的增加会极大地提升AI计算盒的性能,以第11代Tiger Lake处理器为例,和第10代相比EU数量增加了三倍,整体媒体编解码能力和AI推理能力也会得到相应倍数的提升。

最后在封装上,英特尔利用先进封装技术把不同功能的小芯片通过同样的封装集成在一起,从原有系统集成芯片(SoC)设计,变成Chiplet设计,可以更方便构建异构架构,满足用户对于计算多样化的需求,为今后实现自主学习提供坚实的物质基础。

部分经典案例

边缘AI能做到哪些事情,来服务于人类,并且效果比之前的方法好呢?现场也也展示或列举了一些经典案例:

工业机器视觉重庆当地做汽车配套的铝合金加工厂,主要产品有汽车发动机的气缸等。利用边缘计算盒子和软件工具,实现了产品质量缺陷的检测,并且检测的准确度大幅度提升,漏检率降低80%。

自然灾害防控:与四川省应急部合作的加油站防火监控、不合规行为监控。其中一个方案是利用架设在森林里的高压电线杆布局,用热成像技术实时监控着火点,识别到微小火星便开始监控并预警。

安全防控:主要场景是智慧社区,比如说非法人员的闯入、高楼层住户是否带电瓶车上楼、高空抛物、非机动车辆的违停、消防通道的堵塞、广场舞、乱丢垃圾,都能及时将安全隐患上报相关部门。

疫情防控:华大基因利用英特尔的技术更新高通量的基因测序仪,提高更高效的基因测序满足大量的核酸筛查需求。医疗影像单位利用AI技术做CT片的自动识别,减轻医生的负担的同时准确率得到提升。此外疫情中如何保护医疗人员很重要,需要大量非接触式服务,拥有AI技术的医疗辅助机器可实现识别、避障,把药品、食品通过无接触的方式送到病患手上,一定程度减少了医护人员被感染的风险。

责编:Luffy Liu

EETC https://www.eet-china.com
本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
刘于苇
电子工程专辑(EETimes China)副主分析师。
  • 如何在5万亿美元的市场中,利用智能技术引领新工业发展 到2025年,工业物联网将创造约5万亿美元的市场规模。在庞大的技术驱动市场面前,如何为社会、客户和自己创造价值?
  • 人工智能安全性又浮上台面 在第一轮对人工智能夸张的担忧想法中,主要包括担心它的恶意、可自我复制,以及类似HAL的机器最终超越它的创造者或在战场上不受控制地攻击。但自那以后,对人工智能的讨论变得更加务实,更多地聚焦于最受关注的安全性问题上。
  • 不到半年,AI硬件半导体公司Astera Labs再获融资 致力于AI硬件设计的Fabless半导体公司在时隔不到半年之后,再获得融资。这次是C轮,金额为5000万美元,估值达到9.5亿美元。
  • 融资超十亿,AI视觉行业生力军走出“隐身模式” 近日,AI视觉芯片研发及基础算力平台公司爱芯科技宣布正式更名为爱芯元智。除了名称变更,爱芯元智还进一步明确了未来目标,即更加注重边缘侧和端侧的AI视觉芯片研发,将AI的能力发挥到极致,为世界的数字化和智能化新基建提供边缘侧和端侧的支持。
  • 两种高能效、高精度及高可靠性的可调光LED照明降压方 本文主要介绍安森美 (onsemi)的基于NCL35076连续导通模式 (CCM) DC-DC 降压控制器的75 W方案和基于NCL30076准谐振(QR)降压控制器的100 W及240 W方案。两款方案的典型应用是LED照明系统、模拟/PWM可调光LED驱动器,模拟调光范围宽,从1%到100%。
  • 给“无情”的人工智能模型常识和推理能爆发新的技术革 人工智能算法都是冷酷无情的,无论是亚马逊的员工工作监督,还是美团的路径规划算法,都在压榨着人类的极限,而且随着人工智能炒作的偃旗息鼓,美国国防部似乎找到了新的发展方向,通过给人工智能常识和推理能力,让其自主学习,那么究竟是怎样的项目能让社会获得这一“革命”性的进展呢?
  • 新款iPad Pro 2021成最受欢迎的 由于采用性能相对强大的M1处理器和mini-LED屏幕以及更多的创新,新款iPad Pro 2021已经成为消费者心目中最受欢迎。然而,iPad 2却已经在全球范围内被列入“复古和过时”的名单中。
  • 三星折叠屏手机Galaxy Z Fold 3 目前来看,折叠屏新机作为一种新的生产力工具,逐渐成为高端/平板的一种趋势,有报料称三星的Galaxy Z Fold 3发布时间或为7月,并且会引入新手势操控。

  • 重磅新品| 纳芯微推出车规LIN收发 纳芯微(NOVOSNS)推出了全新通用车规LIN收发器芯片---NCA1021,可广泛适用于汽车电子子系统的总线接口设计,如电动门锁,电动窗,电动座椅,电动后视镜,玻璃刮水器,座椅加热器等模块,具有线间干扰小,线束少,传输距离长,成本低等优点。
  • 猎豹移动2021年Q3财报:AI和其他收入 本季度猎豹移动持续提升运营效率,Non-GAAP营业总成本及费用同比下降47.4%。其中互联网业务环比扭亏为盈,实现Non-GAAP营业利润180万元。截止到2021年9月30日,公司持有的现金及现金等价物、受限资金及短期投资18.53亿元,长期投资24.23亿元。
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了