广告

边缘AI大战一触即发

时间:2019-11-15 作者:Sally Ward-Foxton 阅读:
一场边缘AI大战正悄悄展开...每一家处理器供货商都将机器学习视为“金鸡母”,积极地调整自家公司策略,竞相为这个具有最大商机的领域——边缘AI提供加速特定工作负载的解决方案...
广告
ASPENCORE

过去两年来,人工智能(AI)已经从学术奇迹演变为全球重大趋势了。以某种形式呈现的机器学习(machine learning)即将彻底改变几乎所有领域——从消费者、汽车、工业到电子产业的每一个领域,并且正以未知的方式影响整个社会和我们的生活。O41EETC-电子工程专辑

事实上,对于产业来说,这表示每一家处理器供货商都将机器学习视为“金鸡母”。这一场战争已经开打,他们正积极调整自家公司策略,竞相为具有最大潜力的领域——数据中心以外的机器学习,或是边缘AI (AI at the edge)——提供可加速特定工作负载的理想解决方案。O41EETC-电子工程专辑

边缘AI拥有巨大的光明前景,因为它几乎适用于每一种电子装置,从无人驾驶车可在行驶中“看到”路上行人,到能够接收并响应语音命令的咖啡机等。需要在低延迟、数据隐私、低功耗和低成本之间任意组合的应用最终都将转移到边缘执行AI推理。O41EETC-电子工程专辑

值得注意的是,从下图Gartner提供的新兴技术发展周期报告(Hype Cycle for Emerging Technologies, 2019)来看,边缘AI (Edge AI)只不过是发展还不到5年时间的一个点。O41EETC-电子工程专辑
20191115-100.jpgO41EETC-电子工程专辑
Gartner提供的2019年新兴技术发展周期报告:Edge AI要“达到生产力成熟期”(plateau of productivity)大约还需要2-5年的时间。(来源:Gartner)O41EETC-电子工程专辑

AI推理的工作负载是特定的:它们需要对大量低精度资料进行大规模平行处理,而内存存取正成为一项瓶颈。大部份的处理器类型都在试图适应这些要求。O41EETC-电子工程专辑

Magazine191218.jpgO41EETC-电子工程专辑

目前主要的技术是GPU——实际上应该说是当今一家公司的细分市场。很幸运地,GPU的单指令多数据(SIMD)架构本来是为了加速计算机绘图而开发的,如今也顺势演变成为极其适用于AI工作负载。英伟达(Nvidia)正乘着这一波浪潮前进,致力于开发AI超级计算机,用于数据中心、自动驾驶等以及甚至是小型的边缘装置。O41EETC-电子工程专辑

其他业者也想在这个市场分一杯羹。长久以来习于加速数学算法的FPGA供货商开始完善其产品组合,以因应边缘AI处理的需求。赛灵思(Xilinx)采用特定领域架构(domain-specific-architecture)的概念,将可编程逻辑与其他运算类型结合在一起,为新的工作负载客制化数据串流。同时,莱迪思半导体(Lattice)则瞄准在低功耗装置中进行图像处理。O41EETC-电子工程专辑

还有许多新创公司的新架构成功达阵,从内存处理器(processor-in-memory;PIM)技术(如Mythic、Syntiant、Gyrfalcon)到近内存运算(near-memory computing,如Hailo);从可编程逻辑(Flex Logix)到RISC-V核心(Esperanto、GreenWaves);以及从极其微小(Eta Compute)到超大规模(Cerebras、Graphcore)等领域。这些新创公司大多数都在为边缘打造AI。但是,当他们开始与Nvidia和Intel等巨擘正面竞争时,是否还会有足够的利基市场足以支持他们?时间会说明一切。O41EETC-电子工程专辑

此外,还有许多新创公司从另一个方向着手解决这个问题:调整AI工作负载以便在微控制器(MCU)等传统硬件上更有效地执行。诸如PicoVoice和Xnor等公司正在寻找新方法来利用现有装置的指令集,以执行矩阵乘法。O41EETC-电子工程专辑

结合Google在TensorFlow Lite上的成果——一款可将机器学习模型缩小到适合MCU的编译程序——毫无疑问地,这将为不需要连接因特网即可进行推理任务的语音启动装置等应用开启大门。O41EETC-电子工程专辑

嵌入式开发人员在面对这些新型加速器芯片组时,必须学习如何使用它们。软件是这一挑战的重要组成部份。更传统的CPU、MPU和MCU显然在此具有领先优势。O41EETC-电子工程专辑

尽管要打造一个围绕着新软件平台的开发社群并非不可能,但这毕竟并不容易实现的。Nvidia花了十年的时间打造其GPU软件平台——CUDA,才实现当今的成果。任何想要进入这一领域的业者都需要打造工具库与工具,以及透过会议与论坛来教育开发人员。但这些都可能让新创业者的有限资源更加吃紧。O41EETC-电子工程专辑

灵活性是成功秘诀的另一个要素。尽管当今的图像处理模型有赖于卷积神经网络(CNN),但不同类型的神经网络也适于像语音识别等其他应用,而且学术界还一直在提出新的神经网络概念。先进的网络可能还需要更复杂的数据串流方案。为了加速当今CNN而开发硬件的一个风险在于可能导致过于专业化,而无法加速未来的网络平台。因此,AI工作负载的本质应该被视为一项不断变化中的目标,在灵活性和性能之间取得适当的平衡,这对于未来的发展至关重要。O41EETC-电子工程专辑

这个领域的战争才刚刚开打。最后的赢家将属于那些选择适合自家公司的利基市场并为其努力打拼、投资软件堆栈以及教育产业、并在此快速发展的产业中保持灵活性的公司。当然,还必须要能以合理的价格进行。O41EETC-电子工程专辑

编译:Susan Hong   责编:Yvonne GengO41EETC-电子工程专辑

(参考原文:Companies Clash over AI at the Edge,by Sally Ward-Foxton)O41EETC-电子工程专辑

 本文为《电子工程专辑》12月刊杂志文章,版权所有,禁止转载。点击申请免费杂志订阅 O41EETC-电子工程专辑

也可点击立即下载,下载12月刊完整版。O41EETC-电子工程专辑

EETC-1912-Download.JPGO41EETC-电子工程专辑

 

 O41EETC-电子工程专辑

ASPENCORE
本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
Sally Ward-Foxton
Sally Ward-Foxton是EE Times特派记者,她专注于EE Times美国版的AI技术和相关话题,以及EE Times欧洲版杂志中的欧洲企业报道。 Sally base在英国伦敦,她报道电子行业已有15年,曾为Electronic Design、ECN、Electronic Specifie撰写设计、电子元件类文章。 她拥有剑桥大学的电气和电子工程硕士学位。
  • 华为阿里员工跳槽微软,被要求停止无意义加班?内部人士辟 有媒体报道称,一批从华为、阿里跳槽到微软的员工,遭到了原有团队的抵制。据悉这是微软苏州某team的一次自发行为,他们表示,由于华为和阿里来的员工时常“比赛加班”,甚至“半夜在工作群互@发消息”,给团队带来了国内互联网企业的加班文化,破坏规则,恶性竞争……
  • 中国AI公司起诉苹果Siri侵权,索赔100亿 8月3日,智臻智能向上海高级人民法院提起诉讼,称苹果公司在其iPhone的语音助理软件Siri中未经允许使用了该公司的专利技术,侵犯了它的一项被编号为“ZL200410053749.9(一种聊天机器人系统)”的发明专利权。智臻智能要求苹果公司停止制造、使用、许诺销售、销售、进口涉嫌侵犯其专利的产品,并提出索赔100亿元人民币……
  • 未来的创新“办公室”包含哪些新科技与技术? 现代工作场所的面貌已经发生变革。员工不再居于一个小小的格子间,沉闷保守的装修扼杀了创造力,使人昏昏欲睡没有工作激情。时至今日,员工们追求开放灵活的空间 – 方便协作,而又不会感觉被牢牢的束缚在一起。他们需要四处走动,随时改变一下四周的景物,以便保持极高水平的工作表现。 这种新的工作风格促使着Georgia-Pacific (GP)位于亚特兰大市中心的总部 – 探讨了相关的业务,最终使工作场所发生了翻天覆地的变化。GP 以及参与此次改造工作的企业将这一项目称为 BlueSky。
  • 飞腾发布S2500,号称国产最强多路服务器处理器 近日,天津飞腾发布了新一代服务器芯片—腾云S2500。据悉,该系列芯片采用16nm工艺,64核架构,8路直连512核,是目前国产性能最强的多路服务器系统。该单路芯片可扩展支持2-8路,一台服务器最多能支持8颗S2500芯片直连构成多路服务器,片内集成64MB三级Cache,支持8个DDR4-3200存储通道,功耗……
  • 机器人志愿者上岗FIRST青年电影展,带你探班最飒高原露 电影院可能是这次新冠疫情中影响最久的实体经济之一了,不过在重新开放之际,很多电影院进行了升级,迎来了机器人+电影院的新生。
  • 海思 in 格力:全国产语音模组首次应用在家电行业 上海海思在官微宣布,基于海思SoC Wi-Fi IoT芯片的荣邦智能AI语音模组方案正式量产,搭载于格力电器的AI语音空调“月亮女神”。这次基于国产自主物联网操作系统、海思Wi-Fi SoC研发的控制器模组,在智能家居领域的应用意义重大……
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了