广告

是时候不把智能手机叫做电话了:移动AI时代来临!

时间:2018-02-12 11:07:42 作者:Liran Bar 阅读:
全新的iPhone X集成了用于人脸识别的神经引擎,但这仅仅是一个开始。嵌入式神经引擎和专用智能处理器在边缘设备上实现了人工智能(AI),打破了对于云的依赖。边缘处理的好处包括减少延迟,全网络覆盖,增加了隐私和安全性,并减少了与云端的通信,从而降低了成本。正因为具备上述优势,移动设备可以利用人工智能去实现不久前还只能出现在科幻小说中的场景。
广告

全新的iPhone X集成了用于人脸识别的神经引擎,但这仅仅是一个开始。嵌入式神经引擎和专用智能处理器在边缘设备上实现了人工智能(AI),打破了对于云的依赖。边缘处理的好处包括减少延迟,全网络覆盖,增加了隐私和安全性,并减少了与云端的通信,从而降低了成本。正因为具备上述优势,移动设备可以利用人工智能去实现不久前还只能出现在科幻小说中的场景。

过去的机器现在是实时数据处理中心

我在参加我们的年度研讨会时,有机会亲密接触到了嵌入式世界中的AI技术。曾经是纯机械的机器,比如汽车、无人机和机器人,现在正变得智能起来,具备了可视、感知、跟踪、分类、检测、识别等能力。现在,这些设备使用计算机视觉和传感器融合来收集和处理数据,并进行实时决策。在某些情况下,比如无人驾驶汽车和无人机,决策是至关重要的,云端处理的延时可能导致难以接受的响应时间。通过片上智能化,这些机器更准确地被定义为了数据中心。

CEVA18021201
图1:AI的边缘化必须实时和低功耗地处理大量信息。(来源于:CEVA)

无人驾驶车辆就是一个很好的例子,它需要大量的视觉和其它传感器,以及卫星定位信息和各种连接解决方案。它还必须有一个“大脑”完成数据融合和分析。同时基于云的处理和信息也将在自动驾驶功能中发挥作用,因此必须有一个可以瞬间做出决策的车载处理器。即使出现零星的情况,操作车辆也不会有危险是非常关键的。因此,处理器能够处理密集的深度学习计算是必要的,而不是一个可选的功能。

CEVA18021202
图2:汽车上的AI边缘处理要求高水平的车载智能。(来源于:CEVA)

神经网络的边缘处理正在成为主流

在智能手机领域,苹果通常是一个新增特性被作为主流必备还是利基市场(niche-market )配件的试金石。随着苹果新旗舰iPhone X的发布,手机上配有一个专门的神经引擎是人工智能边缘处理的一件大事。如同先前的预测,这意味很快每个带有摄像头的设备将包括一个视觉DSP,或其它专门的神经网络处理器。

iPhone X里的神经引擎实现了Face ID技术,允许用户注视手机从而解锁他们的iPhone。超快的响应时间加上隐私和安全级别的考虑需要所有的识别处理必须在手机上完成。以现在设备上具备的AI能力,肯定会不断推出更多令人兴奋的AI功能。

谷歌也在其最新的旗舰手机Pixel 2中增加了类似的功能,通过称之为像素视觉核心(Pixel Visual Core)的处理器实现。在竞争激烈的智能手机领域,谷歌必须实现差异化。方法之一是为Pixel智能手机的相机搭载出众的软件。但是,图像增强所需的密集计算,单镜头背景虚化效果,提高照片的动态范围,这些功能在目前大部分领先的智能手机自带的标准处理器上不能高效地运行。因此,谷歌决定为这些功能添加第二个芯片,通过添加AI功能可能是另一个主要差异化的体现。华为最近也宣布了在麒麟970中集成了神经引擎,另外还有许多其它公司也加入到竞赛中。

基于视觉DSP的引擎如何实现片上智能化?

虽然边缘处理的好处显而易见,它同时也带来了挑战。难题是如何将可以在巨型服务器上完成的数据运算,放入到一个很小的手持设备中,同时电量还被消耗在许多其它处理任务上。这就是视觉DSP对于能否成功实现边缘AI处理至关重要的原因。精简和高效,但强大的矢量化性能,让DSP处理器成为完成神经引擎工作负载的最佳选择。

另一个挑战是如何将现有的神经网络移植到嵌入式DSP环境里。这可能会消耗大量的开发时间,代价变得非常昂贵。但是自动化工具链可以支持“按键操作”,一站式服务将网络的分析和优化转换到嵌入式环境中。对这样的工具而言,覆盖大量最先进的网络是非常重要的,以确保任何网络都可以很容易地优化并运行在嵌入式设备上。

CEVA18021203
图3:Faster RCNN——CEVA完整的自动网络生成器可以有效的降低带宽和保持比特精度。(来源于:CEVA)

一旦移植和优化过程完成后,通常会对输入数据进行下采样,从而以最少的信息丢失完成更快速的处理。例如在CEVA的全自动网络生成器Faster RCNN的流程中,我们有两个处理阶段,区域建议(proposal regions)和区域分类(classify regions)。

CEVA18021204
图4:Faster RCNN处理流(来源于:CEVA)

CEVA-XM家族处理器是超低功耗的视觉DSP,非常适合完成此类工作。通过添加CEVA-CNN硬件加速器(HWA)可以更进一步提升性能,加速神经网络处理(例如Faster RCNN)。从图5中可以看到,CEVA的第五代视觉处理器CEVA-XM6,相比前一代CEVA-XM4性能有了显著改善。添加CEVA-CNN硬件加速器则使性能又向前迈进了一大步。

CEVA18021205
图5:使用CEVA-XM视觉DSP家族后Faster RCNN的性能。(来源于:CEVA)

基于深度学习的人工智能为手持设备带来了无尽的机会:通过图像增强获得DSLR质量的照片,增强和虚拟现实应用,环境感知、避让和导航、检测、跟踪、识别、分类、分割、映射、定位、视频增强等等。我们手掌中拥有这样的力量,看起来智能手机的通话功能就微不足道了。

CEVA18021206
图6:AI支撑的可视化智能应用。(来源于:CEVA)

本文来自《电子工程专辑》2018年2月刊,版权所有,谢绝转载

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • 人工智能开始为电子设计决策 虽然人工智能和机器学习的应用越来越广泛,但在繁杂的电子设计中,能够帮助工程师实现什么类型的决策呢?工程师又将如何看待在设计中让人工智能进行这些决策呢?本文所揭示的一个设计趋势是,绝大多数的工程师们都信任人工智能,认为它们会在建模设计、元器件选型、加快新产品上市方面发挥越来越大的作用。
  • 从FPGA到ASIC,人工智能芯片设计之路 对于普通消费者,人工智能、机器学习、数字孪生、元宇宙这类科技名词简直让人目不暇给,其实这些都预示数字化大潮的来临。然而,如果没有好的大芯片,恐怕一切都是空谈。本文提出大芯片的设计之路,就是从架构到FPGA,再移植到ASIC。但这并非是平坦路,转换过程中存在各式各样的挑战。各团队必须清晰理解意图,牢记设计初衷。
  • 英伟达CEO黄仁勋:将为中国市场提供符合出口规定的AI芯片 美国政府颁布的新条例,限制了如英伟达这样的公司,对部分受约束国家的人工智能芯片的出售。包括英伟达在内,担心因此失去中国市场份额。此前,英伟达为确保出售符合中国市场规定的芯片,将其H100和A100进行改造,推出了相应的H800和A800两款芯片。此次,英伟达有意针对产品进行再次改造。
  • 反转:Gemini AI 性能或作假,演示有剪辑成份 电子工程专辑刚刚介绍了《谷歌发布多模态大模型Gemini》,这是谷歌自称强于OpenAI技术的目前最强大的AI,然而据彭博社报道称,Google在关于"双子座"的性能视频演示中作假了。
  • 欧盟达成一项AI监管协议,将对ChatGPT等AI技术进行监管 目前,欧盟达成了人工智能(AI)监管协议,标志着向具有里程碑意义的人工智能政策获批迈出了关键一步,此举为发达国家对生成式AI工具的监管定下基调。
  • 边缘计算:节约能耗,助力更环保、更智慧的解决方案 ST已经在汽车、智慧工业和物联网等应用领域大力部署边缘AI。STM32系列的32位Arm Cortex微控制器已将适合边缘计算的低功耗版本涵盖其中。为了让不熟悉AI的人更容易上手,NanoEdge AI Studio整合了机器学习函数库,可以为任何指定的应用自动搜索和配置最适合的解决方案。
  • 受惠于折叠手机渗透率提升,预估2024 根据TrendForce集邦咨询最新OLED技术及市场发展分析报告统计,在近期发表的摺叠新机中,UTG的市场渗透率已逾九成,随着摺叠手机规模持续成长,预估2023年UTG产值将达3.6亿美元;2024年可望挑战6亿美元。
  • 2023年第三季全球前十大晶圆代工产 随着终端及IC客户库存陆续消化至较为健康的水位,及下半年iPhone、Android阵营推出新机等有利因素,带动第三季智能手机、笔电相关零部件急单涌现,但高通胀风险仍在,短期市况依旧不明朗,故此波备货仅以急单方式进行。此外,台积电(TSMC)、三星(Samsung)3nm高价制程贡献营收亦对产值带来正面效益,带动2023年第三季前十大晶圆代工业者产值为282.9亿美元,环比增长7.9%。
  • 治精微推出具过压保护OVP、低功耗 治精微推出具过压保护OVP、低功耗、高精度运放ZJA3018
  • 无线技术确保人们在家庭、工作和娱 无线技术每天都在拯救生命,有些非常方式是人们意想不到的。在美国加利福尼亚州Scotts Valley,一名路过的慢跑者发现一处住宅冒出火焰后,按响了门铃,试图通知屋主。屋主不在家中,但无线门铃连接到了智能家居中枢,提醒屋主慢跑者试图联系。屋主立即向他提供了安全密码,让他跑进房子,从火场中救出了宠物。
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了