2018年,AI将成为各大手机公司的标配需求,手机端庞大的一手数据将会利用起来,而只有终端AI硬件能力普及后,AI应用才有可能百花齐放,AI生态才有可能真正成熟。华为麒麟芯片市场总监周晨表示,麒麟的定位就是平台算力的提供者,同时会提供SDK让开发者来运行自己的应用和算法。

从算法到算力,资本圈热点转移

2017年,在资本圈和媒体大V们讨论得热火朝天,在各个AI技术论坛频频召开的时候,消费者一头雾水。

笔者百度了一下“AI”,发现了一部大导演斯皮尔伯格拍的电影,电影里的AI就是一个除了内部构造,跟人没有任何区别的小男孩。

于是老百姓们恍然大悟,哦!原来AI就是机器人儿啊?

还有一部电影就是《黑客帝国》中的母体Matrix。这部电影里的AI是一个巨大的虚拟世界的大脑,整个物理世界都变成了数据,人类自己也变成了一串串代码。

这两部电影其实揭示了AI的两个表现形态:云端和终端AI。

2016年,资本圈关注的大多还是专注于云端算法的公司,比如商汤、旷视、云从、依图四家算法公司,李开复称他们为人脸识别的“四个独角兽”。

2016年,Intel收购了Nervana、Altea,谷歌在I/O大会发布了“TPU”,高通开始研发神经网络芯片,而Nvidia股价因为AI概念而飙升。

2017年,资本圈开始关注地平线、深鉴科技、寒武纪、云天励飞四家AI芯片公司。

资本的嗅觉是很灵敏的,AI作为一种技术其实已经有了几十年的历史。组成AI的三大要素包括算法、算力、数据。算法和数据的积累和演进已经持续了很多年,而终端算力的普及则刚刚开始。从运算发展的路径来看,一开始都是靠算法解决问题,因为那时候计算力有限。所以资本重点关注算法公司。现在计算力上升,算法的差异被弥补掉了,于是资本开始关注提供算力的公司。

虽然AlphaGo算力惊人,但这是在使用了上千个CPU和数百个GPU的基础下实现的,下一盘棋的电费就高达3000美元,相当耗能。

手机是目前最普及的个人移动终端,如何让低功耗的智能手机能够和AlphaGo一样“聪明”?

为何华为麒麟能率先推出手机AI芯片?

手机行业最先行动的是两个公司——苹果和华为。iPhone X的A11中打在了神经网络模块神经引擎(Neural Engine),而华为在经过多年的技术积累和方案预研后,创新性地在麒麟970上率先搭载了NPU(Neural-network Porcessing Unit)。

20170207-huawei-hisilicon-1 华为麒麟芯片市场总监周晨

“我们有幸走到了这件事(AI)的前面,我们的麒麟970跟iPhone X的A11是真正在终端侧率先的推出量产产品的公司。”华为麟芯片市场总监周晨对《电子工程专辑》记者表示。相比苹果的AI芯片,华为麒麟是用硬件的方式来加速,“我们对于开放的事情还是有差异的,苹果把这个能力主要用在FaceID,我们是通过HiAI全面开放给开发者,开发者可以用到手机业界最强的AI推理能力。”周晨说。

作为手机行业的标杆,这两家公司之所以能够率先推出AI手机芯片,首先当然是因为各自掌握着芯片设计能力。其次是因为他们的芯片部门或公司只需要服务于一家客户。

“实际上AI的项目我们2年前就启动了。因为我们是in house的芯片公司,只需要服务于华为这个品牌。我们可以很清楚的知道终端的需求是什么,从而针对性的做出产品和规划设计。”周晨认为,对于公开市场的芯片公司,考虑的逻辑是不一样的。因为芯片里面加任何功能都是成本,所以纯芯片公司要考虑到自己的客户对AI的需求会是怎样,因此会偏保守。未来在新技术的采用上,类似于苹果、华为这样的in house会更加激进,这可能是华为麒麟在业界率先推出AI手机芯片的重要原因。

从云到端,AI芯片迭代如何满足算法变化?

当然,如果你认为苹果和华为在手机芯片中搭载“AI”单元模块仅仅是为了寻找新的卖点,作为营销噱头多卖手机,那你就图样了。从云端到终端确实能带来真正的好处,比如功耗和成本的降低,效率的提升等。

2018年的CES展印证了AI向终端转移的趋势,以前很多基于概念的应用开始真正以产品和服务的形式落地了。从CES展出的各种AI产品来看,大致分为三种:第一类是应用在汽车上的自动驾驶方案,目前主要是Nvidia在该领域布局。第二类是围绕语音类的助手服务,包括智能音箱等。第三类则是图像识别类的产品,有大量的初创公司都在进入,开发类似于安防监控、直播、视频特效等新的应用。

周晨认为在云端进行AI运算的方式,如增加模型的大小和层数并不是真正的方向。AI开始从云端往终端迁移会把运算量和网络大小减少100倍,也会减少对网络带宽的需求。“随着算力的提升和算法的优化,最后会形成一个很好的甜蜜点。”周晨表示,在今年CES期后他去硅谷开会,发现业内都在讨论On device。开始做AI的公司多如牛毛,光是芯片公司都很多。

“终端的性能现在是瓶颈,大批公司虽然水平参差不齐,但是都在往芯片端走,如何解决兼容性问题,如何让算法更流畅,成为大家关注的焦点。”周晨表示,从2017年的数据来看,AI的算力云端占了95%,终端只占5%,这两点的巨大差距会带来很大的成长空间。

当然,由于目前的AI算法更新升级速度很快,如何满足一定的变化性呢? 周晨认为,未来比较合适的架构应该是CPU+硬件加速器的做法。对于华为麒麟,因为是一家硬件平台公司,自然更偏向用硬件的方式来做,提供通用性的加速器,从而满足大部分的算法需求。目前跑算法大概有两种方式:一种是用CPU跑纯软件,另一种是通过硬件加速器来固定算法。此外,从AI运算的需求本身来看,大部分是计算密度要求很高的行为,也需要用非常高效的硬件方式去做。周晨认为,从芯片的发展历史来看,很多算法一旦稳定成熟下来就会固定用硬件来做。

“我们自己有GPU、DSP资源,把异构这件事做好以后,对于第三方的未知应用都尽可能加速到。因为手机是开放型平台,所以我们必须这样做。”周晨表示,麒麟的定位就是平台算力的提供者,同时会提供SDK让开发者来运行自己的应用和算法。“再往上可能华为在手机端会提供一些业务级的接口,这些接口不需要开发者自己来做算法,比如卡路里识别,APP只要直接调用接口就可以了。”

下一代AI芯片怎么做?

对于华为的下一代AI芯片,周晨没有透露太具体的规格或参数。但他表示,后面两代的产品定义经明确,基本上有几个方向不会变:第一是算力会持续上涨。第二是专注在通用的AI运算平台上,持续将AI运算能力开放给更多开发者。第三是AI芯片的工艺会越来越先进,更新速度可能会比摩尔定律还要快。

“当我们把算力释放出去以后,可能会有一大票应用能力提升。这会产生正向循环,会有越来越多的开发者做一些新的好的体验。”周晨表示,AI本身是一种技术,但是未来的价值会体现在有多少开发者来开发出相关的应用。

目前业界有一种观点,认为AI的深度学习需要数据来喂养,因此拥有越庞大数据量的互联网公司,如BAT会在未来AI领域占据核心优势。对于这个说法,周晨认为麒麟970算力和算法上其实都具有优势,至于数据方面也不是问题。

第一个原因是算法本身在升级,机器学习本身的效率在提升。“深度学习的方式跟人脑的学习方式差别还是很大的,比如小孩看几张猫的照片就能认识什么是猫,不需要看十万张照片来学习。”周晨认为,人脑其实是在做更高一层的算法,提取更高维度的特征。因此当算法升级后,将不再需要那么海量的数据来做深度学习。

第二个原因是终端已经成为人的计算中心,手机上产生的数据才是真正一手、新鲜的数据,而云端的数据可能是经过压缩或精简的二手数据。

周晨认为,2018年后,AI将成为各大手机公司的标配需求,手机端庞大的一手数据将会利用起来,而只有终端AI硬件能力普及后,AI应用才有可能百花齐放,AI生态才有可能真正成熟。

华为“HiAI”是什么? 20180206-hisilicon-2 对于芯片公司来说,如何满足AI不同算法应用及生态圈的差异化需求成为难点和重点。“华为还会提供一个HiAI架构,我们也会有一个定期举行的HiAI的公开课,”周晨最后表示,华为日前针对工程师举行了“华为HiAI能力开放公开课” ,将帮助尝试投身人工智能领域的企业和开发者,提升技术人员竞争力,促进行业技术的提升,共同推动人工智能生态的发展。 20180206-hisilicon-3 什么是华为HiAI呢?据了解,HiAI移动计算平台开放三层的能力,分别为云端能力开放(Huawei HiAI Services)、端侧应用能力开放(Huawei HiAI Engine)和端侧芯片能力开放(Huawei HiAI Accelerator)。

其中,底层Huawei HiAI Accelerator是HiAI芯片能力开放的核心内容,能够快速转化和迁移已有模型,借助NPU的加速获得最佳性能,主要依靠麒麟芯片实现。华为HiAI引擎的目标,通过开放应用层API,使能开发者在不懂AI算法的情况下也能开发高质量AI应用,完全聚焦在应用的体验和业务实践上,而不是聚焦在后端大量的模型训练和算法上。

目前在火热的AI领域,更快速的推出高质量AI应用是抢占市场先机的最好手段,本次Huawei HiAI Engine就是通过开放和共享华为自有应用层商用级的AI能力API来使能合作伙伴在未来的竞争中赢得先机,使能华为手机上面的应用都能提供业界最佳的AI体验。因此,Huawei HiAI Engine面向移动终端提供多种AI能力和JAVA应用层接口。

本文为《电子工程专辑》原创,版权所有,转载请注明出处并附链接

EETC wechat barcode


关注最前沿的电子设计资讯,请关注“电子工程专辑微信公众号”。