广告

AI芯片细分市场的金字塔结构

时间:2020-10-09 作者:Michael Azoff ,Kiasco Research首席分析师 阅读:
如今,AI工作负载仅仅意味着运行深度学习,这是目前的市场需求所在。但市场需求是多变的。尽管大多数AI训练都在数据中心(包括超大规模云端)和工作站上进行,但AI推理却随处可见:在云端、在工作站、在边缘……尤其是边缘端。
广告

目前的AI芯片市场,几乎全都在谈论深度学习。深度学习(DL)是机器学习之中,能让AI应用在现实世界中实现价值的最佳范例,而这其中又以加速(accelerating)深度学习最受关注,因为加速是训练与推理过程所必需的。

AI芯片市场的参与者目前呈爆炸式增长:在最近的一份研究报告中,我们统计出全球约80家初创公司坐拥投资者的105亿美元,与大约34家成熟的参与者竞争。显然,这种状况是不会长久的,但我们需要对市场进行剖析,以更好地理解为什么会形成目前这种状况、它会如何变化,以及这一切意味着什么。

将时光倒流至2010年左右,当时英伟达(Nvidia)在其图形处理单元上推出了高端通用计算(GPGPU,现在简称为GPU)。它引发了深度学习的兴起,将大型神经网络的训练时间从几个月或几周减少到几天几小时,甚至更少。英伟达自此成功转型为AI计算公司,并开发出了数十亿美元的新业务。

这也刺激了其他芯片公司和芯片架构师开始思考——如何从一张白纸开始,构建一个专门用于运行AI工作负载的架构,还要比针对多种工作负载设计的GPU更好?

如今,AI工作负载仅仅意味着运行深度学习,这是目前的市场需求所在。

但市场需求是多变的。尽管大多数AI训练都在数据中心(包括超大规模云端)和工作站上进行,但AI推理却随处可见:在云端、在工作站、在边缘……尤其是边缘端。

图1:AI硬件加速器的细分市场应用(图自:Kiasco Research)

人工智能芯片市场如何细分

无论一个初创企业决定加入哪个细分市场,竞争都将非常激烈。我发现将这个市场映射为一个三角形非常有用,请参看图1。三角形的每个顶点都有自己的一组标准来代表独特的市场需求。

三角形的顶点是数据中心、云端和HPC环境对AI芯片的需求。Cerebras公司很好地抓住了这一市场,它制造了世界上最大的芯片,晶圆级引擎(Wafer Scale Engine,WSE)。这个细分市场需要最高的计算能力,而功耗和成本则是次要的。初创企业面临的挑战是他们要与超大规模企业和老牌企业竞争,比如英伟达就在稳步发布其不断改进的架构,其最新版本(Ampere)已于2020年5月发布。

三角形的下端主要涉及推理,企业可以在保持准确性的同时,构建较低精度的芯片。其对产品的需求和三角形顶点有所不同,主要包括芯片大小、低延迟、低功耗和低单位成本。特别是小边缘市场,这是所有初创企业最活跃的市场,像英伟达这样的大牌公司不太会参与这个市场的竞争,英伟达也曾表示它不打算涉足大宗商品推理市场。但是,处于这个角落的玩家不仅要与竞争对手竞争,而且还要与潜在客户斗智斗勇,因为客户可能会决定自己创建一家公司或购买一家初创公司。

人工智能芯片的下一步发展

AI芯片领域中有太多的竞争者,看看图1中三角形的每个顶点就知道,最好的全方位设计才会胜出。除了我们已提到的各种因素,还需要添加成熟的软件开发堆栈、针对市场的愿景以及将深度学习应用嵌入产品中的更大潜力,这样才能使市场合理化。

不过,这个市场中已经有牺牲者了,最近的是Wave Computing于2020年4月宣布破产。

竞争导致市场上出现更快、更高性能的AI芯片,AI研究人员将从中受益来实现他们奇思妙想。我也更期待出现新的算法取代深度学习当前的霸主地位——AI研究的长期愿景是创建像人类一样的人造大脑,很显然深度学习是死胡同。新算法不可避免地会出现(有些已经出现,但不是本文涵盖的内容),而这些下一代算法可能需要不同类型的加速器。

深度学习在实际案例中的应用广度,使这些芯片拥有数十亿美元的市场,随着5G的推出,还将不断增长。这个市场需要AI硬件加速器。AI芯片市场将趋于合理化,然后整个游戏将随着下一代AI算法的崛起而发生改变,不过,没人清楚这个改变什么时候会发生。

(参考原文:What the AI Chip Market is All About)

责编:Amy Guan

本文为《电子工程专辑》2020年10月刊杂志文章,版权所有,禁止转载。点击申请免费杂志订阅  

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • CMOS传感器在3D视觉、感测和度量中的应用 工厂已进入自动化工作,以提高产能和在产品查验和库存的方方面面节省时间和金钱。要优化这些因素,拥有视觉系统的机器需要更高速和以更佳性能工作。因应这些发展,2D视觉遇上了限制,使得3D视觉被广泛引进,以实施更高精度的质量检验,反向工程或物件量度任务。三角测量技术正在这些应用中获大量使用,鉴于三轴图像要求高分辨率,需要非常高速的的传感器。
  • AI推动着存储器互连的不断演进 为了满足人工智能(AI)和机器学习应用的需求,位置这个词被越来越多地应用于数据存储。但解决这种位置的挑战不只是存储器供应商应做的工作,与AI相关的供应商也扮演着重要角色。尽管存储距离计算越来越近,但解决方案的很大一部分在于存储互连。
  • 新能源汽车的“三化”为汽车半导体行业带来什么样的机 新能源汽车正在向“三化”(电动化、智能化和网联化)方向发展,汽车半导体在这一快速转型发展过程中扮演着越来越重要的角色。以功率半导体为主的电子元器件在整车中的含量和价值在逐步提升,同时以微处理器和传感器为核心的自动驾驶/ADAS技术也在驱动着汽车半导体的快速增长。
  • FPGA是如何应对新冠疫情的? 很多业务覆盖较广的上游企业,近半年的财报实则是最能反映电子科技行业内,哪些部分受到了新冠疫情的负面影响——典型如汽车、交通领域承受冲击较大,又有哪些则在业务上受到正面影响——典型如客观上推动企业数字化进程加速。
  • 基于电解质栅控晶体管构建可处理时空信息的脉冲神经网 电解质栅控晶体管是近年来提出的一种三端忆阻器件,其结构与传统场效应晶体管类似。近年来科学界对电解质栅控晶体管及其在人工神经网络应用方面的研究取得了一定进展,但研究成果主要集中在单个器件的性能验证……
  • 中科院在基于忆阻器构建人工感受神经系统方面取得进展 近日,据中科院消息,微电子所微电子重点实验室刘明院士团队提出了基于忆阻器构建具备习惯化特性的人工感受神经系统的实现方案,并利用习惯化这一生物学习规则构建了可应用于机器人自主巡航避障的习惯化脉冲神经网络。
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了