广告

作为AI芯片的代表,IPU的生态发展如何了?

时间:2022-01-26 14:50:28 作者:黄烨锋 阅读:
而AI芯片市场如今可是相当热闹,几有成为红海之势,尤其是在国内——虽然AI芯片这个词涵盖的范围有些太过宽泛。去年《国际电子商情》10月刊封面故事,卢涛的一段话让我们印象很深刻:“如果比较理性地分析,如今市场的整体格局可能并没有大家看到的那么‘热闹’”……“
广告

过去两年,我们一直都在追踪Graphcore这家公司的动态。毕竟在AI芯片领域,Graphcore是全球颇具影响力,且在中国市场投入也比较大的初创企业。Graphcore大中华区总裁兼全球首席营收官卢涛在最近的媒体分享会上说,2020年底时Graphcore的全球团队是400人左右,目前已经超过了700人。而这两个时间点上,中国团队的人数也从20人变成了现在的80人。

而AI芯片市场如今可是相当热闹,几有成为红海之势,尤其是在国内——虽然AI芯片这个词涵盖的范围有些太过宽泛。去年《国际电子商情》10月刊封面故事,卢涛的一段话让我们印象很深刻:

“如果比较理性地分析,如今市场的整体格局可能并没有大家看到的那么‘热闹’”……“现在的AI芯片公司大致可以分成7大类,第一类是在组建团队的,第二类是在宣讲理念的,第三类是有了芯片的,第四类是有了芯片给客户送测的,第五类是有落地的,第六类是有很多场景落地的,第七类则是真正能够跟GPU分份额的。”“要做到第六类、第七类的水平并不容易。”

Graphcore对于自己的定位是在第五和第六类的。这里的场景落地,对于初创芯片公司在生态构建、场景探索与合作方面的能力提出了很高的要求。我们也更关注Graphcore IPU芯片的落地情况,毕竟此前我们也比较多了,而且IPU架构、芯片产品及系统解决方案已经受到了业界的肯定——这从Graphcore拿到的融资和市场行为,乃至去年IPU参与MLPerf Benchmark都能看得出来。

我们认为,Graphcore现在的发展关键更在于生态构建,与实实在在的场景落地上。说白了,也就是IPU究竟能拿来做什么。因为Graphcore作为一家明星级的初创公司,早就过了那个在市场上“讲故事”的阶段。

业绩、利润不是第一位

从Graphcore现如今对外发声的方式,也能很大程度表明这家企业如今的着力点和发展阶段。卢涛在接受采访时特别谈到:“我很早就和CEO(Nigel Toon)聊过,公司的第一优先级是有人用我们的产品;第二是有人用了这个产品,服务他的业务;第三是业绩;第四才是利润。”

“现有顺序不能弄错,先得有人用你的东西,才能谈其他。”卢涛表示,“这套方法,我们在公司内部也进行了反复讨论。大家觉得是可持续发展的路径,而不是一个短期行为——不是单纯要某些客户买芯片,我们实现销售业绩,但最后又不一定真正发挥价值。”

所以落地对IPU而言是当务之急。在AI芯片初创企业先后涌现的市场环境里,产品应用场景的更早落地也是生态占据先发优势的重要举措。毕竟以半导体行业的历史来看,当AI芯片市场未来走向成熟之际,市场洗牌后剩下的竞争者不会很多;在洗牌阶段尚未到来之时,就必须以最快的方式占领市场。所以“有人用”IPU,是Graphcore现阶段最重要的任务。

Graphcore大中华区总裁兼全球首席营收官 卢涛

卢涛介绍说,去年第四季度Graphcore公司内部运作有一些调整。“希望公司内部工作流要沿着这样的方向来。第一块是规划路标的、做前沿性研究的;第二块是产品,做芯片、系统;第三块是营收,包含很多东西,有全球的销售组织、商务拓展组织、技术支持组织、AI应用开发的组织。”

其中第三部分,“不是个简单的纯销售团队,销售组织占中间很小一部分。”卢涛也确认这其中AI应用开发团队还在扩展中,“这个团队的核心目标是在较策略性的客户和策略性的机会里,去推动IPU采用。应用方面的投入会持续增加。”

“对AI社区而言,最关心的是到底能做哪些AI应用。在这个问题上,我们会持续投入。随着公司越来越大,会越来越智能化,越来越细分。”

IPU的生态建设情况

“生态”是个非常泛的词,而构建起围绕产品的生态绝不是一蹴而就的,就像英伟达GPU发展至今也历经了十多年的积累——英伟达GPU通用加速,包括AI应用的覆盖范围之广,仍是现在的其他GPU和AI芯片企业都难以望其项背的。所以像Graphcore这样的市场角色,更多的还在于发现自己的长处,甚至预见未来。

观察当前IPU生态发展情况,一些不错的切入点包括面向开发者的开发工具全面性,主流框架支持情况,以及与其他合作伙伴的合作开展进度,以及最切实的:芯片用在了哪些具体的地方。

上面这张图相对系统地展示了IPU面向开发者的软件、工具。大部分开发者关心的应该是Graphcore自家的Poplar SDK发展情况。这张图Poplar SDK的堆栈中,除了底层与硬件关联的驱动、抽象层;中间部分是库、Graph Compiler等构成,以及靠上的框架后端,包括XLA(某种用于机器学习的优化编译器)、PopART(Poplar Advanced Runtime)等。

这些都是Poplar的基本能力,此前Graphcore公布MLPerf测试成绩时也谈到了Poplar SDK在数个版本迭代后性能的显著提升;以及在我们看来去年MLPerf测试成绩并不能完全体现IPU的能力,其实都能看出Poplar本身是在快速发展中,以及有更大的挖掘潜力的。

最上方的框架层面有了一些“新面孔”。卢涛说:“PyTorch Lightning是最新发布的,PaddlePaddle也是新发布的,还有Hugging Face也是新的。”PaddlePaddle无需赘言,去年12月份Graphcore宣布IPU全面支持在百度飞桨之上进行训练和推理;

PyTorch Lightning是个开源的Python库,提供较高层级的interface;Hugging Face这家公司有开发其聊天机器人应用,可做AI式交互——配套的,Hugging Face开发了自己的NLP模型,而且一直在维护一个基于PyTorch-Transformers预训练NLP模型的库。

卢涛也提到对Hugging Face做出支持,是面向开发者提供更高抽象层。“PyTorch之上本来就是用PyTorch写代码,Hugging Face是在此之上,把所有基于Transformer的模型又做了一个更上层的抽象。”

最上方面向开发者的前端,加入了Jupyter Notebook支持——这应该是很多开发者都很熟悉的了;以及推理部署工具。这些其实都属于降低开发门槛的工具完善。

除了中间的这些核心要件之外,上图的“周围是一些AI的应用、开发者的生态,包括开发工具、可视化的工具等等。右下角是系统级软件,从硬件的管理,到IPU虚拟化,到系统级别集群的调度、任务的调度。”

目前Graphcore的AI生态包含了上图列出的合作伙伴,其中Weights & Biases、Spell、Gradient等都是去年开始与Graphcore合作的。

这里尤为值得一提的是对Graphcore而言,去年两个相关系统部署比较重要的发布。其一是去年10月份Graphcore和VMware宣布VMware的Project Radium要对IPU做出支持,对用户和管理软件而言隐藏了实施复杂性的情况下,在虚拟化、多租户环境里的数据中心网络中,实现IPU资源的池化和共享。其二则是Docker、Kubernetes也开始支持IPU。

“这表示大家开始关注怎么做集群管理、集群调度。”卢涛说,“最开始,大家的关注点是机器学习框架、支持什么模型,往后则会关注怎么部署、怎么调度、怎么做任务分配等等。”这是IPU发展过程中的递进,和走向成熟的必由之路。

另外这次Graphcore也提到了服务器OEM以及存储合作伙伴,如上图所示,都是这些年IPU生态构建进度的组成部分。

聊聊具体的应用

完善开发、部署、渠道等层面的生态,最终还是要看应用落地情况——也就是IPU究竟用来做什么了。比较有趣的是去年Graphcore有个工程师尝试用Poplar来做光线追踪,发了篇blog,有兴趣的读者可前往阅读(这才叫和英伟达硬碰硬啊!都到英伟达的图形计算主场来了,可惜在性能方面没和RTX作比较,而是选了CPU作为对比对象)。虽说只是实验性质,探究IPU和Poplar可能性的一举,却能表明IPU的潜力。

言归正传,在这次分享会上,卢涛表示Graphcore预备从早前的“市场霸主挑战者”,走向在“多个维度建立市场领导力”,“比如性能、创新、TCO、软件易用性等”。产品表现落地之后涉及到更具体的细分领域。上一次我们采访卢涛时,他曾大致提到Graphcore当下聚焦于5个赛道,分别是互联网、金融、研究、医疗健康(healthcare)和其他(AI First)。预计2022年,我们还会听到一些新的、有关Graphcore IPU应用案例及合作的消息。

这次卢涛列举了2021年下半年最新宣布的一些应用案例。比如:

  • 与安捷中科合作,用IPU进行气象预测、精准灌溉和防灾减灾;
  • 与巴黎大学在宇宙学方面合作,加速宇宙学应用;
  • 与深势科技合作,完成分子动力学模拟软件DeePMD-kit向IPU硬件的迁移,将分子动力学用在新药、新材料研发生;
  • 与欧洲中期天气预报中心合作,预知天气;
  • 在金融保险方面,牛津-英仕曼用IPU进行股票预测;Tractable利用AI进行保险理赔方面的辅助工作;
  • 电信方面,与韩国电信合作,发布IPU云;
  • 城市环境可持续发展上,与升哲科技合作,打造基于IPU的城市ESG方案;
  • 医疗、生命科学方面,与斯坦福大学医院合作,以“医疗+隐私计算”为核心的方向进行研究探索。

这其中包括安捷中科、深势科技、升哲科技等都是中国市场上与Graphcore合作的典型代表。“我们希望AI技术能运用到和人们的生活、居住环境、健康等相关领域中。”除此之外,卢涛还说许多规模较大的商业企业相对低调,并未公开与Graphcore的合作。所以这些只是其中颇具代表性的一小部分。

“我们会持续深耕本地的合作伙伴,像生态合作伙伴的一些合作,以及拓展更多AI平台的合作。另外,在一些相关的AI应用领域,会做进一步的加深。像是用AI辅助科研、自动驾驶等等,都是我们2022年在AI应用和垂直领域中比较重要的方向。”

未来新趋势

这次我们没怎么聊IPU硬件本身,因为过去聊得很多了,包括很大的片内存储资源、高度并行计算能力、跨芯片通信机制等。不过硬件层面,针对AI芯片的过去2年,我们始终在谈专用性和通用性的权衡。此前采访Nigel Toon,以及现如今IPU的应用落地,都可见IPU在这个天平上市更偏向通用或可编程性的(连光追都可以做...)。

但实际上,IPU此前被Graphcore定义为CPU、GPU之外的第三大类芯片,就意味着它起码比前两者更专用,要不然怎么叫AI芯片呢?而专用面临的一个问题,就是更多应用场景适用性的问题。尤其是对AI发展趋势的预见能力,对AI芯片企业而言就尤为重要——这里还得考虑到芯片设计到量产较长的周期。

卢涛针对这个问题是这么说的:“AI领域内,生态要全面追上(时代),相对而言是比较困难的。AI整体是高度动态的。有很多创新和研究,取决于我们对未来的判断。谁也不敢说自己的判断一定是准确的;要勇于做决定、要冒风险。”

“我们现在需要选一些领域,也许是今天还没有发生的趋势;我们要稍微做一些预判,预判未来可能会发生的。”卢涛说,“今天在某些模型内,我们比GPU的支持还好,因为一年前我们就认为这是未来的趋势——当时这个趋势还不是特别明显,但我们预先做了判断、进行投资。”典型的比如ViT,基于Transformer的计算机视觉模型。“对于这些新的领域,需要‘预判+冒一点风险+一点运气’,就可能在这个领域里相对具备领先性。”

我们期望看到,在生态建设已经有所斩获的今天,Graphcore未来的新硬件将会以怎样的姿态出现;以及Graphcore对于未来的AI发展走向又将有怎样的预见。

责编:Amy.wu
本文为EET电子工程专辑原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
黄烨锋
欧阳洋葱,编辑、上海记者,专注成像、移动与半导体,热爱理论技术研究。
  • 人工智能软件应优先于芯片设计 本次精英访谈中,SiFive公司的工程与产品总裁Chris Lattner与读者分享了人工智能(AI)工作负荷构建人工智能处理器所面临的挑战,以及当今软件如何以及为何阻碍人工智能性能的发展,同时也讨论了在人工智能应用中高效使用硬件的难度,以及SiFive的软件优先开发方法。
  • 克服常见的人工智能问题:内存瓶颈 人工智能方兴未艾,各领域都正以足以让业界激动不已的速度快速发展,但它也面临各种挑战,内存需求就是一个瓶颈,特别是对于参数动辄多达上万亿的复杂大型模型训练而言。如何破解人工智能的内存瓶颈?且看本文中专家们的观点。
  • Weebit与CEA-Leti合作研究ReRAM获得进展,媲美超级电容 Weebit Nano与CEA-Leti最近分享了在电阻式随机存取内存ReRAM (resistive-RAM)技术研发上的进展;不过,目前业界很少有公司已经准备好迎接该技术的黄金世代。
  • 勒索软件成功了,你的数据隐私保护就失败了 勒索软件仍然是一种极为成功的攻击手段,企业必须对此采取防御措施,而数据隐私法规是其中的重要组成部分。关注信息生命周期(创建、处理、存储、传输、销毁)将有助于企业了解哪些数据需要保护以及这些数据的所在位置。
  • 预计2023年中国安防集成市场收入将占亚洲总收入70% 旅游、消费等行业受疫情影响严重,政府的财政收入也相应缩水,而疫情防控的持续投入也增加了财政开支。2016-2020雪亮工程的50个试点城市项目结束,硬件的数量越来越密,意味着前期的增长达到了一个顶峰,之后扩展速度会逐渐放缓……
  • 2022年及之后人工智能/深度学习的八大应用方向 人工智能、机器学习、深度学习已经成为当下最热门的前端科技之一。这三者其实是子-子集的关系。随着技术发展和应用的深入,深度学习越来越重要,成为AI的金字塔。本文总结了人工智能领域在2022年及以后数年内最热门的八大应用领域和方向。
  • 新款iPad Pro 2021成最受欢迎的 由于采用性能相对强大的M1处理器和mini-LED屏幕以及更多的创新,新款iPad Pro 2021已经成为消费者心目中最受欢迎。然而,iPad 2却已经在全球范围内被列入“复古和过时”的名单中。
  • 三星折叠屏手机Galaxy Z Fold 3 目前来看,折叠屏新机作为一种新的生产力工具,逐渐成为高端/平板的一种趋势,有报料称三星的Galaxy Z Fold 3发布时间或为7月,并且会引入新手势操控。
  • CST92F25:高集成度 低功耗BLE5.0芯 随着无线通信技术的快速迭代,智能家居逐渐走进了千家万户。市场上最常见的无线通信技术主要有三种:Wi-Fi、Zigbee和BLE。三者各有优势,在应用场景上互为补充。CST92F25是芯海科
  • 曦智科技沈亦晨入选2022达沃斯世界 日前,达沃斯世界经济论坛公布了2022年“全球青年领袖”名单,曦智科技创始人兼首席执行官沈亦晨博士获选,他将与来自全球42个国家的其他109位青年领袖一起,加入到为期三年的领导力培训项目中,从不同领域为全球发展发挥更大的影响力。
  • 华为应用市场登陆全新宝马7系 宝马昨日面向中国大陆用户发布了全新 BMW 7 系轿车。新车将搭载华为车载应用市场,用户可通过后排悬浮式巨幕体验影音娱乐、新闻阅读、儿童等多品类车载应用。这也是华为应用市场与宝马全新 BMW 7 系的
  • 马斯克:特斯拉将于2024年生产无方向盘和踏板的新型自动驾驶出租车 在 2022 年第一季度的财报电话会议上,埃隆-马斯克分享了关于特斯拉新的 Robotaxi(自动驾驶出租车)车辆的一些细节。这款新车不会有方向盘或踏板,因为它将完全使用特斯拉的完全自动驾驶(FSD)
  • 世界地球日,一起了解NVIDIA在环境保护领域取得的优秀成果!(互动有礼) 世界地球日(The World Earth Day) 即每年的 4 月 22 日,是一个专为世界环境保护而设立的节日,旨在提高民众对于现有环境问题的意识,并动员民众参与到环保运动中,通过绿色低碳生活,
  • 天文学家发现了迄今为止最遥远的星系 点击蓝字 关注我们SUBSCRIBE to USHarikane et al.近日,一个发光的红色天体被确定为迄今为止发现的最遥远的星系。天文学家发现,这个星系在宇宙大爆炸后仅3.3亿年就存在了。4月
  • MSP430单片机轻松入门与实践—畅学单片机 简介     本课程是MSP430单片机学习者从入门到深入的一套经典视频教程,以初学者为对象,从零开始手把手教你学习MSP430单片机,循序渐进地基于理论讲解并结合实验项目实战开发,讲解当前最热门的M
  • 北方华创招聘!  中国半导体论坛 振兴国产半导体产业!   点击链接:2022春季半导体线上招聘会开始啦!公司简介北方华创科技集团股份有限公司是由北京七星华创电子股份有限公司和北京北方微电子基地设备工艺研究中心有限责
  • 电子元器件知识|电容器组接线方式和作用 点击上方“皇华电子元器件”关注我们容器组的接线模式应根据电容器的电压、保护模式和容量进行选择,通常包括三角形接线和星形接线。当电容器的额定电压与网络的额定电压一致时,应采用三角形接线;当电容器的额定电
  • 苹果或在中国以外建立新产品导入基地,分散供应链风险 天风国际分析师郭明錤表示,苹果正打算减少对中国供应链的依赖。本周四,郭明錤在社交平台发文称,苹果几乎所有的新产品生产基地都在中国,两年前,疫情首次爆发时,苹果开始认真评估在非中国地区建立新产品开发基地
  • 为什么RFID可以称之为完美型无源IoT技术丨100+企业最新调研成果视频直播 本文来源:物联传媒无论是互联网巨头,还是家电龙头,又或者是手机大厂,芯片新贵都将目光重点瞄向了IoT。因IoT涵盖内容丰富,市场上涌现出了各种各样的IoT技术,每一种技术都有自己的特点与适用场景。那市
  • 由理想遭退市警告与国内新能源汽车行业动向引发的思考 理想突遭退市风险4月22日,美国证券交易所(SEC)将理想汽车、百世、贝壳等企业也列入了“预摘牌”名单。名单内的公司有:知乎,诺华家具, LOVARRA,万春医药,瑞幸咖啡,极光移动,科学能源,中国食
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了