广告

Facebook高管证实该公司正开发ASIC人工智能芯片

时间:2018-09-19 作者:Rick Merritt 阅读:
Facebook证实目前正在招聘芯片工程师,成立芯片部门并展开ASIC设计。这家社交网络巨擘预计很快地将有5家芯片公司支持其Glow深度学习编译程序…

据Facebook一位高层证实,该公司目前正在招聘芯片工程师,并展开至少一款ASIC设计。在日前于美国加州举行的Facebook @Scale 2018大会上,这家社交网络巨擘宣布,预计将有五家芯片公司支持其Glow——一款开放来源的深度学习编译程序。H9tEETC-电子工程专辑

Facebook基础架构副总裁Jason Taylor说,Facebook“确实成立了一支专门与芯片供货商合作的芯片团队,同时,我们也在打造自家芯片。不过这当然不是我们的首要关注重点。”他表示,这款芯片“并不等同于Google TPU”深度学习加速器,但他并未提供与这款芯片有关的更多细节或时间表。H9tEETC-电子工程专辑

Facebook的新芯片部门工作重点之一在于与大约50家设计人工智能(AI)加速器的公司合作。Taylor指出,“市场上将出现许多加速器芯片。但最大的问题在于他们针对的工作负载是否是当前最重要的。”H9tEETC-电子工程专辑

在主题演讲中,Taylor将Glow描述为一种通用编译程序,让开发人员能够针对云端或网络边缘中任何新兴深度学习加速器进行推论任务。它并不针对智能型手机等客户端系统。H9tEETC-电子工程专辑

“我们预期(推论加速器)市场将会出现硬件零碎化的情况。我们开发Glow的目的在于协助机器学习专家设计神经网络,而不必面对调整‘每个特定芯片’所需的工作。”H9tEETC-电子工程专辑

“我们知道硬件零碎化即将发生,因为没有人知道哪一种(硬件)资源的组合——例如芯片上内存区块和乘法累加数组——将会胜出,因此我们让开发人员专注于高层级的图形,而无需为硬件规格手动编码。”H9tEETC-电子工程专辑
Jason_Taylor_Scale_09_13_18.jpgH9tEETC-电子工程专辑
Facebook基础架构副总裁Jason Taylor形容Glow是一款为云端和边缘网络进行推论的编译程序(来源:Facebook)H9tEETC-电子工程专辑

Taylor解释,Glow采用由TensorFlow或Caffe2等架构产生的AI图形,并将其渲染为硬件加速器的位程序代码。根据Facebook的一篇部落格文章,该编译程序内含几种工具,包括为芯片特定内存配置产生有效程序代码的指令排程器、线性代数优化器与内存分配器,以及用于测试硬件精确度的CPU参考建置。H9tEETC-电子工程专辑

益华计算机(Cadence)、Esperanto Technologies、英特尔(Intel)、Marvell和高通(Qualcomm)等公司都表示未来的芯片将支持Glow。Taylor则表示希望进一步扩展支持名单。“这是Glow作为开放来源的优点之一。”H9tEETC-电子工程专辑

一位资深芯片专家将Glow描述为在生产系统中部署神经网络的架构。其输入是在TensorFlow或Caffe2等架构中创建的图形。H9tEETC-电子工程专辑

几家既有的芯片制造商已经提供了类似的软件。例如,英伟达(Nvidia)的Tensor RT自架构中提取图形,并为其GPU输出Cuda程序代码。H9tEETC-电子工程专辑

传统上,编译程序针对特定芯片进行严密的优化。但是,Taylor说:“近来的编译程序范围比过去的更加广泛——Glow中的优化必须能辨识可以渲染到硬件加速器的大部份图形。”H9tEETC-电子工程专辑

20180919-facebook.pngH9tEETC-电子工程专辑
转型AI的前兆?

在快速发展的深度学习领域,Glow可说是致力于填补软件和硬件之间差距的最新例证。例如,Nvidia Tensor RT虽然在一年多前才首次发布,至今已进展到第五个版本了。但有些加速器新创公司对于支持各种软件架构及其变化所要求的工作程度也无能为力。H9tEETC-电子工程专辑

Facebook、微软(Microsoft)和其他公司则都支持ONNX——一种以权重表现图形的标准方法。去年12月,Khronos Group还发布了用于深度学习加速器的硬件抽象层NNEF。H9tEETC-电子工程专辑

Glow是Pytorch 1.0的一个组成部份。Pytorch 1.0是一个开放来源计划组合,包括合并的Caffe2和Pytorch架构。Pytorch 1.0的第一个开发者大会将于今年10月在旧金山举行。H9tEETC-电子工程专辑

Facebook工程经理Kim Hazelwood在另一场活动中展示Facebook使用的十几种不同深度学习工作负载,其中至少使用了四种不同类型的神经网络。每天,该AI应用程序(App)产生超过200兆个推论,翻译超过50亿个文本,同时也自动删除至少100万个假账户。H9tEETC-电子工程专辑

她说,Facebook的一些推论任务需要的运算量是其他任务的100倍。如今,Facebook在其设计的一小部份CPU和GPU服务器上执行这些任务。H9tEETC-电子工程专辑

Hazelwood在接受《EE Times》访问时说,从通用硬件转向客制硬件,必须为那些仍在定义中的工作负载量身打造芯片。但她拒绝透露Facebook对于使用任何自定义AI加速器的想法。H9tEETC-电子工程专辑
FB_nn_types.jpgH9tEETC-电子工程专辑
在至少十几种深度学习app中,仅Facebook本身就采用了至少5种神经网络H9tEETC-电子工程专辑

一位观察家推测,Glow可说是一款理想的工具,有助于让公司采用适合其工作负载的加速器。Facebook的芯片团队还能协助精选芯片,或许还可以为其提出客制化芯片的建议。H9tEETC-电子工程专辑

此外,Facebook的一篇博客文章描述它所开发的一款全新软件工具,使用深度学习来除错程序代码。SapFix可以自动产生针对特定错误的修复程序,然后提交给工程师进行审核并部署至生产中。H9tEETC-电子工程专辑

目前,Facebook已经使用SapFix,加速为使用Facebook Android App的数百万设备发送程序代码更新的过程。Facebook表示将发布该工具的一个版本,但未具体说明时间表。H9tEETC-电子工程专辑

编译:Susan HongH9tEETC-电子工程专辑
 H9tEETC-电子工程专辑

qrcode_EETCwechat_120.jpgH9tEETC-电子工程专辑

关注最前沿的电子设计资讯,请关注“电子工程专辑微信公众号”H9tEETC-电子工程专辑

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
Rick Merritt
EE Times硅谷采访中心主任。Rick的工作地点位于圣何塞,他为EE Times撰写有关电子行业和工程专业的新闻和分析。 他关注Android,物联网,无线/网络和医疗设计行业。 他于1992年加入EE Times,担任香港记者,并担任EE Times和OEM Magazine的主编。
您可能感兴趣的文章
  • Marvell收购Avera Semi,抢占不断增长的基础设施机遇 2019 年5月21日, Marvell宣布,已就收购格芯旗下 ASIC 业务 Avera Semiconductor 达成最终协议。此次收购将Avera Semi领先的客户设计能力和Marvell先进技术平台和规模相结合,为有线和无线基础设施OEM打造一个领先的ASIC提供商。
  • 辰芯科技选用FLEX LOGIX TSMC 12FFC工艺的eFPGA IP Flex Logix宣布,大唐电信下属芯片公司辰芯科技,已获得EFLX4K eFPGA在TSMC 12纳米FinFET Compact (12FFC)工艺上的授权许可,将应用于无线通信芯片中。辰芯同时还获得额外的EFLX Compiler授权许可,用于分发给客户, 使其可以自主对芯片上的eFPGA进行应用开发。
  • AI、5G、中美贸易战…繁荣与不确定并存的2019年 2018年已经过去,这一年发生了很多事情,有些促进了产业的发展,比如人工智能技术的快速发展和一些应用的落地;有些则给产业的发展带来了一丝阴影,比如中兴事件,以及逐渐升温的中美贸易战。但不管怎么样,半导体产业必将会继续向前发展。那么,在接下来的2019年,物联网、AI,以及即将到来的5G和其他新兴技术,会给半导体市场带来哪些新的机会?哪些技术会有新的突破呢?
  • 个人机器人将无处不在 个人机器人是在智能音箱之后,下一个重要的个人助理物品。这可不是科幻小说;家用助理机器人今天就可以出货...
  • 比特大陆关闭以色列研发中心,副总裁在内23名员工全部被 随着比特币价格较历史最高点跌去80%以上,行业估值最高的比特大陆也难以幸免。比特大陆已经关闭了两年前在以色列开设的研发中心。该研发中心的全部23名员工都将被裁,比特大陆表示,此次裁员是加密货币的熊市造成的……
  • 专用+灵活,7nm eFPGA IP解决AI/机器学习应用难题 随着人工智能(AI)、机器学习和5G等要求快计算、高带宽和低延迟技术的迅速发展,以及摩尔定律进程的减缓,半导体产业正向新的计算架构演进。目前能提升能耗比和算力的唯一途径,就是专用化。未来的微处理器都会包含多个专用功能域核心,专职处理某一类型的计算任务,但他们的表现绝对好于现在各种处理器采用的通用核心……
相关推荐
    广告
    近期热点
    广告
    广告
    广告
    可能感兴趣的话题
    广告