广告

Flex Logix 发布InferX™ X1 8TOPS高性能,低功耗,低成本AI边缘推理芯片

时间:2019-04-11 作者:Flex Logix 阅读:
2019年4月10日, Flex Logix Technologies, Inc. 宣布,其在拥有数个专利的业界领先的eFPGA互连技术上,结合专为AI推理运算而优化的nnMAXtm乘加器(MAC), 研发了 InferXtm X1边缘推理芯片。
广告

2019年4月10日, Flex Logix Technologies, Inc.  宣布,其在拥有数个专利的业界领先的eFPGA互连技术上,结合专为AI推理运算而优化的nnMAXtm乘加器(MAC), 研发了 InferXtm X1边缘推理芯片。今天在美国硅谷举办的Linley Processor Conference,Flex Logix介绍了 InferX X1芯片及其性能。作为一款针对于边缘AI推理应用的芯片,InferX X1有着极高的 MAC 利用率以及出众的能效比 — 只需要一颗x32的DRAM, 就可以达到8TOPS的算力。这在边缘推理这种只需 low batch size 的应用场景中显得极为重要。与现有的解决方案相比,InferX X1能以更低的功耗,更低的成本,提供更高的算力。dQEEETC-电子工程专辑

dQEEETC-电子工程专辑
InferX X1可以支持语音,图像,视频等任何基于TensorFlow-Lite或ONNX的模型和算法,特别适用于大型的模型算法和实时识别。例如YOLOv3实时物体识别算法,InferX X1在batch=1的情况下,可以对1Megapixel图像 达到25.4帧每秒(fps)的吞吐量。对2Megapixel高清图像达到12.7帧每秒(fps)。而达到这样的高吞吐量只需要用到一个x32的DRAM。dQEEETC-电子工程专辑

InferX 支持INT8,INT16,BF16并可以在不同的算法层混合使用,方便客户根据自己的需求来优化吞吐量和算法精度。InferX还内置有Winograd变换来加速INT8计算卷积,芯片会自动对适用的矩阵乘法来实时转换weights到Winograd模式,得到将近2.25倍的性能提升。由于InferX的Winograd是用12bits来计算的,所以精度不会有损失。dQEEETC-电子工程专辑

Flex Logix提供客户完整的软件开发环境。客户可以直接将基于TensorFlow-Lite或ONNX的算法直接用Flex Logix的nnMAX Compiler软件来编译。dQEEETC-电子工程专辑

Flex Logix将提供InferX X1芯片。芯片可以通过扩展口来连接数个芯片以增加算力。Flex Logix同时还会提供搭载InferX X1的半高半长PCIe卡给Edge Server和gateway客户。dQEEETC-电子工程专辑

“设计边缘神经网络推理芯片的一个难题是如何降低大量的数据交换及降低功耗,而我们的可编程互连技术是接近完美的解决方案。”Flex Logix CEO Geoff Tate说。”在运算一层网络的时候,我们利用可编程互连将InferX的MAC根据这一层网络的dataflow来连接,等于是专为这一层运算配置了一个ASIC。同时对下一层网进行络pre-load,以实现在这一层运算完后可以最快速地配置下一层。同样的可编程互连也与片上的SRAM连接,将这一层的输出,快速配置成下一层的输入,从而避免了大量的数据交换。所以InferX只需要一颗x32 DRAM就够了。这让我们可以将芯片设计得更小,大大降低了功耗和成本。”dQEEETC-电子工程专辑

Geoff Tate还说, “我们还在芯片里加上了Winograd来加速INT8的运算,这让客户在选择INT8时能得到更高的吞吐量。而同时我们也支持BF16,让对精度更在意的客户在需要时也能运用。客户可以选择根据自己的需求在不同的网络层混合运用来到达高精度,高吞吐量。”dQEEETC-电子工程专辑

一个创新的可编程互连技术,两个高速成长的产品线

Flex Logix在其拥有十余个专利的创新可编程互连技术上研发了EFLX eFPGA IP. Flex Logix已经成为eFPGA IP市场的领先者,已有包括大唐辰芯,美国波音,SiFive RISC-V等十余个客户正在应用Flex Logix的eFPGA IP。dQEEETC-电子工程专辑

最新研发的nnMAX AI IP,即InferX芯片中使用的新推理架构,利用了同样的可编程互连技术,并结合了专为AI推理而设计的乘加器(MAC)和存储单元。这些乘加器能支持INT8, INT16, BF16等AI算法里常见的精度数字。每一颗nnMAX IP单元拥有1024个乘加器以及相应的SRAM,在16nm制程上可以提供2 TOPS的算力。nnmAX IP单元可以根据需求拼接成NxN的阵列,最大可以提供超过100 TOPS的算力。dQEEETC-电子工程专辑

Flex Logix在InferX X1芯片里集成了4个nnMAX IP单元,提供8 TOPS的算力。dQEEETC-电子工程专辑

时间表

InferX X1推理芯片计划于Q3 2019流片,样片和PCIe板可于年底提供。基于台积电16nm的nnMAX IP将于Q3 2019提供授权给客户用于集成到客户自己的ASIC或SoC. 感兴趣的客户可以访问 www.flex-logix.com 来获得我们在 Linley Processor Conference发布的胶片,或联系Flex Logix亚太区销售jim@flex-logix以获取更多信息。dQEEETC-电子工程专辑

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • 消息人士:Arm拟提高部分客户授权费,芯片成本或涨4倍 路透社引用四位知情人士说法,Arm在最近的谈判中提出提高一些客户的授权费,这将使一些客户的整体许可成本提高4倍之多。而Arm则表示,它不对定价谈判发表评论……
  • 苹果Mac SoC预计成本低于100美元,2021上半年量产 苹果上月正式发表自研ARM架构Mac处理器(以下称Mac SoC),宣布Mac预计今年开始逐步导入Apple Silicon(泛指Apple自研的芯片统称),首款Mac SoC将采用台积电(TSMC)5纳米工艺进行生产……
  • “星辰”处理器商用落地,地道中国CPU不受管制影响 安谋中国仅用了17个月,就推出了面向物联网设备的轻量级实时处理器“星辰”系列的第一个EAC版本,包含了团队/技术环境搭建、项目立项、高质量IP交付,这在Arm研发历史上几乎是没有的。
  • 台积电申请供货华为, 但美国更想批准高通的申请 市场传出台积电已赶在最后期限7月14日之前,向美方递交意见书,力拼120天宽限期后可持续出货华为产品。虽然此前台积电表示其他大客户的订单,可以填补失去华为海思之后7纳米和5纳米产能的空缺,但从实际行动上看,台积电一点也不愿意放弃华为。高通也传出向美政府递交出货华为的申请,显然批准高通的申请,更符合美方的想法……
  • 华为旗下哈勃科技投资苏州东微半导体 近日,苏州东微半导体有限公司发生一系列工商变更,投资人新增由华为投资控股有限公司全资持股的哈勃科技投资有限公司。公开资料显示,苏州东微半导体有限公司成立于2008年9月,司总部位于苏州工业园区,是一家技术驱动型的半导体技术公司,也是国内仅有的极少数以……
  • 小米高管嘲讽华为芯片困境,网友怒批其三观不正 小米的营销在业内有名,然而就在外界都担忧华为芯片供应问题时,小米手机部门战略研究总监王阳却在微博发言称:“战略差异化没了,预计友商明年重点‘宣传’软件和生态。”此话一出,瞬间遭到舆论反噬,网友认为小米这是“商女不知亡国恨”,甚至表示,王阳的言论三观极其不正确,不配当小米公司的高管……
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了