广告

如何利用RISC-V SoC同时处理5G与AI工作负载?

时间:2021-03-09 作者:Sally Ward-Foxton 阅读:
硅谷初创公司EdgeQ最近计划开发RISC-V SoC,来探索5G和AI处理工作负载之间的数学相似性,这款芯片将兼具5G和AI功能。 EdgeQ如何能够做到用一颗芯片完成两种工作?同一硬件如何同时处理5G和AI工作负载?
广告

硅谷初创公司EdgeQ最近吸引了业界关注,该公司计划开发RISC-V SoC,来探索5G和AI处理工作负载之间的数学相似性。他们的首要目标市场将是电信基础设施,AI将被用于5G网络,比如检测可能会出现恶意攻击的异常行为。随后将进军客户端应用市场,比如工业机器人、汽车和无人机,其主要应用是AI加速,同时SoC还支持5G网络连接。

EdgeQ的这款SoC目前仍在研发中,它将是一种多核RISC-V设计,其定制的指令集扩展可以提高计算效率。同一芯片将服务于所有市场,但可以改变固件以便针对不同的应用进行优化,无论是网络基础设施还是客户端设备都适用。

EdgeQ利用5G和AI之间的相似性来设计可以同时加速两者的芯片

这款芯片将兼具5G和AI功能,特别适合空间受限的终端设备,因为这类设备的功耗要求特别严格。EdgeQ芯片将提供“两位数的TOPS”算力,并结合最先进的5G功能,例如URLLC(超可靠低延迟通信),这要求数据能够在1毫秒内发送到RAN(无线接入网络)。

EdgeQ利用5G和AI之间的相似性来设计可以同时加速两者的芯片。单个芯片可以同时实现这两种功能,这意味着在设计中所需要的芯片将减少,芯片间的通信更少,功耗也就更低。

无线通信依赖于FFT(快速傅立叶变换)之类的数学运算,这种运算涉及大型的复数矩阵乘积。而AI推理依赖点积,基本上也是大型矩阵与和的乘积(其中矩阵中的元素是实数)。

“如果能够构建一个可以执行复数运算的有效乘法器,那就会落实到实数,即它的AI部分,” EdgeQ创始人兼CEO Vinay Ravuri在接受EE Times采访时表示,“通过这种方法,我们可以在更细微的级别实现复用。”

这款SoC的内核将通过对RISC-V指令集的定制扩展来加速这两种工作负载。定制指令意味着将每个数学运算的功耗减少到一个周期内使用的功率。再加上本地存储,就可以得到一个非常高效的硬件加速器。

“这是我们的IP,如何有效地实现它,如何使加速器忙起来,以及如何降低相关功耗,” Ravuri说。“机器学习加速本质上是免费的,因为不需要专门为它在芯片中设置额外的区域,仍然是同一个乘法器。”

多路复用工作负载

EdgeQ如何能够做到用一颗芯片完成两种工作?同一硬件如何同时处理5G和AI工作负载?Ravuri指出,真实世界中的5G应用并不需要一直进行传输。而是可以将工作负载有效地多路复用,在5G传输之间的某些处理器周期可以用来执行AI任务,就像虚拟机的运行方式一样。

多路复用无需更改固件,客户可以灵活地自行运行这两种工作负载。该芯片还配备了5G和AI的现成库,以及完善的调度程序。

“客户可以根据自己的需求来安排调度程序,这完全取决于自己的需要,”Ravuri说。“你可以设置为10% 5G和90% AI,反之亦然;或50/50也可以。而且,它可以动态完成,这意味着不必一定要选择哪项设置。您可以选择几微秒的细粒度水平,也可以基于需求来定。”

调度程序具有服务质量(QoS)模式,可以将其设置为在特定情况下保持可预测的性能。例如,调度程序可以设置参数为每秒不低于100个AI推理,或对5G URLLC数据包进行优先排序,即必须迅速处理URLLC数据包。调度程序会动态分配资源,也许立即发送URLLC数据包,然后根据用户设置的其它优先级返回正常操作。

“这是作为客户可以做的创新,作为OEM,我们并不想控制所有事情,”Ravuri说。“如果您不想做任何改变,我们可以为您提供开箱即用、方便又灵活的产品;但是作为客户,您也可以不用它,而换成自己的算法。”

基站

EdgeQ的第一个目标应用是电信基础设施,即“介于智能手机和RAN之间的所有设备”,例如无线单元(RU)、分布式单元(DU)和gNodeB基站。

根据Ravuri的说法,上述领域的芯片选择有限。运营商可以从设备制造商那里购买产品,但其生态系统完全封闭,选择受限。或者也可以采用OpenRAN,在这个生态系统中各个构建模块之间的协议和接口是开放的,可以为运营商提供更多选择和更多创新机会。但是,这种方式需要更多的投资,才能使OpenRAN设计具有较好的成本效益。

EdgeQ希望其基于RISC-V的基站芯片组能够填补这一空白,他们使用了许多RISC-V开源工具。

“OEM几乎可以用我们的芯片制造任何产品,”Ravuri说。“我们可为客户提供两全其美的服务,让客户可以构建任何所需的系统。它与OpenRAN完全兼容……您可以做任意编程,修改物理层,并添加自己的差异化功能,这也是客户常要求的特性之一。但他们也不想花费两到三年的时间来强化整个系统。”

另一个潜在优势是降低库存。

“与其投资三个不同的芯片组,不如投资一个小芯片,”Ravuri说。“有时候,公司只有一个主板,软件变化使之成为一个SKU。无论从软件角度、硬件角度,甚至从产品化、产品上市的时间上来看,不必用不同的芯片组替换或重建硬件,因此可以极大地节省成本。”

EdgeQ还声称,可将总拥有成本(TCO)降低一半,这在很大程度上归功于节能。根据Ravuri的说法,基站TCO的一半都来自电力系统(包括制冷、UPS电源和电费)。因此,任何可以节省能源的措施都会极大地影响TCO。采用集成度更高的解决方案,以及通过提高能效来降低基带处理所产生的功耗,都将产生巨大影响。

EdgeQ的商业策略是采用一种芯片即服务的模式,通过固件激活或升级功能,从而使5G能够与WiFi进行市场竞争。

EdgeQ有望在今年晚些时候提供SoC样品。

(参考原文:Startup Exploits Synergy Between 5G and AI

责编:Amy Guan

本文为《电子工程专辑》2021年3月刊杂志文章,版权所有,禁止转载。点击申请免费杂志订阅 

本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
Sally Ward-Foxton
Sally Ward-Foxton是EE Times特派记者,她专注于EE Times美国版的AI技术和相关话题,以及EE Times欧洲版杂志中的欧洲企业报道。 Sally base在英国伦敦,她报道电子行业已有15年,曾为Electronic Design、ECN、Electronic Specifie撰写设计、电子元件类文章。 她拥有剑桥大学的电气和电子工程硕士学位。
  • 特斯拉被禁止进入中国军事区域?疑车载摄像头数据回传美 3月19日,一张某部队家属院禁止特斯拉汽车驶入和停放的通知引发舆论热议。“通知”称,经过考察和测试,特斯拉汽车装有全方位摄像头、超声波传感器等一系列能够暴露目标位置的技术设置,为确保军事秘密绝对安全,杜绝隐患问题,家属院所属区域禁止驶入和停放该品牌车辆。该禁令的导火索,有人认为是近期中美阿拉斯加会晤的延伸,也有人认为与特斯拉车内摄像头曝出搜集驾驶人员数据有关……
  • 亿智电子:专“芯”致智,助推端侧AI百花齐放 AI最初主要注重在软件算法方面,随着AI应用的爆发,对算力需求也不断提高,AI专用芯片成了AI技术“硬”的一面。3月18日,在由ASPENCORE举办的“第19届中国IC领袖峰会”上,亿智电子联合创始人吴浪介绍了如何专注芯片研发,助推端侧AI的发展。
  • AMD对显卡挖矿说Yes 前段时间,NVIDIA通过驱动限制显卡挖矿,其RTX 3060 显卡的驱动将会检测以太坊挖矿算法,并通过限制 hash rate 的方式将挖矿效能降低约 50%。而现在,NVIDIA的竞争对手AMD却对显卡挖矿这种做法说YES。
  • AMD CPU+高通AI=技嘉12亿亿次计算服务器 在数据中心处理器方面,AMD基于Zen3的第三代骁龙7003处理器性能在行业内处于领先地位。最近,技嘉在高通在7003平台上搭载高通的Cloud AI 100推理加速卡,推出了每秒达12亿亿次计算速度(算力120POPS)的服务器。
  • 本田自动驾驶最新进展,自动驾驶究竟离我们有多远?(图文) 自动驾驶应该是人类智能的巅峰之作,经过不断迭代的训练可以创造出适应各种复杂环境的自动驾驶系统。本田近期推出了L3级别的自动驾驶汽车,并且可以达到驾驶员双手离开方向盘的自主操控。而反观整个汽车自动驾驶市场,很多厂商早就发布了L3级别自动驾驶汽车,并且L4级别也已经多地试点。那么我们不禁想问,梦寐以求的自动驾驶技术究竟离我们还有多远?即便还有一定距离,那最难以攻克的是技术还是什么?
  • IoT物联网公司涂鸦智能将赴美IPO,募资10亿美元,估值126 北京时间2021年3月12日,专注物联网的涂鸦智能向美国证券交易委员会更新了招股书,IPO计划募资10亿美元。
  • 小鹏汽车正研发第二代超低空飞行汽 近日,作为国内三大新能源造车新巨头之一小鹏汽车,与蔚来、理想形成三角竞争之势。小鹏汽车的创始人何小鹏的梦想不局限于“地面”,还要让自己的汽车飞上天。何小鹏3月20日参加《遇见大咖》节目表示,2021年底就可以造出适合人们的飞行汽车。
  • 苹果下一代穿戴设备Apple AR预计配 苹果苹果一直在秘密研发未来可能取代手机的终端设备,其中AR智能穿戴Apple AR是其中非常重要的一部分或者说是核心技术。最新消息显示,苹果可能先推出AR头戴装置,并配备眼球追踪系统,以期实现看哪指哪。
  • Maxim最新同步整流DC-DC反相转换器 作为Maxim首款内部集成电平转换器的60V DC-DC反相转换器,这些器件与最接近的竞争方案相比,外部元件数量减少一半、能耗降低35%,从而节省高达72%的电路板空间。
  • 新型智能升压放大器CS35L45打造移 随着消费者越来越多地采用手机的内置扬声器来欣赏音乐、播客,看电影和玩游戏,Cirrus Logic现推出其最新的旗舰级CS35L45升压放大器,可为智能手机、平板电脑和移动游戏设备提供更丰富、更加身临其境的音频体验。
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了