广告

如何更好地优化多核 AI 芯片

时间:2022-06-22 05:41:20 作者:Richard Oxland , 西门子Tessent Embedded Analytics产品经理 阅读:
人工智能 (AI) SoC 的市场持续增长,竞争也日趋激烈。半导体公司根据性能、成本和灵活性,来找到自己的定位,并不断自我优化,从而导致了新型多核架构的爆发式增长。系统架构师正在尝试不同的方法,希望可以将这种复杂性转化为竞争优势。
广告

在人工智能和机器学习应用数据处理的强劲需求下,大规模并行计算迅速兴起,导致芯片复杂性呈现爆炸式增长。这种复杂性体现在 Cerebras 晶圆级引擎(如下图)等设计中,该设计是一种平铺多核、多晶片设计,将晶体管数量增加至数万亿个,拥有近百万个计算内核。 

人工智能 (AI) SoC 的市场持续增长,竞争也日趋激烈。半导体公司根据性能、成本和灵活性,来找到自己的定位,并不断自我优化,从而导致了新型多核架构的爆发式增长。系统架构师正在尝试不同的方法,希望可以将这种复杂性转化为竞争优势。

在所有复杂性来源中,有一个在多核 AI SoC 中非常重要的来源:即当有多个线程在共享数据上并行运行时,会出现功能错误和性能降低问题。过去,设计人员可以使用经典的 CPU 运行控制来调试问题,但这种方法对多核架构并无效果。导致软件问题的根本原因错综复杂,包括往返时延、内核数量、控制和数据并行、多层层次结构和互相依赖的进程,设计人员从中找出真正根源的机会渺茫。 

另外,设计人员还需要考虑软硬件协同优化,这需要大量的功能分析。为了在 SoC 上部署 AI 应用,设计人员必须编译源代码,以充分利用多核架构。这通常需要充分了解 SoC 架构的定制工具链。这个过程包括一个硬件和软件优化及测试周期,从 SOC 仿真开始,一直贯穿至第一次投片和后续器件迭代,如下图所示。 

通过这一功能分析周期,团队能够了解以下内容:

数据共享的效率;

  • 片上网络 (NoC) 是否超载或不平衡;
  • 如何在不影响代码执行的情况下评估应用性能;
  • 如何优化内存控制器配置文件以提升数据处理能力;
  • 如何关联整个 SoC 中的事件;

要做到这一点,我们需要一种全新的方法来优化 AI SoC 及其上面运行的软件。要将高质量的 AI SoC 及时推向市场并在完成部署后保持性能,必须要进行系统范围的功能分析。系统范围功能分析的部分功能包括:

  • 深入洞察子系统或组件 ;
  • 对整个系统从启动开始的准确、连贯的全景图;
  • 事物感知(Transaction-aware) 的互连监控和统计信息;
  • 传统的处理器运行控制和追踪;
  • 支持所有常见的指令集和互连协议;
  • 提供选择或更改重要子系统的灵活性;
  • 用于产生数据可见性的灵活强大的工具;

用于监控和分析 IP 的片上基础架构和软件提供了所有这些功能,覆盖范围可从仿真到部署。下图即显示了 SoC 功能监控和分析的典型架构。

接下来的图中展示的示例是一个多核芯片配备片上网络 (NoC) 监视器,可跟踪所有 NoC 事务到循环缓冲器。由于 NoC 监视器具有事务感知功能,可将其配置为检测特定总线条件,例如导致事务持续时间超过特定阈值(按周期数计算)的死锁。当超过阈值时,NoC 监视器可以输出死锁事务以及之前事务的详细信息,以便对问题进行诊断。

同一个 NoC 监视器也可配置为在检测到相同死锁条件时——例如通过跟踪硬件加速器行为的状态监视器模块——使用嵌入式分析消息基础设施的交叉触发功能,在系统中的其他位置触发跟踪。

了解实施有效的系统验证和优化环境时涉及的问题,是成功交付多核 SoC 的关键,与该领域内的专业供应商合作可实现事半功倍的效果。

责编:Amy.wu
  • 消除ISO 26262功能安全认证过程中的各种障碍 现今的汽车中使用了各种IC。其中每一个IC都必须首先满足汽车电子委员会(AEC)制定的汽车级制造和性能认证标准。除了AEC认证之外,还有额外的专用功能安全就绪特性要求,具体取决于器件和应用......
  • 机器人服务电机控制的无MCU实现 伺服电机是实现机器人各种运动的根本性部件,实际上在工业领域的应用可以说是无处不在。本文介绍了一种设计方案,不用微控制器,而是直接利用操纵杆的模拟信号,通过将该信号变换成为伺服电机的PWM信号,完美实现了机器人手臂/伺服电机的两轴自由度控制。
  • 555时基的迷人历史和先天缺陷! 流行数十年的555时基,业内不知晓的工程师应该寥寥无几!几乎所有的数字电路教材中,都有该芯片的身影,要说是无所不在一点也不过分。然而,该电路却存在显著的输出级电流浪涌的先天设计缺陷。原设计师曾设法进行改进,来修复缺陷,但最终都未能实现,他的意志已被强大的市场力量所湮灭!
  • 热锁:用于可复原电池系统的无源故障防护技术 从电动汽车,到各种场景的不间断电源,电池/组的使用可以说是无处不在。作为分布式绿色能源,为环境可持续改善将作出越来越大的贡献。不过,随着电流负荷的不断增加以及应用的日益普及,会带来安全性方面的挑战。本文介绍的热锁技术,为解决该挑战提供了一种颇具吸引力的方案。
  • 紫光展锐基带芯片安全漏洞已修复,从NAS栈到固件详解发 Check Point Research在对摩托罗拉Moto G20手机内的紫光展锐T700芯片上的LTE协议栈的逆向工程中,发现一个被命名为CVE-2022-20210的漏洞。在将漏洞提交给紫光展锐后,已经得到及时修补,本文详解了漏洞发现的过程……
  • 利用示波器实现基本的抖动测量 对于数字系统来说,产生信号抖动的原因很多,其测量是基本的也是必须的。本文详细介绍了如何利用示波器实现基本的抖动测量,包括测量参数的定义、采样率的选取、跟踪函数和直方图的运用,测量统计方法等等。利用这些丰富的工具,可以实现低至2kHz,高达数百兆的抖动测量分析。
  • 新款iPad Pro 2021成最受欢迎的 由于采用性能相对强大的M1处理器和mini-LED屏幕以及更多的创新,新款iPad Pro 2021已经成为消费者心目中最受欢迎。然而,iPad 2却已经在全球范围内被列入“复古和过时”的名单中。
  • 三星折叠屏手机Galaxy Z Fold 3 目前来看,折叠屏新机作为一种新的生产力工具,逐渐成为高端/平板的一种趋势,有报料称三星的Galaxy Z Fold 3发布时间或为7月,并且会引入新手势操控。
  • OPPO 数字车钥匙率先适配理想 L9 用户只要打开 OPPO 手机 “钱包” 应用,根据流程操作2即可快速完成 “车钥匙” 卡片绑定。当用户靠近理想 L9 时,系统底层将会唤醒车辆的蓝牙解锁服务……
  • 年薪高达100w!2022“蓉漂人才荟·蓉 2022年6月25日,深圳蛇口希尔顿南海酒店-海上世界厅,成都向您发来“英雄帖”,30家成都集成电路领先企业集结深圳“蓉漂人才荟·集成电路专场”,“职”等您来!
  • 美国SpaceX星船(Starship)设计演变 来源 | 高端装备产业研究中心智库 | 云脑智库(CloudBrain-TT)云圈 | 进“云脑智库微信群”,请加微信:15881101905,备注研究方向导读美国太空探索技术公司(SpaceX)正在
  • 睿创微纳与图森未来展开合作,红外热像仪全天候赋能自动驾驶卡车 近日,睿创微纳与全球无人驾驶科技公司图森未来(Nasdaq:TSP)达成战略合作,双方将共同推动汽车红外热像仪在国内自动驾驶卡车货运领域的应用。此次战略合作针对中国市场,双方将聚焦部署车载红外摄像头的
  • AMD12nmZen+架构突然复活!还有双核 时隔三年,AMD面向嵌入式市场的锐龙R系列处理器终于升级,架构从最早的14nm Zen,来到了第二代的12nm Zen+。2019年4月发布的锐龙R1000系列,集成两个Zen CPU核心、三个Veg
  • 首台E级超算:登顶Top500榜单,超级计算新时代到来 ​5 月30日,第 59 届 ISC 2022(国际超算大会)发布最新 Top500 榜单,美国田纳西州橡树岭国家实验室(ORNL)的 Frontier 成为第一个真正突破 Exascale 大关的超
  • 今日新闻|小鹏累计交付20万辆!理想L9售价公布!部分特斯拉车主需退回补贴! 关注「电动车公社」和我们一起重新思考汽车《今日新闻》将会每天给大家带来几条当日重磅新闻,并附上社长的简单评论。关注「电动车公社」,新能源圈大事小事  看我们就够啦~今日新闻要点:理想L9正式发布,售价
  • 入门酷睿i5-1240P对决锐龙75825U:核多力量大、性能完胜 一、前言:低压U的对决 Intel和AMD谁是王者?无论桌面上还是笔记本上,Intel、AMD之间的斗争日益白热化,都使出了浑身解数。Intel全新混合架构的12代酷睿可谓大获成功,突破了处理器多核心
  • 自动驾驶汽车的增强现实 来源 | 悦智网智库 | 云脑智库(CloudBrain-TT)云圈 | 进“云脑智库微信群”,请加微信:15881101905,备注您的研究方向声明 | 本号聚焦相关知识分享,内容观点不代表本号立场
  • 3060Ti卖2700!二手矿卡公然直播批发 比特币、以太坊等虚拟货币行情暴跌,拿显卡挖矿的“矿主”们都坐不住了,各种挖空心思找人接盘。之前在某二手平台上,可以看到大量转手的二手矿卡,还有批发的。现在,“矿主”们又找到了新的门路,居然在视频平台直
  • DARPA完成“采矿者”项目 来源 | 从心推送的防务菌智库 | 云脑智库(CloudBrain-TT)云圈 | 进“云脑智库微信群”,请加微信:15881101905,备注您的研究方向声明 | 本号聚焦相关知识分享,内容观点不代
  • 通信工程专业,到底要不要报考? █ 什么是“通信工程”?通信工程,英文全称叫做Communication Engineering,是一门重要的工学基础学科。根据教育部《学位授予和人才培养学科目录设置与管理办法》,“通信工程”属于二级
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了