云边端一体化的异构AI计算

智能计算芯世界 2021-06-16 00:00


中国人工智能市场快速增长,其中边缘计算占比越来越高,业务场景的碎片化以及底层硬件的多样性的问题给边缘计算的开发部署带来较大的挑战。


本次分享主要介绍阿里云AI异构计算编译框架HALO以及面向深度学习的异构硬件统一接口规范ODLA,通过具体的实例说明如何利用异构编译和硬件架构抽象实现上层应用在异构计算资源上的平滑迁移。后半部分介绍ODLA.CV (多媒体Pipeline自动生成)技术,以及多媒体+AI的相关探索和应用。


通过HALO总体框架介绍,以及异构硬件统一接口规范ODLA,通过静态全编译的方式可以让业务模型跟框架解耦合,通过ODLA实现和具体硬件解耦合,实现平滑迁移;通过具体的例子来说明Halo和ODLA的工作流程。


介绍多媒体Pipeline自动生成技术,解决上层业务场景的碎片化定制化的问题。


首先,通过HALO静态全编译的方式可以让业务模型跟框架解耦合,同时提升性能,避免框架开销;通过ODLA统一抽象的方式实现和具体硬件解耦合,实现平滑迁移,产生一次,随处执行;通过HALO/ODLA实现AI的平滑迁移。


其次,通过多媒体Pipeline自动生成技术解决上层业务场景的碎片化(需要高度定制)带来的开发效率问题。


最后,介绍多媒体+AI相关的一些探索和优化工作,以及相关的应用落地,和未来的思考。


下载链接:云边端一体化的异构AI计算



下载链接:云边端一体化的异构AI计算

智能异构计算服务器

智能平台白皮书

2021年AI在工业领域的研究报告


异构芯片研究框架合集

1、EDA行业研究框架
2、半导体大硅片研究框架
3、封测行业研究框架
4、光刻机行业研究框架
4、国产FPGA研究框架
5、国产基带芯片研究框架
6、深度报告:NOR存储芯片研究框架

CPU和GPU研究框架合集
1、行业深度报告:GPU研究框架
2、信创产业研究框架
3、ARM行业研究框架
4、CPU研究框架
5、国产CPU研究框架
6、行业深度报告:GPU研究框架

芯片技术设计和应用汇总
《三种使用PCIe IP的节能技术》
《5G如何影响芯片设计》 
《从数据中心到边缘的AI芯片设计》 
《多通道体系结构优化LPDDR4性能和功耗》 
《工业物联网在半导体行业中的机遇》 
《人工智能专用SoC芯片IP需求分析》




免责申明:本号聚焦相关技术分享,内容观点不代表本号立场,可追溯内容均注明来源,发布文章若存在版权等问题,请留言联系删除,谢谢。


电子书<服务器基础知识全解(终极版)>更新完毕,知识点深度讲解,提供182页完整版下载。

获取方式:点击“阅读原文”即可查看PPT可编辑版本和PDF阅读版本详情。



温馨提示:

请搜索“AI_Architect”或“扫码”关注公众号实时掌握深度技术分享,点击“阅读原文”获取更多原创技术干货。


智能计算芯世界 聚焦人工智能、芯片设计、异构计算、高性能计算等领域专业知识分享.
评论 (0)
热门推荐
X
广告
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦