英伟达又一笔投资曝光收购初创企业布局大模型轻量化

科创板日报 2023-07-04 20:16

塑封功率模块的深度解析 两节课攻克SiC高可靠性设计的三大核心挑战

OmniML的平台可视作大模型与终端设备的桥梁，旨在帮助大模型部署在手机、平板电脑、智能音箱、无人机、汽车等硬件上。谷歌、华为、高通等公司都在进行此类尝试。这项收购可能意味着英伟达想要改进其专门用于汽车、工业机器人和无人机的人工智能芯片。

编辑 | 宋子乔

英伟达AI生态系统再次泛起一阵涟漪。根据近期爆料，英伟达在2月秘密收购了AI初创企业OmniML。

OmniML成立仅两年，创始人是三位华人，其主要产品是 Omnimizer，一个旨在快速、轻松地大规模进行 AI 优化的平台，可以压缩机器学习模型的大小，以便大模型在更小的设备上运行，而非依赖于云端算力。

简言之，OmniML的平台可视作大模型与终端设备的桥梁，旨在帮助大模型部署在手机、平板电脑、智能音箱、无人机、汽车等硬件上。这也是谷歌、华为、高通等公司都在进行的尝试——实现AI大模型在终端的轻量化部署，将AI与更多智能硬件融合。

科技媒体the information表示，这项收购可能意味着英伟达想要改进其专门用于汽车、工业机器人和无人机的人工智能芯片。

目前，英伟达主要有3个边缘产品：用于企业边缘计算的NVIDIA EGX平台，用于工业应用的IGX平台，以及用于自主机器和嵌入式边缘案例的Jetson。该公司还优化了NVIDIA软件，使其可以在这些设备上运行，其客户也可以使用Fleet command平台来指挥他们的边缘设备。

OmniML此前表示，其能够使机器学习任务在不同边缘设备上的速度提高10倍，而工程工作量仅为1/10，不仅大幅提高模型性能，而且显著降低企业成本。

随着大模型在智能设备中的渗透率提升，对于边缘侧模型推理的需求将快速释放，科技公司争相布局，大量资本也开始涌入这个赛道。

OmniML成立以来得到了许多老牌风险投资公司的支持，包括 GGV Capital、Qualcomm Ventures、Foothill Ventures等。在被收购前一个月，OmniML还宣布与英特尔建立合作伙伴关系。

产品端，华为P60系列和Mate X3手机上，基于多模态大模型技术在端侧轻量化应用，手机上第一次有了自然语言图片搜索能力；谷歌发布PaLM2大模型，其中Gecko可以在移动端运行；百度即将发布AI+智能手机的消息印证了手机的入口价值；高通中国发布了全球首个运行在Android手机上的Stable Diffusion终端侧演示。

可以预见的，科技巨头和资本的推动下，大模型的入口将从主流的PC和手机端，不断向更广泛的智能设备扩散。