分析丨手机端生成式模型爆发在即?

原创 AI芯天下 2023-12-01 20:30

·聚焦:人工智能、芯片等行业

欢迎各位客官关注、转发






前言
[百模大战]在硬科技赛道上掀起了巨浪,现在,基于不同场景的应用成为了大模型竞争新焦点。

这一次,那些拥有庞大用户基数的头部手机厂商们也纷纷加入了这场激烈的竞争。


作者 | 方文三
图片来源 |  网 络 

性能拼不动了,必须上AI竞争


掌握智能入口的一方,就能成为应用的真正入口。


硬件进化了好多年,现在到了软件定义手机的新节点。


大模型会和手机厂商自研的操作系统深度结合,提供更好的系统级体验,这很关键。


手机软件体验上的差异,可以解决现在手机厂商们硬件差不多、只能靠外观来区分的问题。


大模型的竞争,会让手机产品的[智力水平]表现出来,这也是为什么手机厂商们现在热衷于大模型的原因之一。


从AI定义汽车到AI定义手机、PC,大模型的注入会改变手机市场的销量格局。


以前因为硬件配置过剩,有人一部手机用5年都不换,大模型的升级体验可能会让人有换机的理由,从而带动手机行业的销售增长。



手机大厂无不例外,加入新一轮竞赛

在7月,荣耀手机推出了一款名为Magic V2的折叠屏手机,该手机自称是全球首款原生的集成AI大模型的国产手机。


在10月,荣耀CEO赵明宣布,荣耀Magic6系列将搭载第三代骁龙8移动平台,并支持70亿参数的端侧AI大模型。


在8月的华为开发者大会上,华为终端BG CEO余承东宣布,盘古大模型已经接入华为HarmonyOS 4及华为小艺智慧助手。


这意味着华为P60和Mate 60用户可以通过小艺智能助手体验这一大模型的功能。



同一个月,小米创始人、董事长兼CEO雷军发布了小米自研的两个轻量级大模型MiLM,参数分别为64亿和13亿。


在10月底,小米正式推出了将AI大模型植入澎湃OS系统的小米14手机。


OPPO在10月宣布了自主训练的AI大模型——安第斯大模型(AndesGPT),该模型已经接入新小布助手AndesGPT。


预计在12月前,AndesGPT的能力将被正式接入ColorOS 14新系统。


在11月,vivo发布了旗舰新品X100系列,声称这是全球首个百亿大模型在终端调通的大模型手机。


而三星则在11月展示了其AI大模型[高斯]。预计搭载这一AI大模型的Galaxy S24系列手机要到明年上半年才会发售。


至于苹果,目前还没有官宣其AI大模型的消息。但据分析,苹果计划最早在2024年年底将生成式AI技术整合到iPhone和iPad中。



选择端侧部署,看上去最划算


当前,AI大模型接入手机存在两种选择:云端部署和端侧部署。


目前,大多数厂商选择在端侧部署轻量级大模型,而在云端部署的则是千亿级AI大模型。


为了平衡内存、执行速度、功耗和成本等问题,现阶段的[端云协同]是手机厂商部署大模型时的普遍选择。


手机厂商想要实现大野心,端侧大模型可是个好工具。


要知道,手机厂商不提供云服务,也就没法拿到便宜的云服务。


而要满足亿万用户的需求,背后得有强大算力支持,这可不好办。


好在端侧大模型可以让手机厂商省下这笔钱,让商业计划更靠谱。


另外,手机厂商在用端侧AI上可是有优势的。


像华为、小米、VIVO 这些厂家,都是自研的大模型。


在出厂前,手机和芯片公司就得跟它调整好多次,让它跟硬件更匹配。


现在端侧大模型很依赖内存,手机厂商也能优先给自己的终端大模型用内存。


如果需要调用云端大模型的话成本非常高,但如果在手机端侧运行大模型,则不会产生推理成本。


云端部署用于解决复杂的需要大算力、大参数模型的问题;


而端侧部署则主要用于运行数据安全性高、需要实时反馈、网络条件较差的轻量化问题。


综上所述,手机厂商在布局AI大模型时通常会选择云端和端侧的协同部署方式。



芯片厂商懂客户诉求,尽可能满足AI需求


就像手机镜头一样,生成式模型的支持能力可能会成为核心硬件卖点。


生成式模型的最终解决方案需要软硬件结合设计,这对于有自研芯片能力的手机厂商非常有利。


因为这些手机厂商可以同时掌握模型和硬件的设计,实现最高效率的解决方案。


给手机系统做芯片的公司,像高通和联发科,得提供完整的参考设计。


说到高通,他们把手机端的生成式模型搞到了核心位置。


例如,高通发布的骁龙8 gen3支持包括Meta Llama2、Chat GPT等在内的多模型生成式AI。


其可处理的大模型参数超过100亿,推理速度达到了每秒20个token。


此外,联发科发布生成式AI移动芯片天玑9300,集成第七代AI处理器APU 790,支持在终端运行10亿、70亿、130亿参数的AI大模型。


结合内存硬件压缩技术NeuroPilot Compression来减少AI大模型对终端内存的占用;


联发科的AI开发平台NeuroPilot支持Android、Meta Llama 2、百度文心一言大模型、百川智能百川大模型等主流AI大模型。


英伟达在手机芯片方面的尝试,自从十多年前的Tegra系列之后,好像就没什么动静了。


但是,今年听说英伟达要跟联发科合作,联发科的下一代旗舰手机芯片可能会用英伟达的GPU。


看来,英伟达在手机生成式模型领域还是有机会的。



厂商口中的“大”,现阶段有待商榷


为了让大型AI模型适应手机,制造商不得不采取一些策略对其进行大幅压缩,例如通过剪枝、蒸馏和量化等技术手段。


以vivo为例,他们可能通过连续的模型裁剪和蒸馏,将参数从1750亿降低到仅10亿,这种操作是否过于牵强。


我们应该认识到,大型AI模型并不仅仅是参数数量的简单叠加,它的真正价值在于深度学习中的[深度]。


因此,当把一款千亿参数的模型剪裁到几十亿参数时,势必会失去一些原有的学习深度。


对于AI的日常应用来说,可能影响不大,但对于那些期望从AI获得深度见解和理解的高端用户来说,这种损失是无法接受的。


即便小米宣称其端侧模型能与云端模型相提并论,但这其中的细节仍不容忽视。


拥有13亿参数的端侧模型自然难以与拥有千亿参数的云端模型相比。


从这些层面出发,当前手机上的大型AI模型实现方式似乎有点[矫枉过正]。


对于普通用户而言,他们并不真正关心模型的参数数量,而更关心能为他们带来什么价值。


vivo和小米的这些尝试固然值得鼓励,但也应该反思其真正的目的和意义。



结尾:


当然,自研大模型是个[无限烧钱]的竞争,投入动辄数十亿元起。


投入大模型需要强大资金储备做后盾,以大模型驱动手机软、硬件的每一次进化背后都是[钞能力]。


但无可否认,在智能手机出货量持续下滑的行业态势下,大模型或许会成为手机行业突破自身创新窘境和模式局限性的一个机遇。


部分资料参考:极客公园:《端侧大模型,手机厂商的下一次入口级机会》, 光锥智能:《[华米OV]的新战场:手机大模型》,中国电子报:《大模型,手机不能承受之重?》,深网腾讯新闻:《一年烧百亿:国产手机卷入大模型战争》,《AI大模型抢滩手机端?新巨头何时诞生》,科技新知:《别硬把大模型往手机里塞》


本公众号所刊发稿件及图片来源于网络,仅用于交流使用,如有侵权请联系回复,我们收到信息后会在24小时内处理。



END


推荐阅读:


商务合作请加微信勾搭:

18948782064

请务必注明:

「姓名 + 公司 + 合作需求」


AI芯天下 聚焦人工智能,AI芯片,5G通讯等行业动态
评论 (0)
  • 热斑效应:太阳能电池一般是由多块电池组件串联或并联起来。串联支路中可能由于电池片内部缺陷或者外部遮挡,将被当作负载消耗其他有光照的太阳电池组件所产生的能量。被遮蔽的太阳电池组件此时会严重发热而受损。编辑搜图请点击输入图片描述(最多18字)旁路二极管:是指并联于太阳能电池板正负极两端之间的二极管,能够有效地防止硅电池片因热斑效应而烧毁,是光伏太阳能组件的重要组成部分,旁路二极管的质量直接影响着光伏电站的发电量及使用安全。编辑搜图请点击输入图片描述(最多18字)热性能测试旨在确定二极管的温度特性以及
    普赛斯仪表 2024-02-21 14:20 35浏览
  • 质量管理办法一直是各大企业最核心的根本,例如:国际标准ISO 9000:2015中提出的质量管理 (QM)七项原则、知名车厂的8D (福特)、A3 (丰田) Report以及因应工业4.0所延伸出的质量4.0管理办法等。然而,在谈论全面性的质量管理前,无论企业采用何种质量管控办法,产线良率筛检的环节若无法有效把关,则一切都白费了,面对大批量的生产过程中,需要做到更快、更多、更有效的数据管理,仅靠耗时量少的人工抽样检测,是无法满足现今高质量管理需求的。无法有效把关,出现种种潜在风险1.检测量能不足
    百佳泰测试实验室 2024-02-21 15:23 44浏览
  • 各大Logo更新汇报 | NEW百佳泰可提供超过30种标准认证测试,特为您整理2024年2月各大Logo的最新规格信息。Matter▶3月5日至12日SVE规格验证活动■ 预计地点» 加州旧金山» 中国▶3月18日 – 第21次会员大会» 新加坡PCI Express▶PCI-SIG合规研讨会 #128■ 2024年2月20日至2月23日■ 台北万豪酒店▶PCIe 7.0规范第三版现已开放给会员USB▶USB 供电版本控制■ 符合USB
    百佳泰测试实验室 2024-02-21 16:23 48浏览
  • 据传感器专家网获悉,2月20日国产3D 视觉传感器龙头企业奥比中光发布公告,终止2023年度向特定对象发行A股股票事项,该定增项目涉及超15亿元资金。传感器专家网https://www.sensorexpert.com.cn专注于传感器技术领域,致力于对全球前沿市场动态、技术趋势与产品选型进行专业垂直的服务,是国内领先的传感器产品查询与媒体信息服务平台。基于传感器产品与技术,对广大电子制造从业者与传感器制造者提供精准的匹配与对接。关于终止本次向特定对象发行股票事项的原因,奥比中光在公告中介绍称:
    传感器专家网 2024-02-20 21:24 70浏览
  • 时值春节临近,2月7日中国及全球领先的车载激光雷达企业——禾赛科技,发布公告,决定对美国国防部进行起诉:全球领先的激光雷达制造商禾赛科技(纳斯达克代码:HSAI)宣布,关于美国国防部于2024年1月31日(美国东部时间)发布更新“中国涉军企业”名单并将禾赛列入该名单,公司认为此决定是错误、不公正且缺乏依据的。为了维护公司声誉,禾赛决定起诉美国国防部,以捍卫公司的正当权益。禾赛始终坚守合规,秉持诚信、合法经营的原则,致力于减少事故、挽救生命,让全球出行更安全。▲来源:禾赛科技官网1月31日,美国国
    传感器专家网 2024-02-20 21:10 47浏览
  • 在过去的20年,传感器厂商不断研究创新的测量原理和敏感材料,这些成果能让我们用到高集成、低成本的传感器,其中,最成功也是最具颠覆性的,无疑是MEMS技术在传感器制造中的应用。传感器专家网https://www.sensorexpert.com.cn专注于传感器技术领域,致力于对全球前沿市场动态、技术趋势与产品选型进行专业垂直的服务,是国内领先的传感器产品查询与媒体信息服务平台。基于传感器产品与技术,对广大电子制造从业者与传感器制造者提供精准的匹配与对接。MEMS技术在传感器的大规模应用,让传感器
    传感器专家网 2024-02-20 19:28 35浏览
  • 电子产品质量的无故障工作时间(MTBF,即Mean Time Between Failures)指标,听起来很专业,其实它就像是我们日常生活中的“持久力”或者“耐力”概念。想象一下,你买了一款新手机,希望它能陪伴你至少几年时间,而不是频繁出现故障。这款手机的MTBF就是指,在平均情况下,你使用这款手机多久后,它才会出现第一次故障。MTBF不仅是一个技术指标,更是对电子产品制造商质量控制的考验。一个高的MTBF值意味着制造商在材料选择、工艺设计以及质量控制方面都做得很好,这样的产品自然更受消费者欢
    丙丁先生 2024-02-21 08:00 77浏览
  • HDMI是市场上影音产品的主流接口之一,随着电竞市场蓬勃发展,HDMI 2.1规格针对电竞产品新增加了VRR(可变刷新频率)功能,让用户在玩游戏时可以减少画面的撕裂延迟等现象。VRR功能目前已普遍支持PS5、Xbox等游戏机或是Nvidia、AMD等高阶显卡,也成为消费者在考虑购买电竞屏幕时的重要评估指针。电竞屏幕画面延迟风险与解决方案电竞屏幕属于高阶产品,且客群非常重视其效能表现,百佳泰与市场上主流品牌及ODM在屏幕上有着长期的合作,我们在实测中发现导入了VRR功能的屏幕却仍发生画面不顺畅的状
    百佳泰测试实验室 2024-02-21 16:42 60浏览
  • 很高兴在面包板社区获得清华大学出版社出版的《物联网鸿蒙系统App开发》一书的试读机会!《物联网鸿蒙系统APP开发》首先用一章的篇幅介绍了智能手机操作系统的发展历史、智能手机操作系统的开放与封闭之争及其各自的优势、鸿蒙系统的发展历史、鸿蒙系统在物联网时代的优势、鸿蒙系统的特点和鸿蒙系统的分层架构。接下来就是本书的主题内容:从鸿蒙的开发环境讲起,然后从创建第一个鸿蒙App开始,从用户界面布局开发、常用UI组件开发、鸿蒙页面及数据服务开发等11个角度介绍了鸿蒙系统开发的方方面面。最后一章简单介绍了鸿蒙
    goldjack_680784864 2024-02-20 23:08 64浏览
  • 一百三十多年前,奔驰夫人贝尔塔为了回击社会舆论对奔驰一号的质疑,驾驶着奔驰汽车从曼海姆出发,直驶104公里外的位于普福尔茨海姆的娘家,全程虽开的磕磕绊绊,但却为汽车的宣传起到了极佳的作用。直至今日,汽车领域新技术的应用依旧会伴随着各种质疑,软件定义汽车的新趋势不断发展,对其的质疑,要求行业对汽车软件要更加严格把控,汽车软件测试日益成为汽车电子开发领域不可忽视的一环。面对当前汽车软件测试的高要求,针对汽车软件代码的测试,会成为软件定义汽车时代势必要关注的内容。而VectorCAST作为汽车电子行业
    北汇信息 2024-02-21 13:57 64浏览
  • 一、实验目的了解AD9833的芯片特性和输出波形的原理,并实现基于AD9833产生正弦波输出。二、实验原理StarterWareStarterWare是一个免费的软件开发包,它包含了示例应用程序。StarterWare提供了一套完整的GPIO寄存器配置接口,简化了开发步骤,程序开发时只需要调用相应接口即可。安装StarterWare 后,可在安装目录下找到 C6748 所有通用库函数和对应的源码(StarterWare的 drivers 目录下,部分位于其他相关目录下),同时可在安装目录docs
    创龙教仪 2024-02-21 14:27 38浏览
  • 瑞典乌普萨拉,2024年2月20日 – 全球领先的嵌入式系统开发软件解决方案供应商IAR宣布:推出其旗舰产品IAR Embedded Workbench for Arm功能安全版的最新版本9.50.3。此次发布进一步加强了IAR支持开发人员创建安全、可靠和符合标准的嵌入式应用程序的承诺,涵盖了汽车、医疗设备、工业自动化和消费电子等多个行业。该版本中最重要的新功能是经过认证的C-STAT,这是专为安全关键应用程序设计的静态代码分析工具。 IAR Embedded Workbench for
    电子科技圈 2024-02-21 15:39 51浏览
  • 2024龙年春节前夕,中国激光雷达产业备受关注。首先是1月31日,美国国防部正式将10多家中国企业列入“中国军方企业名单”,其中就包括中国领先的激光雷达企业禾赛科技。随后禾赛科技在2月7日,官宣将起诉美国国防部。传感器专家网https://www.sensorexpert.com.cn专注于传感器技术领域,致力于对全球前沿市场动态、技术趋势与产品选型进行专业垂直的服务,是国内领先的传感器产品查询与媒体信息服务平台。基于传感器产品与技术,对广大电子制造从业者与传感器制造者提供精准的匹配与对接。在2
    传感器专家网 2024-02-20 21:15 46浏览
  • 一、实验目的熟悉定时器的基本结构,学习定时器的功能和控制方法,并实现基于定时器中断方式控制程序。二、实验原理定时器TMS320CC6748有4个定时器/计数器,均可配置为64位计数器、两个独立32位计数器及自动重装32位计数器,可以产生周期中断DMA事件及外部事件。定时器/计数器还可以用于捕获外部输入信号边缘并计数。此外,定时器1还可以用作64位看门狗计数器。本实验使用的是定时器2。定时器的功能(1)定时时钟源一般来源于DSP内部,当然也可以选择来自于外部。(2)计数可以利用它的功能来计算外部脉
    创龙教仪 2024-02-21 14:09 34浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦