关于生成式AI的11个误区

原创 EETOP 2023-12-12 11:35

EETOP编译自electronicdesign

1.任何计算引擎,无论是CPU、GPU、FPGA还是定制ASIC,都可以加速GenAI

不对。CPU 不具备完成任务的性能。GPU 具有标称性能,但效率较低,导致可交付速度仅为标称规格的一小部分。FPGA 不太适合这项工作。针对特定任务定制的定制 ASIC 是唯一可行的解决方案。

2. GenAI加速器可以处理训练和推理

原则上,可以使用相同的 GenAI 处理器来训练和推断模型。现实情况是,训练和推理是两项具有独特属性的不同任务。虽然模型训练和推理具有相同的性能要求,但它们在其他四个特征上有所不同:内存、延迟、功耗和成本(表 1)。

表 1:算法训练和推理具有一些但并非全部关键属性。

独特的属性集导致 GenAI 处理器具有相当不同的特性。通常,模型训练是在基于大量最先进 GPU 阵列构建的广泛计算场上进行的。它们运行数天,消耗大量电力,成本高达数千亿美元。

真正的问题在于边缘的推理。如今,Edge GenAI 处理器只能执行针对特定任务定制的模型。没有 GenAI 硬件能够对完整的 GPT-4 进行干扰。

3. 定制 GenAI 加速器会牺牲可编程性来换取性能

虽然这对于某些自定义实现来说可能是正确的,但对于实际解决方案来说却并非如此。理想的解决方案必须是可编程的,以允许现场升级。一般来说,人工智能,特别是 GenAI 都是不断进化的努力。今天的尖端人工智能算法明天就会过时。新的更大、更强大的算法将取代它们。昂贵的硬件解决方案必须能够在现场升级至少三年。

4. GenAI加速器比传统计算资源消耗更少的能源。

现实恰恰相反。数据处理比移动数据消耗更少的能量。斯坦福大学 Mark Horowitz 教授领导的一项研究以数字显示,CMOS IC 的功耗主要由数据移动而非数据处理决定(表 2).

表 2:这些表比较了简单算术运算符与内存访问的能耗

存储器访问的功耗比基本数字逻辑消耗的能量多几个数量级。加法器和乘法器的功耗从使用整数运算时的不到一皮焦耳到处理浮点运算时的几皮焦耳。

相比之下,在 DRAM 中访问数据时,访问高速缓存中的数据所花费的能量会跃升一个数量级,达到 20-100 皮焦耳,并且会跃升三个数量级,达到超过 1,000 皮焦耳。AI 和 GenAI 处理器是以数据移动为主的设计示例。

5. 由于算法工程师学会了如何在不影响功能的前提下缩小模型的尺寸,大型语言模型(LLM)正在不断演进,更新的版本比前几代更小

其实不然。自几年前谷歌研究团队创建 LLM 以来,LLM 一直在不断改进,并在这个过程中变得越来越大。这一趋势仍在继续,并对计算硬件提出了挑战。为了减轻硬件设计团队的压力,软件建模团队设计了更小的模型,以解决狭小应用中的特定任务。

6. 创建 LLM 只是一种软件建模工作,并不需要特殊技能

在最近举行的 "2023 高效生成式人工智能峰会 "上,一位小组成员表示,世界上可能有 100 名软件设计师具备设计高效 LLM 的才能。从这位专家的观点来看,LLM 的开发既是一种艺术构思,也是一种工程设计,需要具备当今并不丰富的独特技能。

7. 单个 LLM 将定义所有用例

这可能是每个 LLM 开发团队的梦想,但事实上,这样的目标可能永远无法实现。如果一个 LLM 可以在金融、法律、医疗、科学、工业、商业、教育等领域的所有应用中用于文本生成和图像/视频/音乐创作,那么这个模型将是一个天文数字。要设计出这样的模型并不现实,而且几乎不可能训练和部署。

8. GenAI 对所有语言都有效

一般来说,GenAI 模型在特定语言上进行训练,然后在相同的语言环境中部署推理。迄今为止,开发语言一直是英语,但也有其他语言的版本,如主要的欧洲和亚洲语言。

原则上,总是可以用任何语言训练然后部署模型,但彻底训练模型所需的源数据可能不足。

9. GenAI 公正、客观

人工智能建立在统计基础上,而非确定性基础上。GenAI 的反应包含一定程度的不确定性。它们应该在“可能”正确的基础上被接受。他们通常是正确的;他们犯错的情况并不常见。忽视 GenAI 应用程序的人应该始终以批判性的心态评估响应。

10. GenAI 能否取代人类的创造力和创新力?

完全不能。正如在对误解 8 的回答中所述,GenAI 的反应必须由对 GenAI 应用的特定领域有深入了解的人类进行评估。忽视评估可能会带来麻烦,最终危及整个国家的机构,破坏教育,助长剽窃行为。

尽管如此,GenAI仍有提高人类生产力的潜力。麦肯锡在 2023 年 6 月发布的一份题为 "生成式人工智能的经济潜力 "的报告中指出,生成式人工智能每年可为全球经济增加高达 4.4 万亿美元的收入,涉及 63 个分析用例。如果再加上将生成式人工智能嵌入目前用于这些用例之外的其他任务的软件所产生的影响,估计值可能会翻倍。

11. GenAI 太新,风险太大

GenAI 的确很新,但风险不大。认为人类会因为 GenAI 偏离轨道而消失是一种误解。这种担忧源于博主、研究人员等报道的一些 "聊天机器人威胁要毁灭人类 "的消息。


报名倒计时

(12月14日下午14:00)

【行业专家免费视频直播讲解】

EETOP EETOP半导体社区-国内知名的半导体行业媒体、半导体论坛、IC论坛、集成电路论坛、电子工程师博客、工程师BBS。
评论 (0)
  • 2024-7-12调研咨询机构环洋市场咨询出版的【全球5G基站行业总体规模、主要厂商及IPO上市调研报告,2024-2030】只要调研全球5G基站总体规模,主要地区规模,主要企业规模和份额,主要产品分类规模,下游主要应用规模以及未来发展前景预测。统计维度包括销量、价格、收入,和市场份额。同时也重点分析全球市场主要厂商(品牌)产品特点、产品规格、价格、销量、销售收入及发展动态。历史数据为2019至2023年,预测数据为2024至2030年。 出版机构:Global Info Research网络
    GIRtina 2024-07-12 16:35 123浏览
  • 光耦合器,也称为光隔离器,是电子电路中必不可少的组件,旨在利用光波在隔离电路之间传输电信号。该技术在增强电路安全性、降低噪音和电气隔离方面具有关键优势,在从工业控制系统到消费电子产品的各种应用中都具有不可估量的价值。光耦合器的工作原理光耦合器的核心是由一个发光二极管(LED)和一个光电探测器(如光电晶体管或光电二极管)组成,封装在一个封装中。当电流流过时,LED会发光,这种光被引导到光电探测器上,然后光电探测器对入射光做出响应,允许电流或电压通过其输出电路。这种光耦合确保输入侧和输出侧之间没有直
    腾恩科技-彭工 2024-07-12 16:00 136浏览
  • 一、802.1CB概述为了减少由于链路和节点失效对网络造成的影响,通过在网络中设置冗余链路和并行传输冗余消息来提高网络的可靠性。 IEEE 802.1 CB协议作为TSN协议族的一个子协议,定义了实现冗余传输的方案,即帧复制和帧消除机制(frame replication and elimination for reliability (FRER))。二、802.1CB协议原理802.1CB 协议主要负责数据的冗余备份传输,利用冗余机制解决环路网络拓扑中,可能由CRC、线路开路,连接器断开等导致
    信而泰 2024-07-12 15:30 94浏览
  •  我司深圳市晶科鑫实业有限公司今天主要是想给大家讲解一下TCXO温补晶振的一些基础知识和一些重要的性能参数,给大家在选购TCXO温度补偿晶体振荡器时有一个简单的了解!TCXO英文全称Temperature Compensated Crystal Oscillator温度补偿晶体振荡器,TCXO温补晶振,大部分TCXO温补晶振周围是没有外壳,所以不能防止环境温度影响频率。而TCXO内部结构图,则取而代之的是,TCXO包含一个补偿网络(热敏电阻),该网络能够感测环境温度的变化,并调整施加在
    SJK晶科鑫 2024-07-12 17:22 135浏览
  •        “软件定义汽车”新时代下,整车电气电气架构向中央-区域集中式发展已成为行业共识,车型架构的变革带来更复杂的整车功能定义、更多的新技术的应用(如SOA服务化、智能配电等)和更短的车型研发周期,对整车和新产品研发的质量验证提出更高的要求。       作为国内较早开展OEM整车EE测试业务的团队,经纬恒润整车电气测试团队近十几年来已为上百款车型的电子电气系统和产品提供解决方案,具有百万条测试场景和用例库积累
    经纬恒润 2024-07-12 12:00 132浏览
  • 在购买有源晶振时,我们经常会看到晶振产品规格书上的输出信号上有是CMOS,是LVCMOS,也有是LVPECL,,也有LVDS,也有HCSL等,但这些输出信号有什么区别呢?这些输出信号的区别在于正确选择信号类型可以避免时钟信号的衰减和失真,同时还可以确保从输出信号中获得的好处多于缺点,以满足您的特定设计需求。有源晶振产品输出信号主要分为两类常见的信号类型分为两类:单端输出和差分信号输出。每个类别都包括几种类型的输出信号。单端输出正弦波和削峰正弦波CMOS(互补金属氧化物半导体)HCMOS(高速CM
    SJK晶科鑫 2024-07-11 17:06 121浏览
  • 概述 SiPM测试系统的信号处理板使用了ADI的单片4通道的高速差分ADC信号,所以FPGA需要通过LVDS接口来收取差分高速ADC送出的差分串行数据。 本文讨论FPGA如何例化LVDS模块,以及几种用来收取外部ADC采样后送来的高速差分串行数据。10代器件LVDS实例化界面 在Intel的10代器件中有Arria、Cyclone、MAX以及Stratix几种,我们使用的是Cyclone系列10代GX产品。图1:LVDS模块例化界面 如图1所示为LVDS例化界面,具体使用方法可以参考1“LVDS
    coyoo 2024-07-14 12:25 79浏览
  • 固态继电器(SSR)是一种无需任何移动部件即可运行的电子开关,非常适合可靠性、降噪和长期性能至关重要的应用。与机电继电器不同,SSR使用半导体器件(如晶闸管和三端双向可控硅)执行开关功能。与传统继电器相比,这种设计具有多项优势,包括开关时间更快、电磁干扰(EMI)更少以及使用寿命更长。组件和工作原理SSR由几个关键组件组成:- 控制输入:通常是激活内部半导体开关的LED或红外LED。- 光耦合器:通常用于将控制电路与负载电路隔离,确保安全性和兼容性。- 半导体开关:
    腾恩科技-彭工 2024-07-12 16:00 130浏览
  • 01网络时延概述网络时延(Network latency)是指一个报文或分组从一个网络的一端传送到另一个端所需要的时间。它包括了发送时延、传播时延、处理时延和排队时延。发送时延是主机或路由器发送数据帧所需要的时间,即从发送数据的第一个比特开始,到该帧的最后一个比特发送完毕所需的时间。传播时延则是数据在物理媒介中传输所需要的时间,它与信号传播速度和传输距离有关。02网络时延的降低成为科技发展上升的关键趋势根据工业和信息化部关于印发《新型数据中心发展三年行动计划(2021-2023年)》的文件,里面
    信而泰 2024-07-12 15:13 120浏览
  • 当新一代电竞掌机登场,带来的是更强大的硬件规格与令人惊叹的效能,而玩家也不再仅寻求掌中的游戏乐趣,更多的期待是能连接各式电竞周边,打造出丰富的游戏环境,扩展更多可能性。想要全方位沉浸于游戏世界,意味着有更多的自由和选择,因此对于品牌商而言,该注意哪些关键风险,从而在提出采购询价(RFQ, Request for Quotation)时,设定必要的验收条件,百佳泰将在文中分享给您。 电竞掌机的五大应用风险与解决方案 百佳泰顾问团队统整目前市面上热门的四款电竞掌机,统整其连接性与扩充能力,相关信
    百佳泰测试实验室 2024-07-11 18:07 129浏览
  •   读报见文《中国的AI价格战和“不知道怎么用AI”的日本人 - FT中文网》  如题,好奇,中日两国对AI表现怎么是这样呢?  我人在中国,看新闻与现实,“中国的AI价格战”不足为奇。  没去过日本,只有看新闻,好奇的是日本人“不知道怎么用AI”?  第一想到的是日本不是很早就搞机器人了吗?  百度看看,日本什么时候开始使用机器人?  日本在20世纪80年代开始在各个领域推广使用机器人。日本将1980年称之为“机器人普及元年”。到了1985年以后,日本进入了被称为“智能机器人的时代”。  智能
    自做自受 2024-07-13 22:40 162浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦