新型AI芯片响应速度比英伟达快十倍,黄仁勋哭晕厕所!但国产AI芯片看到曙光!

原创 飙叔科技洞察 2024-02-22 18:11

最近科技圈热闹异常,可谓是一浪更比一浪高的啊。
首先是OpenAI 推出的全新生成式人工智能模型Sora,是这几天全网讨论最多的话题了。说Sora将改变世界,马斯克、杨立昆、贾扬清、Jim Fan、谢赛宁、周鸿祎、李志飞等科技人物纷纷下场评论;其中红衣主教周鸿祎说:“AGI实现将从10年缩短到1年”!最具代表性了!
但飙叔更关注的是Sora代表的人工智能爆火背后的AI算力;自从前两年ChatGPT爆火,从而带动了AI算力需求的热潮,受益最大的无疑是黄仁勋的英伟达了。在此热潮之下,英伟达AI芯片供不应求、大规模短缺,可谓赚得盆满钵满。但最近有两个AI芯片事件,可能意味着英伟达即将遭遇强力挑战,或许危险真的来临了!
一、Groq芯片,响应速度比英伟达快十倍
就在全世界还沉浸在Sora带来的视觉震撼时,一个初创芯片企业Groq给全球AI芯片领域投下了一个“王炸”产品。
2月20日,初创公司Groq开放了免费试用其最新研制的AI芯片,初试芯片响应速度震撼了业界。搭载Groq芯片的大模型回复用户的速度极快,达到普通人打字速度的75倍,比英伟达芯片的响应速度快10倍以上。

专业测评显示,Groq芯片搭配Llama二代模型可以达到每秒近500个token,如果搭配其他小厂商的模型甚至能达到每秒700token的文字处理速度。而根据公开数据测算,英伟达旗下芯片驱动的GPT大模型的文字生成速度大约为每秒40个token。
评测出来的速度足以让整个AI芯片圈震撼得目瞪口呆的了。但王炸不仅仅在速度,更重要的是Groq芯片的制程工艺和相关配置。
根据Groq公司官网介绍,其芯片为LPU(语言处理单元)芯片,Groq公司也是全球范围内首个创造了LPU(语言处理单元)技术路线的芯片厂商,而英伟达采用的是主流的GPU(图形处理单元)路线。
LPU架构是Groq公司专为AI推理所设计的,线路极其精简,也没有GPU需要的高性能且昂贵的内存结构是专为AI计算提供高确定性的低延迟和高性能的芯片!
值得一提的是,不需要高性能而昂贵的内存,也就是不需要HBM。使用的是SRAM即静态随机存取存储器。SRAM是用触发器来存储信息,不需要对数据进行刷新,也可以同时送“行、列”地址。因此SRAM的运行速度就有了显著的优势。
另外,LPU还有一个巨大的不同Groq的芯片采用14nm制程,不需要动不动就5nm制程、3nm制程;同时也不需要使用昂贵的先进封装技术。
这是不是为国产芯片及半导体产业,尤其是国产AI芯片厂商们开辟了一条全新国产算力之路呢?在飙叔看来,至少给国产芯片信心,半导体制程并不是决定一切的,很多时候芯片设计思想和方法也可以发挥巨大作用。
回到LPU对英伟达的影响,首先我们得知道Groq公司是一家专门的芯片设计公司,其成立于2016年,总部位于美国加利福尼亚,创始团队中有很多人都参与过谷歌TPU项目。其中,Groq创始人兼CEO乔纳森·罗斯(Jonathan Ross)曾设计并制作出了第一代谷歌TPU芯片的核心元件,TPU 20%的研发项目都由他完成。因此,Groq公司直接对标的就是英伟达,而此次LPU产品对于英伟达GPU来说,可以说是釜底抽薪了;不客气得说,一旦LPU产品线成熟对于英伟达来说绝对是迄今最为强劲的竞争对手。
何况英伟达不仅要面对Groq这些初创公司,各大巨头们起义之声也是此起彼伏。
二、微软入局 DPU,群雄并起
据 the information 透露,科技巨头微软正在开发一种新的网卡芯片,替代英伟达ConnectX SmartNIC智能网卡产品,以确保 AI 模型数据可以在微软云服务器之间快速传输。

微软方面确认了此消息。实际上,作为英伟达GPU(图形处理器)的最大客户之一,微软事件是一个重要“信号”。除了省成本之外,微软还希望新网卡能够提高其英伟达芯片服务器的性能,将有助于使用微软云的OpenAI 研发更多 AI 大模型。

对于微软来说,除了自身本来的团队以外,在去年收购的 Fungible,从而为进入AI芯片市场做好了准备。微软在收购 Fungible 的公告中说,Fungible 一家可组合基础设施提供商,旨在通过高效、低功耗的数据处理单元 ( DPU ) 加速数据中心的网络和存储性能。从 Fungible 的背景看来,微软收购对其 DPU 业务来说无疑是如虎添翼。

不止是微软。谷歌于2023年底发布了其新的人工智能模式——Gemini,认为其已经超越了Openai的ChatGPT4,已经成为业界最先进的模型。其使用的AI芯片是谷歌自己研发的——TPU

TPU正式名称是“张量处理单元”(Tensor Processing Units,简称TPU),其是谷歌花了近十年时间自己开发出来的人工智能芯片。

另外,AMD、英特尔、Meta、亚马逊等巨头们也是蠢蠢欲动!更让英伟达颤抖的是奥特曼宣称要筹集7万亿美元用于搭建全球人工智能基础设施;孙正义则向全世界要1000亿美元,用于创建一家新的芯片公司。

这些全球科技巨头们,不同于新创公司,他们几乎都是英伟达的大客户,不仅每年购买了英伟达大部分的GPU;而且这些巨头们本身资金、技术、各种资源触手可得,在技术路线与产品方向确定的情况下,巨头们“独立”只是时间早晚问题,没有意外。

因此,前面有初创公司不断的拱火;后方各大客户大举“独立的起义旗帜”;对英伟达来说,现在到了“最危险时刻”也就不为过了。

三、国产AI芯片的曙光

如上所述,Groq用14nm工艺做出的大模型推理芯片,响应速度竟然比英伟达快十倍,直接吊打了英伟达的H100。

这对国产AI芯片产业来说,从思路和方向上开辟了一条全新的发展道路;让国产芯片在受到美国极限打压之下看到了曙光——可以不需要EUV光刻机,摆脱所谓先进制程的限制,也就是说用现有光刻设备及其配套完全可以生产出国产高性能的人工智能芯片。

当然在飙叔看来,也给国产芯片注入一剂强心剂,半导体制程并不是决定一切的,很多时候芯片设计思想和方法也可以弯道超车!

而各巨头们纷纷进入人工智能芯片参与竞争,对于国产芯片厂商来说同样不是什么坏消息。从现占据市场主导地位的英伟达来说,在全球市场越激烈时,其对于中国市场的依赖就会越强,也变相强迫其更为重视中国市场的需求;而巨头们投入巨资研发的TPU也好,或是其他类型AI芯片也罢,也都可以为国产AI芯片厂商们提供技术路线以及产品方向的参考及其借鉴意义。

当然,无论如何“打铁还需自身硬”,加大投入,加快国产AI芯片的研发始终是根本;只有国产AI芯片具备足够的实力,也才能为国产算力提供强大的后盾;也才能真正打破美国阻扰中国获取先进算力的计划!

飙叔感谢您花时间关注与分享,感谢在我的人生道路中多了这么多志同道合的朋友,一起关注国产光刻机、国产芯片、国产半导体艰难突破之路;一起分享华为海思、华为鸿蒙及华为手机等华为产业为代表的中国ICT产业崛起的点点滴滴;从此生活变得不再孤单,不再无聊!

勾搭飙叔,请扫码




飙叔科技洞察 一起关注国产光刻机、国产芯片、国产半导体艰难突破之路;一起分享华为海思、华为鸿蒙等华为产业点点滴滴!
评论 (0)
  • 电子产品上的连接器扮演着重要的角色,它们在整个装置中负责着连接电路并传输讯号的关键功能,可谓是装置内部结构不可或缺之一。这些连接器的性能和质量直接影响着整体系统的运作效能,因此在设计和制造过程中对于这些组件的选择相当重要。在众多连接器的组件中,接触件更是其中的核心零件,其作用类似于系统的桥梁,负责确保电流的顺畅传输和信号的稳定传递。这些接触件的设计和制造必须考虑到各种环境因素,例如:温度变化、湿度、振动等,以确保其在各种条件下都能够保持稳定的性能。潜在风险当电子产品受到振动时,接触件可能会面临以
    百佳泰测试实验室 2024-04-18 17:05 122浏览
  • HDMI(High Definition Multimedia Interface)是一种高画质多媒体接口,它被广泛应用于各种电子设备,其中当然也包括了笔记本电脑。HDMI接口不仅可提供高质量的影音传输,更大幅简化了数字设备之间的连接。只要在笔记本电脑上使用HDMI即可轻松地将计算机连接至各种显示器。时至今日,HDMI已是当今笔记本电脑的主流影音接口之一,而HDMI 2.1则是目前最新标准,虽然HDMI 2.1提供了一系列令人振奋的功能和改进,但在市场上仍存在一些潜在的风险和挑战,其中又以兼容性
    百佳泰测试实验室 2024-04-18 16:20 113浏览
  •       伴随着汽车与外界的交互手段不断丰富,车联网相关设备、系统间的数据交互更加频繁,万物互联下的网络攻击也逐渐渗透延伸到车联网的领域。汽车行业面临着重大的信息安全挑战。此外,UNECE WP.29 R155和ISO/SAE 21434标准也对汽车的信息安全提出了规范化的要求,旨在产品全生命周期中,分阶段将信息安全威胁导致的风险降低到合理的范围,汽车信息安全不容忽视。      经纬恒润针对ISO/SAE 21434、WP.29 R
    经纬恒润 2024-04-19 11:57 96浏览
  • 随着科技的不断进步,汽车行业也在经历着一场革命性的变革。智能汽车技术的发展,尤其是车联网技术的应用,正在改变我们对汽车的认知和使用方式。在这一背景下,比亚迪E3作为一款新能源汽车,其在驾校领域的CAN数据应用,不仅提升了教学效率,还为驾驶培训带来了前所未有的安全性和便捷性。 一、比亚迪CAN数据系统CAN(Controller Area Network)即控制器局域网络,是一种用于汽车内部通信的网络协议,它能够实现车辆各个电子控制单元之间的信息交换。比亚迪E3通过CAN数据系统,能够实
    lauguo2013 2024-04-19 10:11 90浏览
  • 科技云报道原创。OpenAI“宫斗”大戏即将尘埃落定。自首席执行官Sam Altman突然被董事会宣布遭解雇、董事长兼总裁Greg Brockman辞职;紧接着OpenAI员工以辞职威胁董事会要求Altman回归;再到OpenAI董事会更换成员、Altman回归OpenAI。表面上看,这似乎是一场针对一家独领风骚的技术初创公司控制权的争夺战,但从种种迹象来看,此次“宫斗”的导火索,更多应源自对AI未来发展理念的分歧:一派扛着“加速主义”旗帜,希望AI在技术精英的带领下加速前进改造世界;另一边则是
    科技云报到 2024-04-19 11:21 141浏览
  • 各大Logo更新汇报 | NEW百佳泰为ISO/IEC17025实验室,亦获得国际协会授权,可提供超过30种标准认证测试,特为您整理2024年4月各大Logo的最新规格信息。Bluetooth▶蓝牙取证资格新流程■ https://www.bluetooth.com/download/qprd-document/▶In-Person UPF■ 美国Bellevue, 2024/9/9~2024/9/12▶IOP测试活动■ 德国慕尼黑, 2024/4/8~2024/4/12PCIe▶PCI-SIG
    百佳泰测试实验室 2024-04-18 16:40 103浏览
  • 来源:虹科汽车电子 虹科干货丨轻松掌握PCAN-Explorer 6,dll调用一文打尽!原文链接:https://mp.weixin.qq.com/s/ShG8B7-iUJ9OokOHSNBX2Q欢迎关注虹科,为您提供最新资讯!#CAN #CAN FD #dll调用导读虹科PCAN-Explorer 6(下称“PE6”)作为一款专业的CAN/CAN FD网络处理软件,不仅提供了强大的报文监控和发送功能,还通过其创新的dll加载功能,为用户带来了更加灵活和高效的批量逻辑操作体验。本文将详细介绍如
    虹科电子科技 2024-04-19 10:39 78浏览
  • PAVELINK.SOA-Converter转换工具,用于衔接基于SOA的控制器设计、开发及测试过程中所常见的各类软件工具。PAVELINK.SOA-Converter能提供IDL及服务矩阵等文件的语法及规则检查,自动化完成多种不同格式IDL文件之间的转换,以及其它常用的各类型格式文件转换。PAVELINK.SOA-Converter支持多种行业主流研发工具所使用的IDL,如FIDL、OMG IDL、ROS2 Msg、Protobuf、vCDL等,并对AUTOSAR CP/AP平台模型文件、总线
    北汇信息 2024-04-19 09:44 86浏览
  • 用 Raspberry Pi 打造安全的能源服务物联网基础设施,创造更可持续的未来。EpiSensor 采用 Raspberry Pi Compute Module 4 为能源服务创建物联网基础设施层,帮助加快全球可持续能源转型。未来几年,数以百万计的能源消耗和生产设备将连接到互联网,以实现新能源经济并促进向可持续能源的快速过渡。传统的计量、控制和自动化系统从来都不是为了解决这个问题而设计的——它们需要高水平的技术专业知识才能部署,而且过于复杂和昂贵——拖慢了能源服务公司的发展速度。E
    树莓派开发者 2024-04-18 18:08 94浏览
  • 来源:虹科汽车电子 虹科技术丨全新Linux环境PCAN驱动程序发布!CAN/CAN FD通信体验全面升级!原文链接:https://mp.weixin.qq.com/s/4RXqjUa_odEaxAhcfQOHaA欢迎关注虹科,为您提供最新资讯!#PCAN #Linux #CAN导读全新8.17.0版本的PCAN-Linux驱动程序正式发布,专为CAN和CAN FD接口量身打造。无论是CAN 2.0 a/b还是CAN FD的PCAN硬件产品,都能在我们的新驱动下“驰骋自如”。想要体验字符模式设
    虹科电子科技 2024-04-19 10:43 97浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦