OpenAI正式发布了新的人工智能模型o1（o是orion猎户座，1代表从头再来，也意味着后续将出现更多序列），就是此前OpenAI一直在高调宣传的草莓大模型。OpenAI没有延续使用GPT序列，可见其与传统预训练模型有新的变革性训练方法和功能，o1具备复杂推理能力，解决比目前专业的科学、代码和数学模型所能解决的更难的问题。
值得注意的是，相比GPT-4o等其他大模型，o1推理时间较长、使用成本更高，在不需要复杂推理的场景并没有明显优势，也意味着o1并非GPT-4o的替代品，两者将并存，未来不排除实现融合。
大模型在融合通信中的应用实践
一、背景：OpenAI为什么现在发布新模型o1？
虽然OpenAI 2024年 年化营收预计将从前一年的20亿美元大幅增长至约35亿美元，但仍无法覆盖其90亿的推理、训练成本。
目前来说，OpenAI订阅的商业模式很难称得上是一个好的变现手段，更无法与广告这一互联网时代最佳商业模式相提并论。
（OpenAI营收变化趋势，来源：tooltester）
在营收构成上，C端用户订阅、企业用户、API和ChatGPT Team业务分别占营收的55%、21%、15%和8%。
（OpenAI营收构成，来源：tooltester）
据The Information测算，在一年亏损50亿美元的情况下，OpenAI的现金流可能在未来一年内耗尽。因此，继续融资成为了OpenAI必然的选择。据彭博社消息，OpenAI目前正在商谈以1500亿美元的估值融资65亿，这一估值远高于去年10月时的860亿美元。
除此之外，首席科学家Ilya等核心人才出走，流量增长放缓，Sora“期货”迟迟未兑现，GPT-5不停跳票，大语言模型预训练Scaling Law的边际效益递减，增长空间被质疑……在OpenAI发布o1模型之前，由ChatGPT发布引领的大模型革命陷入了前所未有的低谷。
与此同时，OpenAI的主要竞争对手之一Anthropic ，从落后于 OpenAI 18 个月，在o1发布前已经在模型层面追平，甚至有微弱的领先优势了。Anthropic 6月发布的 Claude-3.5-Sonnet ，支持写200行可靠的代码，远超4o的20 行。
如下图所示，OpenAI自2022年11月ChatGPT发布以来的流量增长已经几乎停滞。
（ChatGPT访问量变化趋势，来源：tooltester）
与此相对应的，一二级市场的AI热潮正在持续降温。
一级市场方面，VC资金对AI初创公司投资占比在持续上升，占比接近30%，但是在金额上已经回落到2020年的水平，降幅明显。
（VC对AI初创公司的投资金额和占比，来源：硅谷科技评论）
二级市场上，投资者的AI抱团追涨行情开始有了瓦解的迹象，以英伟达等公司为代表的美股AGIX指数从高点开始回落，几乎回到了半年前的水平。
（AGI指数，来源：海外独角兽）
在这样的背景下，通过全新的大模型o1给投资人“画饼”成为了OpenAI绝佳的选择。
二、基本原理：自我对弈强化学习+思维链+推理标记+定制数据集
一是采用大规模自我对弈强化学习（Self-play RL），设置奖惩机制，让模型自行学习解决问题。这种方法类似于人类通过不断尝试和纠错来掌握新技能。二是内置思维链（CoT），能够在解决问题前通过内置思维链进行推导，并将其推理过程外化，使得模型的决策过程更为透明，便于理解和验证。三是引入推理标记，用于辅助模型在对话环境中进行深层思考。四是使用专门的训练数据集，包含了大量复杂问题和对应的解题步骤，有助于模型掌握推理能力。
三、能力突破：复杂推理能力超强，数学、编码和科学尤为出色
o1在一系列超过一般人能力的需要复杂推理的高难基准测试中展现出了超强实力，相比 GPT-4o 有巨大提升。一是数学和编码能力超强，在国际数学奥林匹克竞赛（IMO）中，o1解答正确率高达83%，显著优于GPT-4o的13%。在知名的在线编程比赛Codeforces中，o1拿到89%的百分位，GPT-4o仅为11%。二是在科学领域应用方面，OpenAI声称o1的未来版本将在物理、化学和生物学等学科的高难度基准任务上超越人类专家的表现。三是安全性显著提升，在最难的越狱测试中o1预览版得84分，远超GPT-4o的22分。
图片来源：OpenAI
四、潜在应用场景：专业化研究领域，替代更多脑力劳动成为可能
o1的推出预示着AI将在多个专业化领域展现出新的更优秀的应用潜力，例如科学研究、软件编程、教育等目前已有大模型只是起到初步辅助作用的领域。在科研领域，它可以帮助研究人员进行数据分析和模型构建，如o1可以被医疗保健研究人员用来注释细胞测序数据，被物理学家用来生成量子光学所需的复杂数学公式。在软件开发中，可以用来构建和执行多步骤工作流程，在编程中提供代码生成、调试和优化等帮助。在教育领域，可以帮助学生解决复杂的逻辑、计算及编程问题。此外，o1还可以用于安全研究、市场分析、智能助手、创意设计等多个专业领域。
五、对大模型发展的影响和趋势
一是o1是向AGI迈进的重要一步。o1在解决复杂问题时能够进行深入的思考，并通过内部的思考链来逐步解决问题，这在一定程度上模拟了人类的慢思考过程，展示了向AGI迈进的潜力。它的出现将加快AGI相关研究的进展，并有助于开发出更加高级的AI系统。
二是开启大模型能力提升的新范式，强化学习带来新的Scaling Law。o1模型的性能会随着强化学习时间（训练时计算量）和推理时间（测试时计算量）的增加而显著提高。这种基于推理的训练方式与传统的大规模预训练方式（通过增加参数量和数据量）不同，具有独特的扩展性优势。这表明除了参数量和数据量之外，强化学习可以成为提高模型能力的重要范式，这为未来的大模型发展指明了新的方向。
三是算力需求增大，智算集群从万卡向十万卡演进。o1印证了最近几个月头部AI公司形成的新共识：后训练的重要程度在提高，需要的计算资源可能在未来超过预训练。近期OpenAI、xAI和META均加大算力投入，先后宣布推出十万卡集群，将进一步提升大模型竞争的壁垒。
四是大模型头部公司虹吸效应凸显。随着o1的推出，OpenAI再次拉开了与其它大模型的距离，其“ARPU”值和用户粘性将提升，进一步提升了商业变现能力。目前ChatGPT的付费用户已经超过了1100万，这意味着ChatGPT每月至少能产生2.25亿美元的收入。
六、o1模型的超强推理能力
1. OpenAI的模型迭代史
作为OpenAI在2023年GPT4发布以来最重要的模型更新，o1在数学、代码等方面推理能力显著提升。
（OpenAI的主要大模型及其发布时间，来源：tooltester）
2. 数据：o1在STEM领域表现出色，特别是在数学和编程方面
2.1 数学方面，在2024年的AIME（一个旨在挑战美国最聪明高中生的考试）测评中，GPT-4o只解决了13%的问题，o1的得分是83%。
2.2 编码方面，GPT-4o在竞争性编程问题(Codeforces)上的得分是11%，o1 是89%。
2.3 在博士级别的科学问题(GPQA Diamond)，GPT4o是56.1%，o1则超越人类博士69.7%，达到了恐怖的78%。
（o1与gpt4o的对比，来源：OpenAI官网）
2.4 在启用视觉感知功能时，多模态o1在MMMU上得分为78.2%，成为第一个与人类专家竞争的模型。在博士级别的科学问题上，特别是物理和化学领域，o1更是大幅领先人类博士。
2.5 在IOI（国际信息学奥林匹克竞赛）中在每题 50 次提交的条件下取得了第 49%/213分。在每题10,000次提交的情况下，该模型的得分达到了362，超过了金牌门槛。
（o1与gpt4o的对比，来源：OpenAI官网）
2.6 安全性：衡量安全性的一种方法是测试模型在用户试图绕过安全规则时（称为“越狱”）是否继续遵守这些规则。在最困难的越狱测试中，GPT-4o 得分为 22/100，而o1-preview 模型得分为 84/100。
2.7 不足：通用人工智能的核心是通用和泛化性，但o1在写作、文字编辑等一些简单的自然语言处理任 务上并没有显著提升，这意味着o1的适用范围有一定的局限性。
作者：朱莹莹、申红梅、彭卉
《HotChips 2024大会技术合集（1）》
《HotChips 2024大会技术合集（2）》
《HotChips 2024大会技术合集（3）》
《HotChips 2024大会技术合集（4）》
《HotChips 2024大会技术合集（5）》
《HotChips 2024大会技术合集（6）》
《HotChips 2024大会技术合集（7）》
《HotChips 2024大会技术合集（8）》
机器人专题研究：产业发展概览（2024）
《算力网络：光网络技术合集（1）》
1、面向算力网络的新型全光网技术发展及关键器件探讨
2、面向算力网络的光网络智能化架构与技术白皮书
3、2023开放光网络系统验证测试规范
4、面向通感算一体化光网络的光纤传感技术白皮书
《算力网络：光网络技术合集（2）》
1、数据中心互联开放光传输系统设计
2、确定性光传输支撑广域长距算力互联
3、面向时隙光交换网络的纳秒级时间同步技术
4、数据中心光互联模块发展趋势及新技术研究
面向超万卡集群的新型智算技术白皮书
面向AI大模型的智算中心网络演进白皮书
《半导体行业系列专题合集》
1、半导体行业系列专题：刻蚀—半导体制造核心设备，国产化典范
2、半导体行业系列专题：碳化硅—衬底产能持续扩充，加速国产化机会 3、半导体行业系列专题：直写光刻篇，行业技术升级加速应用渗透 4、半导体行业系列专题：先进封装—先进封装大有可为，上下游产业链受益
本号资料全部上传至知识星球，更多内容请登录智能计算芯知识（知识星球）星球下载全部资料。
免责申明：本号聚焦相关技术分享，内容观点不代表本号立场，可追溯内容均注明来源，发布文章若存在版权等问题，请留言联系删除，谢谢。
温馨提示：
请搜索“AI_Architect”或“扫码”关注公众号实时掌握深度技术分享，点击“阅读原文”获取更多原创技术干货。
