突然火爆的ChatGPT是如何发展而来的？

这段时间，微软重金投资的ChatGPT突然火爆起来，它到底能干什么，它是怎么发展而来的，它的原理是什么？未来将会进化到什么程度？

简单来说，2022年11月由OpenAI发布的ChatGPT是一款智能AI聊天机器人，不过它能够以聊天的方式告诉你各种答案，并且结果比普通搜索更智能。同时它还能编写代码、修复Bug，撰写文章、毕业论文以及演讲稿等等很多事情。

这几天据说以色列总统艾萨克·赫尔佐格（Isaac Herzog）使用ChatGPT生成了一篇“2023特拉维夫全球网络技术”演讲稿，把现场近2万名听众都“蒙在鼓里”。

ChatGPT的推出，对于一直处于劣势的微软搜索引擎必应来说，是一个革命性的颠覆产品，对谷歌、百度的威胁很大。所以，谷歌于2 月 7 日凌晨紧急宣布，推出一款名为 Bard 的实验性对话 AI 服务，百度也于同一天宣布推出文心一言（英文名ERNIE Bot），文心一言将于3月份完成内测。

其实，推出ChatGPT的OpenAI成立于2015年，马斯克进行了投资，但微软是对其投入最大的，最近又追加了100亿美金，同时与OpenAI达成了协议：与必应搜索引擎进行深度捆绑。

其实，突然火爆的ChatGPT经历了三代模型的进化，从GPT1到GPT3。GPT模型全名：Generative Pre-training Transformer ，它于 2018 年由 OpenAI 作为 GPT-1 首次推出。这个模型在2019年发展到GPT-2，2020年发展到GPT-3，2022 年发展到 InstructGPT， 然后衍生出ChatGPT。在将人类反馈集成到系统之前，GPT 模型进化的最大进步是由计算效率的成就推动的，这使得 GPT-3 能够接受比 GPT-2 多得多的数据训练，从而赋予它更多样化的知识库和执行更广泛任务的能力。

所有 GPT 模型都采用了Google Brain一个团队引入的 transformer 架构，这也让谷歌觉感觉到了自己栽花，却被微软摘果的极大尴尬。

技术方面，ChatGPT 是一类被称为大型语言模型 (LLM) 的机器学习自然语言处理模型的外推。采用transformer 架构，意味着它们能够拥有多头自注意力机制，这种“多头”注意力机制是自我注意的演变。通过这种方式扩展自注意力，能够掌握输入数据中的子含义和更复杂的关系，从而给出更准确更接近人类语言的结果，也就更智能化。

尽管 ChatGPT目前的GPT-3 模型在自然语言处理方面取得了显著进步，但它在符合用户意图方面的能力有限。例如，目前的ChatGPT给出的结果可能不会遵循用户的明确指示，同时包含不存在或不正确的事实，缺乏使人类难以理解的可解释性结果，不能得出特定决策或预测，也包括不能分辨有害或令人反感的内容。

这是ChatGPT目前的缺点，但是基于GPT模型它能够不断的自我演进，未来会变得越来越聪明和智能，可能会取代普通的、简单重复的、纯数据分析等工作，更重要的是可能成为未来真正的人工智能搜索引擎，这也是谷歌和百度非常焦虑的原因。

关于ChatGPT的详细技术原理，可以阅读我们的文章：突然火爆的 ChatGPT 是如何工作的？

本文视频请关注我们的公众号：电子工程专辑对应的视频号。