中科院教授王丹力：ChatGPT的起源、技术与展望
前 言
A³大讲堂是由汽车之家研究院倾力打造的前瞻性、战略性、实用性的学习交流平台。通过大咖分享引领家人及行业同仁共同探索面向未来的前沿趋势与科技，构建全方位、立体化的知识体系。
本期邀请到中国科学院自动化所教授 王丹力 分享主题演讲：ChatGPT的起源、技术与展望。
ChatGPT的背景
什么是ChatGPT？
ChatGPT是OpenAI公司2022年11月推出的聊天机器人原型，推出后两个月的用户活跃量达到了上亿，而 Facebook达到月活上亿用了54个月，TikTok用了9个月。
它是一种专用于对话生成的语言模型，它可以根据用户输入的文本产生智能化的回答。同时，把这个问题抛给GPT，它的回答是 “你好，我是ChatGPT，一个OpenAI公司训练的大语言模型，GPT代表生成式语言模型，是一种基于深度学习的自然语言处理技术”。
ChatGPT的特征
ChatGPT区别于普通的对话机器人，它有连续的对话能力，还能有效地捕捉用户的意图。比如回答特别贴切用户的问题，还有上下文的理解，还有对于有些伦理方面的问题不方便回答，还有它会承认自己的不足，可以通过多轮对话提高ChatGPT本身的准确率。
ChatGPT的研究价值
ChatGPT由于使用了深度学习的自然语言处理技术，而且使用了大规模的语量库进行深度学习训练，因此它的成果可以为自然语言处理、人工智能和机器学习，人工智能当然是其它的方向，比如视觉处理等等这些领域的研究，一方面提供了数据，另外一方面提供了研究思路。ChatGPT也可以用于文本生成、对话系统和智能客服这些领域的实际场景当中。
另外一点，ChatGPT是一种生成式的人工智能系统，不仅有对语言的理解力，还有语言的生成能力，这个技术是特别重要的。因此，ChatGPT的出现对于文字语言模态的AIGC技术发展及其他领域AIGC的技术发展有重要的意义。
ChatGPT的商业价值
首先可以为企业提供一些自动化的客服、文档的自动生成，还有个性化推荐。具体客服的好处，大家都知道，7×24小时，另外ChatGPT提供的客服能够更快速准确地响应用户需求，提高用户的满意度和忠诚度。另外，通过文档自动生成能力，可以帮助我们撰写市场调研报告、销售报告、策划案等等文档工作，提升我们的工作效率。ChatGPT在个性化推荐方面可能会做得更好。另外，未来对个人来讲，它可以提供更多的服务，智能家居、医疗健康、教育等等方面都会给我们带来一些便利和提升我们的工作效率。
ChatGPT的发展历程
ChatGPT发展历史
首先2011年谷歌大脑部门成立，2015年OpenAI出现，当时是非盈利的组织，专门做一些人工智能模拟的研究，2017年谷歌大脑推出了目前在人工智能界特别火的模型Transformer，基本上自然语言处理、视觉图像都用它，我们做群体推荐也用它。2018年OpenAI推出了GPT1，2019年推出GPT2，2020年推出GPT3，2022年3月OpenAI推出了Instruct GPT模型，2022年11月30号推出ChatGPT。
GPT模型介绍
GPT1在2018年推出，是以Transformer为基础的文本生成模型，它用的是预训练，这个预训练机制是GPT模型提出的，预训练阶段用了无监督学习和有监督的微调，这样使得模型的性能达到了在自然语言处理任务当中比较好的结果。
第二个阶段就是2019年，GPT2在GPT1基础上用了无监督学习，对零样本和小样本的问题处理已经达到在阅读摘要、聊天、续写故事、编故事等等方面都达到了非常好的效果。到了GPT3有一个突破性的进展，GPT3用了知识蒸馏技术，使得在自然语言上得到非常好的性能。GPT3将网页搜索、代码分析、模仿人类叙事等等方面，结果等于在所有的数据集上都达到了最好的结果。2022年OpenAI推出Instruct GPT，在GPT3基础上进行的人类反馈的强化学习，把人类的反馈引入到模型当中，从而减少了学习训练的参数，同时结果又优于GPT3。到了ChatGPT，它等于和GPT3是同代模型，通常说是GPT3.5，这个模型主要是增加了Chat对话聊天的功能，另外它还使用了一些策略，比如近端优化的策略，使得模型准确率达到更好的效果。
ChatGPT的应用
ChatGPT应用方向
最初的应用是聊天机器人，再有问答系统，还有个性化推荐，也是比较好的应用点，再有自然语言搜索，将来和搜索引擎结合起来，搜索的效能可能更高。但不会取代搜索引擎。ChatGPT是根据问题生成答案，但是搜索引擎的功能是搜索的功能更强。还有机器翻译，之后对于我们来讲有时候有些企业需要爬很多东西，分类问题它可以做到更好的文本分类，还有智能客服、市场营销、智能助手、舆情分析等，比如未来发布一个什么新产品，跟踪看看大家的反映，就可以用ChatGPT对媒体的分析做出评价分析。另外，ChatGPT可以和其它软件联合，比如语音插件，提出一个问题，ChatGPT给出的回答可以用语音播放出来，用户使用起来非常方便。
ChatGPT发展前景
未来ChatGPT的发展方向，首先需要进行模型的优化，当前模型太大，学习训练成本太高，它的稳定性效率方面的高效性也值得大大提升，还有模型压缩的技术。再有就是多模态的问题，比如未来可能会在语言、图像、视频处理多模态的数据如果达到一个很好效果的话，就可以使我们的机器更好地理解人类的行为。还有，结合知识图谱，知识图谱可以增强它的语义和上下文理解的能力，使机器可以推出更好的结果。再有，拓展应用场景，比如智能驾驶、智能编程等，还有生活方面的推荐，如智能服务。再有关于伦理道德、隐私保护等方向。
还有舒适性方面，未来如果用ChatGPT作为一个人机交互的接口，那可能会大大方便我们对未来应用的体验。还有知识更新方面，希望它未来在知识更新上做得更好，实现在线的训练。可以说ChatGPT不仅在语言生成模型领域得到了非常好的发展，而且它掀起了AIGC这个模型发展的热潮。AIGC是占领当前AI发展的高地，这种趋势势不可当，大家可以在未来的几年内实现这种趋势。
结语
ChatGPT是AIGC具有里程碑意义的模型。ChatGPT是基于预存的知识和模型来回答，目前远达不到强人工智能的水平。未来除了ChatGPT以外，各种人工智能的生成应用不断涌现，会引领数字内容领域的全新变革，这个跟我们这个行业是密切相关的。
最后关于大家特别关注的它能不能代替我们的工作？ChatGPT给出的回答“AI不会代替你，但是掌握AI技术的人会代替你”，这个说法特别合适。ChatGPT只是一个开端，未来肯定是掌握在掌握AI技术的人手中，我们一定要在这个基础上做一些工作，为未来进行储备。
