【世经研究】人工智能开启新纪元——ChatGPT发展影响与风险分析

作者：世经未来发布时间：2023-03-08

本文章为WEFore原创。

一、ChatGPT简介

2022年12月1日，OpenAI发布了自然语言生成式模型ChatGPT，可以通过人工智能模型来与用户对话，并自动理解用户的问题，提供更精确、更有价值的信息。ChatGPT建立在GPT-3的后续改进版本GPT-3.5基础上，通过引入强化学习模型，大幅提高了AI在人机对话时的准确度和可控性，实用性得到广大用户的积极反馈。ChatGPT下游应用场景包括代码机器人、小说衍生器、对话类搜索引擎、语音工作助手、对话虚拟人等，具备代替人工的创造力；ChatGPT也将带动上游算力、数据标注、自然语言处理需求，可谓开启AI新纪元。

从GPT-1到ChatGPT，使用更先进的训练模型、更海量的训练市局，功能原来越全面，表现越来越类人。

二、ChatGPT的应用

ChatGPT应用空间广泛，潜在市场规模可观。以过往版本GPT-3为例，截止2021年3月，上线9个月的GPT-3已经有了300+的应用客户，领域涵盖智能客服、教育与科研、游戏、搜索引擎等。出于更出色的表现和更高的关注度，ChatGPT及其背后的GPT-3的应用空间有望较GPT-3更为广阔。

ChatGPT的能力目前几乎可以涵盖各个自然语言交互领域，例如聊天机器人、对话系统、智能客服、信息检索、主题建模、文本生成和总结、NLP作为服务的翻译、转录、总结等等，未来应用领域将面向蓝海。例如，在聊天机器人领域，目前ChatGPT已经能基本满足用户的提供个性化需求和信息提供服务；在需要智能客服的电商、金融、医疗、教育、政府等垂直领域等，ChatGPT能够结合行业特点和需求，构建自动应答系统，为客户提供快速、准确的问题解答。除此外，在传媒、娱乐、设计和影视领域，ChatGPT能够协助完成一些较低层次的任务，包括文稿生成、采访助手、摘要总结等，或将提高行业的运行效率。

三、ChatGPT的优势

目前，ChatGPT不需要任何额外的训练就能在多种不同的领域中应用并快速输出高质量的文本，相较于以前的模型已具备较强的自然语言处理能力，具体来讲可归纳为以下几点：

四、ChatGPT的局限与瓶颈

（一）局限性

ChatGPT目前使用有局限性，模型仍有优化空间。ChatGPT模型的能力上限，很大程度是由奖励模型决定，该模型需要巨量的语料来拟和真实世界，对标注员的工作量以及综合素质要求较高。当前ChatGPT可能会出现“创造不存在的知识”、“主观猜测提问者意图”等问题，模型的优化将是一个持续的过程。

（二）发展瓶颈

ChatGPT本身的缺陷或许可以通过收集更多、更丰富的语料库，提高训练和优化的效率与质量，以及开发人工智能检查和修改的工具来改善，但是更深层次的，ChatGPT引起了人们对AIGC行业中安全性、伦理约束和创造力的思考。

由于RLFH并不能完全避免ChatGPT训练库中学习到的不道德或有偏见的回答，也会导致在模糊提示或引导回答的过程中让ChatGPT输出一些有害信息，导致输出结果的安全性降低。由于人工智能缺乏对伦理和常识的价值判断能力，也没有有效的约束方式，一旦模型存在不安全输出的可能性，ChatGPT将容易被滥用。因此，为了提高ChatGPT输出内容的真实性和安全性，减少或拒绝有害信息的输出，在ChatGPT模型中添加限制或内置“内容安全过滤”模块是必要的。目前OpenAI正在进行相关研究，增强GPT系统对用户意图的理解，并视情况筛选指令执行，推动自然语言交互工具安全性的提高。

此外，在创造性、创作伦理和知识产权等方面并未形成有效界定。在数据挖掘、大规模计算、统计、多线程工作等数据处理分析领域，人工智能有着人类不可比拟的优势，但是以“创新和感知”为基础的创造过程是机器学习和模型难以训练的。目前ChatGPT能够在用户的引导下快速生成小说、诗歌、散文、编程等需要创造力的内容，或许将对创作者和以版权为基础的行业造成冲击。文本生成的过程是基于数据库内容的学习，这是否会构成对被抓取作品的侵权，ChatGPT生成的文本内容是否具有著作权，是否属于该用户等等一系列问题的答案尚不明确。

五、ChatGPT发展的影响

（一）引领我国AI产业发展

ChatGPT的推出对于我国AI技术和产业发展起到了很强的示范效应，预示着目前国际前沿AI技术的快速发展，并且AI的商业化图景也越来越清晰。目前我国在自然语言理解及相关AI技术领域处于全球领先水平，国内AI大厂百度、腾讯优图、阿里巴巴、快手、字节跳动、网易、商汤、美图、科大讯飞等都在加大AIGC领域的投入。随着AI技术的快速发展，人工智能技术提供商，特别是NLP头部厂商将率先受益，其中既包括了科大讯飞等独立技术提供商，也包括百度、腾讯、阿里、快手、字节等互联网厂商；其次在文字、图片、视频、音乐各领域的内容提供商，也将得益于AI技术驱动下数字内容的快速发展；此外AI芯片供应商也将一定程度收益。目前从受益顺序来看依次为技术提供商、内容供应商、AI芯片供应商。

（二）ChatGPT有望助力AIGC破圈

随着ChatGPT的走红，大家对AI的认知上升到了新高度，也令整个市场重新评估AIGC赛道预期。AIGC被认为是继PGC、UGC之后的新型内容创作方式，可以在创意、表现力、迭代、传播、个性化等方面，充分发挥技术优势，目前已经可以自动生成文字、图片、音频、视频，甚至3D模型和代码。对自然语言的理解是AIGC发展的一个首要的关键环节。ChatGPT实际就是基于自然语言的交互式聊天，用户上手成本很低。同时，ChatGPT引入了一个新的训练方法RLHF，即在大数据预训练下加强了人类反馈，使其生成内容的范围、有效性、准确度上有了大幅提升。

ChatGPT作为AIGC的重要应用，其出现对于文字/语音模态的AIGC应用具有重要意义。随着深度学习模型不断完善、开源模式的推动、大模型探索商业化的可能，AIGC有望加速发展，成为多产业智能发展新引擎。业内人士表示，ChatGPT模型的出现对于文字模态的AIGC应用具有重要意义，相关受益应用来看，包括但不限于代码机器人、小说衍生器、对话类搜索引擎、语伴、语音工作助手、对话虚拟人等。

经过前几年的技术积累，如今AIGC已经走到了快速发展的临界点。ChatGPT利好创新型内容创作者，基于调查研究和访谈类型的内容，是很难被ChatGPT所取代的。伴随着AIGC汹涌向前的趋势，常规性质的内容创作者或将被技术手段淘汰。但是ChatGPT从辅助索引到内容呈现，极大地提高了内容创作者阅读和搜集材料的效率，也刺激着自己的思考与创作体系。AIGC依然还处于早期阶段，当前在使用体验上有了一定改变，未来将慢慢实现商业化。当前AIGC面向B端，已经存在一定的商业变现空间，在降本增效大背景下，AIGC可以帮助很多公司在内容生产环节提高效率。

（三）AIGC有望为数字经济发展注入全新动能

从应用价值方面，AIGC将有望成为数字内容创新发展的新引擎，为数字经济发展注入全新动能。

一方面，AIGC能够以由于人类制造能力和知识水平承担信息挖掘、素材调用、复刻编辑等基础性机械劳动，从技术层面实现以低边际成本、高效率的方式满足海量个性化需求；同时能够创新内容生产的流程和范式，为更具想象力的内容、更加多样化的传播方式提供可能性，推动内容生产向更有创造力的方向发展。

另一方面，AIGC能够通过支持数字内容与其他产业的多维互动、融合渗透从而孕育新业态新模式，打造经济发展新增长点，为千行百业发展提供新动能。此外，2021年以来，“元宇宙”呈现出超出想象力的发展爆发力；作为数实融合的“终极”数字载体，元宇宙将具备持续性、实用性、科创造型等特征，也将通过AIGC加速复刻物理世界、进行无限内容创作，从而实现自发有机生长。