是“神器”还是“魔盒”？ ChatGPT将给我们带来哪些挑战与机遇

原标题：是“神器”还是“魔盒”？ ChatGPT将给我们带来哪些挑战与机遇

中国网财经4月13日讯 (记者 谭梦桐)近年来，随着区块链、元宇宙，再到ChatGPT的爆火，越来越多的应用让人们感受到了人工智能的强大。拥抱科技的同时,不少人也表示担忧。ChatGPT是否会取代人工？生成式AI技术的发展，能推动哪些产业进步？AIGC(利用人工智能技术来生成内容)领域如何监管？中国网财经记者采访到了多位专家。

ChatGPT是什么？能为我们带来什么？

ChatGPT是美国OpenAI公司研发的聊天机器人程序，它能够通过理解和学习人类的语言来进行对话，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流，甚至能完成撰写邮件、文案、代码，写论文 等任务。

浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员盘和林介绍，ChatGPT通过三步走来优化其行为，除了利用海量语言数据、海量标注的语言范例来学习外，还需通过强化学习算法对ChatGPT回答进行打分，一方面让ChatGPT的回答具有随机性，另一方面让ChatGPT更大概率用最优的方式回答问题。

盘和林认为，ChatGPT比过去的AI更智能，不仅仅是聊天，它还可以写代码、写文案，GPT-4的多模态模型中还加入读图功能，它也可以辅助搜索，同样的功能可以移植到办公软件领域，移植到医学领域，移植到新闻广告领域。

“我们认为ChatGPT将带来生产力的变革。”盘和林表示。“因为所有领域都可以用GPT来提升效率。人类将记忆性、重复性的工作交给GPT，自己承担创造性的工作，这大大降低了人类创新创造的门槛。”

ChatGPT是否取代人工？

不过，ChatGPT为生产力带来变革的同时，也带来了隐忧。

据媒体报道，近日，高盛一份最新的研报显示，ChatGPT等AI的最新突破，将给全球劳动力市场带来重大颠覆，全球预计将有3亿个工作岗位被生成式AI取代。

“生成式AI技术会冲击工作内容重复度高、难度低的行业。” 中国信息通信研究院云计算与大数据研究所副所长魏凯在接受中国网财经记者采访时表示，“诸如人工客服、初级程序员、文案编辑等。”

这部分劳动群体该如何应对AI代替人工造成的就业担忧? 魏凯认为，面对这样的冲击，劳动者们未来需提升个人的思维力、实践力、创造力。

“劳动者需要将个人的技能经验进行系统化总结，形成独创性经验。” 魏凯举例说明，例如生成式AI中的文本生成类应用，目前其生成内容仍存在逻辑不清晰、回答不准确的问题，需要经验丰富的人士进行润色。同时，劳动者也可以快速掌握使用方法，让生成式AI应用成为生产力工具。再例如一些简单的编程代码可以交给生成式AI应用产出，技术人员可以专注更复杂的算法开发、研究。基于已有的经验，艺术设计方向的资深人士可结合自己的思路构建提示词，促使生成式AI应用产出更具创意的作品。

生成式AI 技术的发展，能推动哪些产业进步？

随着ChatGPT的爆火，生成式AI带来产业机会，各行各业纷纷布局。

从去年11月ChatGPT发布开始，国内大厂便率先关注到生成式AI技术，各个大厂晒应用、发产品、组建团队，抢占技术应用的高地。

例如，中国三大电信运营商近期纷纷表示参与类ChatGPT服务带来的机遇中。在金融领域，也有多家银行积极考虑将类ChatGPT为代表的生成式对话产品引入银行业务。据悉，目前包括客户服务、数据分析、投资建议、半自动程序编写等业务已可以接入ChatGPT，未来随着技术进一步发展，效果进一步提升，应用场景会逐渐丰富。

“从应用角度看，生成式AI能够利好文娱行业、生物医药等多个行业。”魏凯具体分析，文娱行业中，基于文生图、文生视频、文生3D模型应用，生成式AI能够加速设计作品的制作过程，提升游戏、动漫画面的制作效率。生物医药行业中，目前国外一些大型制药公司尝试用生成式AI设计针对疾病的蛋白质模型，生成式AI也有助于缩短药物研发周期。

“剑桥大学的研究人员利用ChatGPT确定了一个治疗阿尔茨海默病的新靶点。”魏凯举例。

从要素角度看，伴随生成式AI技术发展，合成数据或将促进AI数据集质量提升。生成式AI应用训练时使用合成数据学习内容、对象，并生成全新内容，可有效缓解数据短缺问题，尽可能降低数据投毒风险、保证生成结果安全可信。

盘和林认为芯片、CPO光模块、ICT通信设备、智算中心、云计算服务商、AI应用企业、算法平台、互联网平台企业等上下游产业均将受到生成式AI发展带动进步。

值得一提的是，在AI时代背景下，东数西算工程的意义显得更加重大。国信证券认为，西部地区得天独厚的资源禀赋将成为AI时代最宝贵的“降本”资源，东数西算工程使降低“数据存储成本”变成“降低社会整体运行成本”。

盘和林指出，生成式AI需要智算中心，智算中心可能需要距离需求方更近以降低时延，所以，一方面东数西算为生成式AI提供了算力支持，有效推动发展，另一方面东数西算布局也会随着智算算力特点，有所调整，将数据中心和智算中心区分开来。

AIGC领域如何监管？

3月31日，据央视报道，意大利个人数据保护局表示，已就OpenAI聊天机器人ChatGPT涉嫌违反数据收集规则展开调查，即日起禁止使用ChatGPT，并暂时限制OpenAI处理意大利用户数据。

此外，欧盟执法机构欧洲刑警组织警告ChatGPT可能被滥用于网络钓鱼、虚假信息和网络犯罪；非营利组织人工智能与数字政策中心(CAIDP)也向美国联邦贸易委员会(FTC)投诉称，GPT-4“有偏见性，欺骗性，对隐私和公共安全构成风险”。

在国内，AIGC(利用人工智能技术来生成内容)也同样存在诸多风险。包括隐私风险、人工智能生成内容滥用风险、数据缺失或错误风险、知识产权风险等等。

近日，中国支付清算协会发布《关于支付行业从业人员谨慎使用ChatGPT等工具的倡议》，引发业内关注。协会倡议业内提高思想认识，依法依规使用；不上传关键敏感信息；会员单位加强内部管理和引导。

不过，聚焦AIGC存在的风险，我国现有的监管体系已经成形。在法律法规层面，一方面是通过专门性综合性立法对网络运营者在使用人工智能技术的义务和责任进行规范，另一方面则是切实聚焦到人工智能领域的算法、模型、技术，进行具体规范。

4月11日，为促进生成式人工智能技术健康发展和规范应用，根据《中华人民共和国网络安全法》等法律法规，国家互联网信息办公室起草了《生成式人工智能服务管理办法(征求意见稿)》(下称“意见稿”)，并向社会公开征求意见。该意见稿从个人信息保护、数据来源合法性、知识产权保护、约束不正当竞争行为等方面进行规范。

该意见稿还提出，生成式AI提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。此前，《互联网信息服务深度合成管理规定》的监管范围为深度合成技术、深度合成服务，仅作为规范AIGC技术及服务的参考。

北京市京师律师事务所律师赵东在接受中国网财经采访时表示，在未来一段时间内，网络三法(《网络安全法》、《数据安全法》、《个人信息保护法》)及其规定的相关制度依旧是新技术监管的重要依据。按照网络三法对新技术的产生和运用进行严格监管，不仅有利于维护网络安全、数据安全和个人信息安全，也有利于整个行业的健康、有序发展。

盘和林认为，意见稿的发布，主要是明确了生成式人工智能先规范再发展的总基调，总体上是为了完善生成式AI的应用环境，为生成式AI在国内应用创造条件。但从另一方面看，当前意见稿内容还比较简化，部分条款的线条还比较粗，他建议未来需要进一步完善意见稿内容，防止“一管就死、一放就乱”的情况在生成式AI领域出现，在生成式AI的发展和安全有序推进之间找到平衡点。

“对于AIGC的监管有必要，监管目标不应该是AI的人格，而是用AI的人，了解他们想要达到的目的。” 盘和林直言。

赵东认为，现阶段的监管措施，网络三法规定的基本原则、制度和要求，是维护网络安全、个人信息安全、数据安全的“最低要求”；有关制度、规则并不限制新技术的发展，反而希望新技术促进以数据为关键要素的数字经济发展，为经济社会发展全面赋能。