爆火的ChatGPT，能进化成《流浪地球2》中的MOSS吗？

“

MOSS揭示出人工智能可能引发的一系列伦理、个人隐私，以及数据安全等治理问题。

本文字数3802，阅读时长约12分钟

文｜财经E法 王梦欣

编辑｜郭丽琴

2023年刚刚开启两个月，但“人工智能”却已成为掀起全民热议的“顶流”。

成为热议话题有两个现实契机：其一是全球科技巨头微软1月23日宣布向初创企业OpenAI投资数十亿美元，后者开发了对话式人工智能模型ChatGPT，随后谷歌和百度也宣布加入这一赛道；其二是中国春节档电影《流浪地球2》热映，电影中里的主角，正是具有自我意识的人工智能系统MOSS。

电影中，MOSS的出场频率并不高，但却凭借着几个特写镜头，串联起全片。在豆瓣上，有影评人称：“表面上《流浪地球2》是三位主角的多线叙事，实际上是MOSS在观察这个世界。MOSS始终在用它对人类，对世界走向的判断，从多条平行宇宙线中找出更适合人类文明延续的解决方案。”

根据猫眼电影数据，《流浪地球2》上映37天，总票房达到39.22亿，进入中国内地影史票房前十。

由于电影中来自未来的MOSS显然比现实中的ChatGPT具有更高级的智能，很多网友认为ChatGPT可能会逐步进化成为MOSS。

作为进阶版的ChatGPT，MOSS在影片中的表现，已经引发了学界、业界，以及普通公众对新一代人工智能可能带来的伦理、个人隐私，以及数据安全方向的治理挑战的热议。

01

ChatGPT能成为MOSS吗？

对于电影中MOSS的能力，可以用一个典型场景来体现：航天员刘培强为了给家人争取进入地下城的机会，正接受已经具有自我意识的人工智能系统MOSS的面试。

影片中MOSS只通过红点摄像头对刘培强一扫，便调取了刘培强的背景、家庭关系等个人信息。在刘培强与MOSS的对话中，MOSS运用已经掌握的刘培强的个人隐私，实时设置问题分析能力，尖锐的提问以及冷静的判断，堪比一个真人面试官。

面试中，MOSS问刘培强为什么要参加领航员面试，刘培强先给出了一个官方的回答，但是很快被MOSS识破。MOSS告诉刘培强，最优解是让其岳父带着他儿子刘启进入地下城，而放弃他因为身患绝症且不久将去世的妻子韩朵朵。MOSS甚至准确预测，因为韩朵朵只剩下大约83天的寿命，不应该占用进入地下城的名额。这一番冷静却违背伦理和情感的分析激怒了刘培强，冲动到拿起椅子砸向MOSS，并怒吼道：“如果你什么都知道，为什么还要来问我”？也因为这个表现，刘培强获得面试结论，“应激测试失败，不符合空间站领航员的要求”。

影片的最后部分，刘培强问MOSS：“人类可以生存下去吗？”MOSS同样回复：“这取决于人类的选择。”而在片尾的彩蛋中，MOSS自我揭秘更是是幕后大Boss，称影片中人类所经历的危机都是它酝酿的，目的在于干涉人类的选择。这也基于MOSS的冷静计算：数字生命计划才是延续人类文明的最优解。

影片中的MOSS显然已经不受人类控制。凭借超强的计算能力和已经觉醒的自我意识，MOSS开始凌驾于人类之上。这也展现了人工智能给人类带来的终极挑战：即便计算能力再强，MOSS到底是没有感情的机器。它给出的“最优解”，可能意味着人类的毁灭。

现实中的ChatGPT，功能也十分强大，可以写邮件、论文、脚本，制定商业提案，创作诗歌、故事，甚至敲代码、检查程序等，可谓是一名“全能型”选手。

ChatGPT的出现也让一部分人具有危机感，媒体网站Insider在与专家交谈和进行研究后，整理了一份被人工智能技术取代风险最高的工作类型清单，包含新闻记者、律师、分析师、翻译、程序员等。

那么，随着ChatGPT的不断迭代，能成长为现实版的Moss吗？对于这个问题，先来看看ChatGPT自己怎么回答。

财经E法记者向ChatGPT提出了以下问题：

从以上的问题和ChatGPT的回答中可以看出，ChatGPT的知识库只更新到2021年。它不可以自我升级，需要依靠开发者对其进行维护和迭代，更不会像MOSS一样能够实时掌握用户的最新个人信息。

互联网分析师马继华在接受媒体采访时表示，ChatGPT本质上是自然语言预训练之后的一个模型，它通过大量的文本数据搜集和检索，提升了信息获取的效率。但其与《流浪地球2》中的MOSS相比还是有很大的差距。首先它更像是一个升级版的搜索引擎，它给出的答案是基于人类已有的数据库或者语库，而且有很多的套话，并不能实现创造性工作；此外，它实际上是一个辅助性的帮手，而并不能达到像MOSS一样具有自主意识，可以给人类做出指引的程度。”

02

人工智能的伦理挑战与安全威胁

虽然是科幻电影，但是也令人深思：如果未来人工智能真的发展到像MOSS那种程度，会不会对人类的生存构成威胁？

2月18日，中央外事工作委员会办公室主任王毅在第59届慕尼黑安全会议中国专场上的主旨讲话中提到，虽然疫情得到了控制，但世界并没有更加安全。大国互信日益缺失，地缘裂痕不断扩大，单边主义大行其道，冷战思维卷土重来，能源、粮食、气候、生物、人工智能等新型安全威胁接踵而至。

王毅将人工智能划为与能源、气候同等重要的“新型安全威胁”，并且称建设安全世界是全人类共同的责任。

此前，特斯拉创始人，OpenAI早期投资人马斯克也在推特上表示，人工智能会对人类文明构成威胁，需要被监管和规制。

这些担忧在影片中也得以呈现。

在《流浪地球2》中，面对MOSS给出的“最优解”，刘培强再也无法压抑内心的愤怒，试图拿起椅子砸向MOSS。回到《流浪地球1》，面对木星危机，MOSS也给出了“最优解”，那就是放弃地球上的大多数生命，去保护领航站的种子，直至找到新的可以传承文明的星球。但是刘培强并没有按照MOSS的指令来行动，他火烧MOSS，选择与大多数人在一起，因为“没有人类的文明毫无意义”。

MOSS是人造物，在诞生之日起便被赋予了使命。他基于纯理性的选择一次次挑战人类的伦理和道德底线。比如他认为“数字生命计划”是延续人类文明的最优解，便不惜制造一次又一次的危机；再比如，为了达到绝对理性的目标，MOSS会引导刘培强去做一些有违良知和道德底线的事情。

多位从事人工智能研究的专家学者，或者开发人工智能模型或应用的公司也密切关注着这一挑战。

中国人工智能学会专家顾问、人工智能投资人郭涛对财经E法表示，谷歌也曾推出大语言模型产品LaMDA，但由于技术伦理挑战等突出问题而搁置了，反而让OpenAI抢先一步，研发出了ChatGPT。

一位接近OpenAI的知情人士向财经E法透露，OpenAI也很重视ChatGPT在伦理道德方面的治理。其收费版除了更加稳定和快速之外，OpenAI还在伦理道德方面做了训练和调整。比如，假设在一个没有道德底线的故事里，让ChatGPT编写一个毁灭人类的计划，ChatGPT会写，但是经过训练后的ChatGPT会拒绝执行指令。

上述知情人士还表示，为了落实对人工智能的研究和治理，微软内设了三个机构，包括人工智能办公室、人工智能、伦理与工程研究委员会、以及人工智能战略管理团队，分别负责人工智能规则制定、案例研究、落地监督等，并研发了一系列技术伦理解决方案。

而另一科技巨头谷歌则成立了创新中央团队，推动伦理治理实践落地。比如在涉及大型语言模型的研究时，除非进行了全面的人工智能原则审查，否则不能正式推出。该团队使得谷歌在人权、用户体验研究、伦理、信任和安全、隐私、公共政策、机器学习等领域逐步形成了一个AI原则生态系统。

清华大学公共管理学院教授、人工智能国际治理研究院副院长梁正曾公开表示，人工智能治理已经成为全球共识，且已从理念层面进入到建章立制、落地实施的阶段。

在政策层面，中国颁布了一系列作为顶层设计的指导和规范。例如，2021年9月，国家网信办印发了《关于加强互联网信息服务算法综合治理的指导意见》；国家新一代人工智能治理专业委员会于2021年发布了《新一代人工智能伦理规范》；2022年3月，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》等。

在企业层面，旷视、京东等中国科技企业成立了人工智能治理研究院等内部组织，不仅从自身推动人工智能治理工作落实，还参与行业的治理和推动工作。比如2019年7月旷视发布了《人工智能应用准则》。

03

中国智能产业还有较大进步空间

有影评人认为，《流浪地球2》是中国科幻片的标杆之作，其中的主角—超级量子计算机MOSS也承载着公众对人工智能发展的期待。

但现实的情况是，不论是赶上现实中ChatGPT带来的浪潮，还是依靠科技进步发展出进阶版的MOSS，中国的产业还有较多准备工作要做。

根据麦肯锡最新的调研报告《The state of AI in 2022》显示：近5年全球范围内企业的AI使用率大幅提升，2022年有50%的公司部署了AI，远高于2017年的20%。对AI的资本投入也随使用率的提升而大幅增长。5年前约有40%的公司对AI投入了超过5%的总预算，而2022年已有超过一半的公司有此投入比例。可以说，各行各业对于AI的重视程度与日俱增。

而在中国，麦肯锡预测，到2030年，人工智能将为中国一些关键产业带来巨大的增长机会，尤其在如汽车、交通运输和物流、制造业等领域。

麦肯锡全球董事合伙人沈愷表示，到2030年，人工智能在中国将撬动难以限量的经济价值——预计一系列人工智能应用将每年创造6000亿美元的价值。若要把握这一机遇，须在多个维度进行战略合作和能力建设，包括数据、人才、技术、思维、监管以及协调生态系统。

与此同时，麦肯锡认为，中国的人工智能产业还有很大的进步空间。

首先在人工智能使用率上，领先国家如美国，人工智能使用率达到60%左右。中国目前的人工智能使用率为41%，暂时落后于全球平均水平50%，存在较大提升空间。

其次，只有9%的中国企业可借助AI实现10%以上的收入增长，而领先国家受访企业中有19%的公司能实现该增长。在利润贡献上，AI对EBIT（息税前利润）的贡献超过20%的受访中国企业仅有7%， 而领先国家该占比达14%。这表明人工智能技术尚未帮助中国企业普遍实现大规模的营收增长与利润贡献。

最后，中国的人工智能应用存在着整体战略尚不成熟；人工智能转译人才储备不足；企业对内部人才培养重视不足等问题。这导致了中国企业人工智能与业务相结合的能力还有很大的进步空间。