人与机 | 颠覆性突破在于“闲聊”

原标题：人与机 | 颠覆性突破在于“闲聊”

人与机 | 颠覆性突破在于“闲聊”

人与机

“闲聊”等AIGC技术的场景能力将推动机器获得如何接受并重现人类能力的知识，有望在特定领域达到“有限通用智能”，而非“万能通用智能”。

原文 ：《颠覆性突破在于“闲聊”》

作者 |浙江大学马克思主义理论创新与传播研究中心研究员 潘恩荣

图片 |网络

ChatGPT，我称之为“欧阳小邪”，意指它是西方OpenAI公司的人工智能成果，很会“闲”聊，家传“失业之毒”，还带着一股“邪”气。欧阳小邪横空出世，是阿尔法狗（AlphaGo）之后人工智能第三次浪潮的又一标志性事件。它让我们看到了“通用人工智能”（Artificial General Intelligence, AGI）的可能。

“通用人工智能”就是欧阳小邪有点“邪”气的根源。2023年2月24日，OpenAI公司CEO萨姆·阿尔特曼（Sam Altman）首度公开《关于通用人工智能及更多目标的规划》（Planning for AGI and beyond）。一时间，全世界关于“通用人工智能”“超级智能”或“强人工智能”等老问题再度引发热议。然而，这是一组含混但意图一致的概念，通称“通用人工智能”，把政府、企业、科研机构和公众搅成一池浑水。

突破“图灵关”“实用关”“常识关”

“人工智能”原初定义的核心是一个“模仿”问题，即人们是否可能以及如何“使机器的行为模仿人类的智能行为方式运行”。欧阳小邪一次性突破了人工智能的“图灵关”“实用关”和“常识关”（判断“机器模仿人类思考的程度”的三个层次），这是2006年以来基于深度学习技术的人工智能长期坚守基础研究的一个结果。其中，“常识关”是欧阳小邪乃至整个生成式人工智能的最大突破。

“图灵关”指的是图灵测试（Turing test）。简单来说，测试包括三方主体：一方人类提问，两方回答。回答的一方是人类，另一方是机器——宣称已经达到人类一般水平的技术系统。三方主体在独立空间、独立回答问题、独立判断的条件下，如果人类提问方能够正确判断是人类还是机器的回答，那么表明机器没有通过图灵测试，即机器没有达到人类智能的水平。反之，如果人类提问方无法判断回答方是人还是机器，那么表明机器通过了图灵测试，机器能够模仿人类思考，相当于机器具有人类同样的智能。对于欧阳小邪而言，通过了医生或律师专业考试，以及通过谷歌、阿里的专业面试获得初级软件工程师的岗位等例子表明，它能够通过图灵测试，即图灵关。

“实用关”指的是机器能否像人一样解决问题，但并不需要机器一定具备人的智能。典型的例子是约翰·塞尔的“中文屋”（Chinese room）论证。这是一种类似图灵测试的场景，由三个条件组成。首先，场景须是独立的空间，且房间内外只有一种递纸条的交流方式。其次，独立的两个主体，其中一个在屋内，另一人在屋外。最后，屋外的人递进英语纸条，屋内的人根据上面的符号递出相应的中文翻译纸条。塞尔力图证明，即便是屋内的人完美地完成“翻译”工作，但他其实可以完全不懂中文，只需一本英汉大词典即可。由此推论，即便一台计算机能够完美地完成“翻译”工作，即通过图灵测试，计算机也没有相应的内容理解能力。虽然，塞尔的本意是用中文屋论证反驳强人工智能——机器具备与人类相当的智能，但是反过来看，机器不需要具备与人相当的智能，也能够像人一样解决问题。欧阳小邪在现实应用中展示出通过“实用关”的能力。例如，美国学生用欧阳小邪写出一篇“最佳”的宗教学论文，令教授都动容。然而，学生对自己提交的这篇论文的宗教学内容知之甚少，欧阳小邪也只是输出了恰当的文字，并不理解其中的宗教学内容。

OpenAI的“有限通用智能”内涵

以往关于“通用人工智能”的讨论主要一种“想象”，类似猴子捞月一样，想象爬上树梢就能摘月，或者贴近池塘就能捞月。这种“想象”很大程度上模仿“理性人假设”——人具有无限理性而假设“人工智能具有无限智能”。因此，传统的“通用人工智能”往往聚焦于机器是否通过图灵关，认为“理性的人或人工智能是万能的”。那样的通用人工智能更接近“万能的”（almighty）神，而不是“现实的人”。然而，物理学天才少年事实上可能不会系鞋带，同理，现实的通用人工智能也不会是万能的。例如，以往基于符号逻辑的人工智能能够进行数学公理推导，但仍然面临着“莫拉维克悖论”：欧阳小邪虽然突破了“常识关”，目前却难以做对复杂一点的数学题。

OpenAI提出的“通用人工智能”不是以往的理解——超级智能或强人工智能。OpenAI认为，通用人工智能是“一般情况下比人更老练的人工智能系统”。其中，“老练”（smart）这个术语，除了含有聪明（clever）等智商方面的意思，还有“思维全面、思考成熟、应对得体”等情商方面的意思。这与以往讨论的“通用人工智能”“超级智能”或“强人工智能”有细微但实质性的区别。

我认为， OpenAI提出的“通用人工智能”是一种“领域人工智能”（Artificial Filed Intelligence, AFI），即 “场景多向度的人工智能”（Multi-dimensional Artificial Intelligence for Context, MDAIC）。 欧阳小邪的颠覆性突破在于常识层面的“闲聊”能力，该能力的可能用途有许多向度，但都属于“闲聊”的场景，不是传统的“通用人工智能”或“专一人工智能”。这样的“领域人工智能”适合于人工智能伦理研究。“伦理”是技术系统在特定场景中的一个（道德）功能。类似于哈贝马斯的“商谈伦理”，欧阳小邪的“闲聊”能力有助于在不同的应用场景中建立应当的、正当的或恰当的“人与机”关系。同理，“领域人工智能”的场景能力也有助于人工智能生产内容（AI-generated content, AIGC）技术在不同的应用场景中建立合理的“人与机”关系。

总的来说，“人与机”关系的标志性AIGC技术——欧阳小邪——横空出世后，原来基于“人与人”关系建构的人类文明底层逻辑发生了变迁，“人与机”关系的重要性被抬升，未来将与“人与人”关系同等重要。 “闲聊”等AIGC技术的场景能力将推动机器获得如何接受并重现人类能力的知识，有望在特定领域达到“有限通用智能”，而非“万能通用智能”。

文章为社会科学报“思想工坊”融媒体原创出品，原载于社会科学报第1845期第6版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。

拓展阅读

智能技术正重构社会 | 社会科学报

治国理政 | ChatGPT触发产业变革与风险防范