ChatGPT浪潮已至，改变人类的又一奇点？｜新京报专栏
在ChatGPT发展浪潮中，最需要的是实时的政策与机制创新，尤其应强调边界思维和变通智慧。
▲我们应将ChatGPT视为引领未来的知识引擎，积极拥抱这一波人工智能淘金热。图/IC photo
文 | 段伟文
自2022年11月30日上线以来，新一代生成式人工智能聊天机器人ChatGPT的各种表现，堪称十分惊艳。
从连续回答问题、生成摘要、翻译文档，到信息分类、写代码、编剧本、做作业和写论文，ChatGPT几乎都能应对自如。而且，ChatGPT还会质疑你提问的前提，甚至拒绝不当请求。
一夜之间，已经注册账号的人们像遇到机器猫似的，拉着ChatGPT问个不停。不少人为此兴奋不已，但也有不少人从中体验到一阵阵未来的震撼，担心会不会一觉醒，自己就会像中世纪被火药炸下马来的贵族一样，被无所不能的通用人工智能碾压。
需要看到ChatGPT的颠覆性影响
ChatGPT横空出世，与五六年前AlphaGo战胜人类围棋棋手的冲击波不同，这次人们所热议的不再只是奇点临近的隐忧，更多的是对生成式人工智能可能会“改变游戏规则”的恐慌。
不难想象，不久的将来，公司经理只要按一下按钮或者对语音机器人发个指令，就可以将一个粗略的文档转换成优雅的演示文稿，而无需劳烦公司文秘。这无疑颠覆了我们早已熟稔于心的工作场景。
麻省理工学院教授、宇宙学家泰格马克，在其《生命3.0》一书中绘制了人类能力地形图，认为书写和设计属于人类智能的最后高地。而ChatGPT可能带来的改变，或许意味着人工智能的水位可能先要淹没的，就是书写和设计等想象中的人类高坡。
其实，不论是这一次人们对ChatGPT的担忧，还是科学大神泰格马克的失算，在突破性技术发展的规律层面有其缘由。
简单地讲，就是由于预训练大模型的规模效应，使得ChatGPT和类似软件能够预测一切句子中的下一个词，从而涌现出令人难以置信的连接词语的能力。
人们之所以对ChatGPT这一波突破性进步感到震撼，一个重要原因就是，人们一开始并不那么相信这种将语言拼凑起来的技术路线。但毋庸置疑，ChatGPT的确在生成合乎语法的流利的语言方面有着上好的表现。
由此，不难得到的一个教训是，很多颠覆性技术发展的路线，往往未必符合人们一贯和事先的认知。
近10年来，从深度学习到生成式人工智能的发展，尤其说明了这一点——对人工智能应该是怎样的智能，人们的一般性认知与人工智能突破性创新所交付的智能形式之间，存在某种落差。
因此，说到对ChatGPT等生成式人工智能的态度，不论事先是否有所觉悟，不论原先处在什么位置和赛道，都应该看到其所带来的颠覆性影响。也就是说，我们要将其视为引领未来的知识引擎，积极拥抱这一波人工智能淘金热。
人类有能力理清ChatGPT治理思路
与人类所有重大的技术突破一样，ChatGPT等生成式人工智能的涌现及其未来，实际上植根于整体的技术社会系统，也必然地基于我们对其可能驱动的变革的想象。
在这些全新的系统构建和面向未来的想象中，有些是相对中性的变化，有些则是对所有人都有积极意义的变化。
比方说，可能用不了多久，人们就可以借助通用人工智能翻译工具观看任何语言的视频，而使用不同语言的人们，也可以彼此流畅地交流。
但正如人们最近所看到的那样，ChatGPT的病毒式流行也招致了很多非议。从教师对学生论文的学术诚信的关切，到艺术家对其作品在不知情的情况下被模仿的愤怒，更不要说制造假新闻和推动舆论导向，社交机器人的滥用，必然会因此愈演愈烈。
因此，有研究者担心在ChatGPT等生成式人工智能的新一波创新竞赛中，会不会步搜索引擎、社交媒体和大数据商业的后尘，使得诚信、隐私、知识产权等伦理和法律上的权利和基本的价值观沦为牺牲品。
如何有效应对这一问题呢？以往的数字治理和人工智能治理的思路，在ChatGPT浪潮下还适用吗？
必须指出的是，ChatGPT等生成式人工智能的实质，是知识生产方式的革命，既是对知识、学习和创造的重新定义，也必然带来对人类智能和机器智能的重新理解。
而在对海量文本数据集的学习之上，ChatGPT形成的预测和关联知识，其实质是将人类已有的群体知识连接在一起的自动化媒介。
由此，在ChatGPT浪潮中，当我们准备一拥而上之时，有必要先对相关问题做一番深度思考，也有能力理清思路，拿出应对办法。
发展应强调边界思维和变通智慧
ChatGPT这种基于人类群体知识和记忆的知识生产方式，必然与既有的主要基于个体知识与记忆的知识生产方式产生冲突。ChatGPT对海量的文本数据集等数据的高度依赖，在其拼凑式的知识构造过程中，也必然会带来难以化解的价值观念层面的冲突。
因此，我们应设法防范其中的极端恶劣情况，但慎用普遍性的信息审核机制。鉴于ChatGPT涉及的艺术作品集、代码集，必然会与原有的知识产权等权利相冲突，也亟待建立新的社会契约和法律制度。
ChatGPT目前的成功主要是技术上的，我们在拥抱其带来的机遇的同时，也要进一步追问这一技术对人类知识与智能和机器知识与智能的内涵的冲击。
与深度学习的相关性知识和智能类似，这种生产性的知识和智能都是预测性的，而其预测性是建立在已有的知识之上的。
也由此可见，我们在拥抱这类机器智能的同时，应该看到人类智能目前独有的推理、反思和对创造方式本身的创造等能力，这也应该成为当下人类努力增强的方向。
面对ChatGPT等生成式人工智能的巨大红利与空前弊端共存的现状，也需要以技术创新同步的速度制定相应的政策，在伦理、法律和教育上引入动态的治理机制。
在此过程中，最需要的是实时的政策与机制创新，尤其应强调边界思维和变通智慧。
一方面，抓住最坏的问题，如欺诈等犯罪予以遏制，同时要认识到海量文本数据集正在成为一般的知识生产要素，在内容审核方面应适当放宽，使其更充分地发挥知识生产的潜能。
另一方面，也要考虑到新旧知识生产方式的过渡性策略，相关政策和治理机制应致力于调和知识生产方式转换所带来的摩擦。
例如，在教育领域，可以采取基础教育阶段与自动写作技术相对隔绝的政策，以此促进青少年表达和创造力的养成。
生成式人工智能似乎已经通过了图灵测试，但人类智能的独特性在于可以随环境和机器的变化而改变。因此，图灵测试不是一次定终身的高考。这也是因为，我们总是可以移动人与机器智能分野的图灵边界。
总之，面对ChatGPT这突如其来的新物种，我们不要轻易坠入其“美丽新世界”，而要用人类独有的智慧，让它带着我们飞！
撰稿 / 段伟文（中国社科院科学技术和社会研究中心研究员）
编辑 / 何睿
校对 / 刘越