三联•新知大会第五季举办，聚焦人工智能与人类“近未来”
4月21日至28日，“三联•新知大会”第五季在北京东城区美术馆东街22号的三联韬奋书店举行。
“三联•新知大会”第五季活动海报
今年以来，以ChatGPT为代表的人工智能生成内容（AIGC）的出现，引发了全球热议。这种基于深度学习技术的人工智能，具备了强大的语言理解和生成能力，能在短时间内创作出高质量的文本。然而，AIGC技术的普及也带来了一系列争议和挑战，对于进一步可能出现的通用人工智能甚至强人工智能，更是让人既期待又焦虑……人文、社科、科学、技术——十六位学者，四场主题论坛，今年的新知大会凝神聚焦人工智能与人类的“近未来”。
“自我意识确认我是‘我’”，人工智能在何种程度上模拟人类？
人工智能一直在稳步地进展。从当年“深蓝”战胜世界国际象棋冠军、AlphaGo战胜世界围棋冠军，再到ChatGPT的出现，人工智能开始进入到普通人的生活。人工智能研究和电子计算机几乎同时从20世纪50年代开始出现和发展，而且从开始就受到了其创始人阿兰•图灵的重要影响，根本性的问题一直延续至今——人工智能究竟能在何种程度上模拟人类？
人工智能的出现，迫使我们重新思考自身：在地球46亿年的生命史中，人类其实只占据了其中的一小部分，尽管我们自认为拥有最高级的智慧，但面对与人机共生的未来，我们将如何定义自己？有鉴于此， 本次新知大会论坛的第一场和第三场，聚焦在科学与哲学的思考。
而回顾历史，哲学与科学是相互促进的关系。爱因斯坦曾说，“如果把哲学理解为在最普遍和最广泛的形式中对知识的追求，那么，哲学可以被认为是全部科学的研究之母。”本次新知大会论坛的第三场《工具还是“超人”:如何认识人工智能和人类自身？》，就聚焦于哲学领域的思考。中国社会科学院哲学研究所学者赵汀阳、清华大学人工智能研究院孙茂松、北京大学计算语言所李嫣然、《三联生活周刊》苗千，四人从人工智能技术、复杂系统科学和哲学三个领域深入研讨这一话题，并探讨在人工智能的影响之下，人类又该如何定义自身？
新知大会论坛第三场“工具还是‘超人’如何认识人工智能和人类自身？” 现场
孙茂松在发言时梳理了人工智能从1950年到而今半个多世纪的发展。他认为人工智能能做的事情中，最重要的是语言的处理，而机器翻译有两条研究的路径：
理性主义和经验主义。“大概到了2010年前后，人工智能的研究高潮起来了，虽然还属于经验主义，但范式变了，摆脱了香农的信息论，变成了深层神经网络。基于香农的信息论，第一代机器翻译技术是基于离散的符号序列，换句话说，词和词是孤立的，这种离散也类似人类的认知。但深层神经网络，换了一种方式，每一个词都给了一个向量，把一个离散的空间变成连续的点，求得了离散和连续间很好的平衡。这不是一个小变化，如此词和词之间的关联就能自动算出来。这是2013年的产物，有了词向量，就可以有句向量，有了句向量可以做篇章向量，对词、语、句的表述都可以在一个篇章里进行计算。之后，大规模、大数据、大算力，‘三驾马车’介入进来，把这件事搞得日新月异。”
孙茂松
“人工智能这些年的发展表明，它能有今天的进步不是石头缝里蹦出孙悟空，其实有非常艰辛的探索，特别是这些研究范式的变化体现出了高度的创新。ChatGPT为什么给我们很大的震动？包括我，测了几个例子就傻眼了，这个境界我们达不到，已经习惯了符号的东西，再到神经网络去学习语言其实很难理解，这是方法上的高度创新，不是靠简单的工程上马，吃苦耐劳、自强不息就能解决的。”孙茂松说。
赵汀阳
赵汀阳从人文学者的角度提出了几个问题。“首先是关于语言学的疑问。目前GPT没有先验语法，所以乔姆斯基非常不满意。当然它有一些人工标注，这些人工标注是政治性、伦理性的，是怕‘得罪’人的。在这种训练下，GPT学到了语言但显然还没有学到语言学，或者说它可能不需要语言学，自己发展出了一套‘反语言学’。”
“另外一个问题关于无穷性。凡是有限性的东西，思维一定能找出有限度的方法来解决。而涉及到无穷性的东西，思维是无法解决的。这个时候哲学和神学，或者叫宗教就出现了。涉及到无穷性的问题，比如我们在数学、物理学、哲学中都会碰到，经验主义的人工智能会怎么去处理？我颇为好奇。”
人工智能是否会具有意识和自我意识，这是当下争论的焦点。赵汀阳认为人工智能目前的水平可以算作有了意识，但还不是具备自主意识。“这些概念以前不清不楚大家也没觉得有什么，因为没有挑战。现在GPT有点像外星人突然来到我们面前，挑战真的出现了。对外部刺激能够做出有选择的主动回应，这就算有意识，所以动物也是有意识的。而自我意识必须超出刺激-反应的模式，准确地说就是能够把外部刺激的经验，转化为意识的内部对象。用哲学上的术语就是，我们能够在主观性中建构客观性。同时，自我意识可以自我认识，自我认识其实就是要确认我是‘我’。”
人机共存时代，“我们需要提出更尖锐的问题”
不管人工智能将怎样发展，我们事实上已经不可避免地进入一个“人机共存”的时代。新的技术将怎样改变我们的文化和社会生活？第二和第四场论坛分别聚焦计算机技术对文化和法律两个领域的挑战。
在中国互联网产业狂飙突进式发展的过去十年中，原本由出版社、唱片公司、电视台等机构所主导的知识生产机构均遭遇了互联网平台这一全新媒介生产机制的巨大冲击。今天，我们获取的信息很大程度上由各个平台去中心化的智能算法所决定，不理解平台的知识生产过程，就几乎无法理解互联网时代的知识与文化。
第二场论坛“赛博空间的说书人：互联网平台时代的知识与文化”邀请传播学者胡泳、文化学者毛尖等，从传播学、文学、社会学等领域的关注互联网平台时代的知识与文化，探讨媒介技术对知识生产和传播的影响，以及去中心化的智能算法对经验与伦理的影响。
新知大会第二场论坛“赛博空间的说书人：互联网平台时代的知识与文化”现场
上世纪90年代，胡泳便把尼葛洛庞帝的《数字化生存》译介进国内。作为中文世界互联网研究的先行者，他在发言时就“事实”本身进行了拷问。“这些年，无论是观察者还是社会公众，都意识到我们似乎对什么是事实已经不能达成一致的看法，进入到了所谓‘后真相’时代。后真相完全可以换成同义词‘后事实’，比如说在科学传播当中，你会发现不同的人，对什么是事实可能有着南辕北辙的认识。这个人眼中的科学事实，可能恰好是另一个人眼中伪科学的证据。”
胡泳
作为一名曾经的新闻人，胡泳提出在今天，新闻业如何适应新一代消费者的通信技术？它是否需要反思其旧有的价值观是否还存在？“当新闻‘守门人’坍塌后，我们对什么是真相，什么是非真相，或者什么是虚构，什么是非虚构的认识全部都瓦解了。人们开始用数据来替代事实。我们基本上所获得的，你眼中所认为的知识，现在其实都是通过外包给机器或者算法，把它变成数据以后再倒过来灌输给我们的。我把它叫做‘网络化事实’，人类也由此进入到接受知识的崭新阶段。”
在他看来，ChatGPT背后大语言模型产生的问题之一，是它可以产生非常流利的废话，有可能以非常权威的口吻讲述伪知识。“从人的角度来讲，我们其实需要更多的逻辑测试，需要提出更尖锐的问题，最重要的是验证所有的生成式人工智能带给我们的影响。”
胡泳认为古典互联网时代，也即是知识互联网化后，每个人都有话语权的时代已经终结。“因为平台出现后，互联网上知识的代名词已经变成了‘内容’。所以哪有什么知识付费？知识付费就是内容付费，是为了变现。在整个内容革命当中，出现过一个崭新的东西叫做UGC（用户生产内容），我认为这个革命已经彻底失败，没有所谓的UGC革命，互联网已经重新回到幂律，20%决定80%，大节点决定其他一切节点。”
“不管是前年爆出的元宇宙，还是去年年末出现了ChatGPT，最后你发现它们全是大平台的‘游戏’，普通人或者小平台根本没有人力、财力玩这个游戏。互联网的主宰机制已经变成平台背后公司和大机构，我觉得平台统治的过程还远远没有结束，会继续下去。”胡泳说。
驰向“无尽的边疆”，什么样的法律制度有利于促进科技创新？
未来的人类会生活在一个什么样的世界之中？会更安全还是更危险，更封闭还是更开放，更淡定还是更焦虑？每一次的科技大发展，都对人类制度产生了巨大影响，而法律在其中扮演了重要的角色。
面对科学技术对制度文明的挑战，第四场论坛主题为“‘无尽边疆’：科技与法律的双擎时代”，来自中国海洋大学法学院的桑本谦、上海交通大学法学院的郑戈、北京大学法学院的戴昕、江西财经大学法学院的杨安卓，四位一线法律学者讨论以下议题：1.回顾历史上那些科技进步影响或冲击法律制度的重大事件；2.信息技术的进展是否以及在多大程度上冲击现在的法律制度；3.还有哪些技术进展对法律变迁有潜在的巨大影响；4.法律人对人类制度文明演化的预测和态度；5.什么样的法律制度有利于促进科技创新。
新知大会第四场论坛“‘无尽边疆’：科技与法律的双擎时代”现场
桑本谦在发言中开宗明义：“法律怎么能和科技一起成为推动人类社会进步的双擎呢？只要稍微把法律做一点延伸——不仅仅是法律，法律只是在制度浓汤上的一层浮油——延伸到制度，制度是远比科技更为古老的存在。这样来看，制度和科技完全可以成为双擎，两者之间的互动关系搭建了我们想象未来世界的主要框架。”
而说到本场论坛的主标题“无尽边疆”这个名称，则来自1945年二战结束前，美国科学家、图灵奖得主万尼瓦尔·布什给罗斯福总统提交的一份报告《科学：没有止境的边疆》。这份报告决定了美国二战后至今的科研方向和方法——美国过去把西部当作新边疆，布什则认为科学是未来美国的新边疆，而且没有止境。
杨安卓
“颇具反讽意味的是，到了2021年，美国国会参议院通过的《无尽边疆法案》（Endless Frontier Act），旨在加强基础和先进技术研发以协助华盛顿抗衡与中国在有关领域的竞争，应对中国在信息战上与日俱增的影响力。这个法案究其实质，并没有继承勇于拓展边疆的美国精神。它不是通过美国人继续扩展科技的边疆，从而把中国打败，而是通过阻遏中国发展，令中国不会超过美国，从而保持其在科技上的领先地位。这在某种程度上抹黑、背叛了美国人的科学创新精神。”杨安卓说。
杨安卓在发言时还提到了最近一则国际笑话：“现在很多人在讲ChatGPT，马斯克等不少人认为，如果任由人工智能进一步发展，可能会给人类生存带来危险。就此，美国总统拜登找到了自己的科学顾问吴修铭，问他到底应不应该禁止人工智能的继续发展？吴修铭对拜登说，如果我们不禁止人工智能发展，人类有1%的可能最终被AI消灭，但是如果我们禁止人工智能的发展，美国就有100%的可能被中国打败。To be or not to be,这个问题就成了吴修铭和拜登们，迄今为止一直在踌躇的问题。”
郑戈
郑戈在发言时提到了“莫拉维克悖论”。这一悖论揭示出，推理和运算需要运用的算力是比较小的，而要模拟人类的身体机能和直觉，则需要动用的极大的算力。
“举一个非常简单的例子，大家都惊叹于ChatGPT说话很圆滑，答主观题非常厉害，但是我们要知道，OpenAI最大的投资者就是微软，光是购买英伟达A100芯片，这样的芯片一块就是几万美元，他们买了几万块，就是要搭建一个非常庞大的算力系统，再喂给它大量的数据。因此有一个笑话，我们现在没有必要担心ChatGPT会取代人类的工作，因为我们比他便宜，这是一个方面。”
“另外一方面，这一点恰恰揭示出机器和人各有擅长的方面。有一位计算机科学家就曾说过，追问人工智能能否像人类那样思考，这个问题是非常无聊和愚蠢的。就像追问潜水艇能否像人那样游泳，干嘛要让潜水艇像人那样游泳？只要它能够潜得比人类更深，能够做到人做不到的事情，这才是我们需要机器的意义。生活远远比数学更加复杂，人类很多习以为常的技能，比如说跳舞，需要动员身体上所有的肌肉，经过非常长时间的训练，才能达到身体协调性。人类通过训练可以做到的事情，恰恰是机器非常难以做到的。从这方面来理解，才是思考人类和人工智能关系的一个更好的视角。”
回到法律人怎样看待AI的挑战这一问题，桑本谦表示他个人并不是非常担心。“就像我也不那么担心硅基生命会取代碳基生命一样。因为这很难，现在人工智能只是在模拟大脑，但怎样产生一系列的动机，包括野心和欲望，只模拟人类大脑显然是不行的。大脑这一串指令是怎么来的？如果真要创造一种硅基生命的话，不仅需要模拟大脑，而且还要模拟‘睾丸’，这好像也很难。我是这么认为的，即便地球上出现了硅基生命，也是与人类共生的关系。”
什么样的法律制度有利于促进科技创新？“其政闷闷，其民淳淳；其政察察，其民缺缺。”从老子《道德经》中的这句话，观照到立法、执法与人工智能发展间的辩证关系，郑戈就此引入了未来学的观点。
“如果把法律的制度设计视作一项工程——我们可以举中国军工科技发展策略的例子。军工科技工作者们实际上分为三种人，所谓‘装备一代，研制一代，预研一代’，三代同时进行，不然今天中国就不会有歼-20这么先进的战机。法律制度的设计也是如此，从事司法工作的，是在使用法律，属于装备一代；立法者，政策设计者则属于研制一代，一定要有，数量不用太多。同时，还要有少数人去进行想象、设想的工作。实际上每一次法律的跃迁，法律的改革，法律的革命，都有很漫长的酝酿期——人们在这之前，在法律的跃迁和革命出现以前，就针对可能会出现的社会现象，埋伏在前方去想象它、分析它，去构想它可能是什么样子，由此提出相应的规范之道。”
“科技是在拓展人类生活的疆域，而法律在做什么呢？在科技已经拓展出的疆域里维持人类社会的基本秩序，保护大多数人的预期。所以，科技和法律是完全不同的两种力量。法律在很多时候，恰恰是在给高速发展的科技套上一个缰绳，使它不要跑得那么快，至少不要快到远远超出人类社会基本预期的这种程度。”郑戈说。