近日,谷歌公司发布了一段6分钟的交互演示视频,视频中AI展现出的惊人语言理解能力,再次让网络上掀起了一波关于AI能力的讨论量和关注度。
生成式人工智能爆火的这一年,已经发生了许许多多的故事。科技圈忙着军备竞赛,不论是在国内还是在国外,各式各样的AI大模型横空出世,且加速迭代。人们不断对AI大模型进行认知测试,一方面希望人工智能的各种“类人”和“超人”能力可以持续涌现,另一方面也害怕人工智能真的超越人类智能,取代人类工作。
我们无法拒绝技术进步的诱惑,但也不能无视技术带来的烦恼。12月1日,2023腾讯ConTech大会“新人文”分论坛上,科学作家季燕江、北京大学数字治理研究中心主任邱泽奇、浙江大学人工智能研究所所长吴飞,带来了一场精彩对谈,回应了关于“人类和人工智能共生演化”的六个核心问题,以下为对话实录。
一、“AI不会帮你拿诺贝尔奖,但不用AI你就会被取代”
季燕江:最近⼀年AI的发展,已经让我们⽇常⽣存的诸多经验发⽣了改变。迄今为⽌,我⼈⽣的⼤多数时间都在学校中度过,或者求学或者教学,两位⽼师⽬前也都是⼤学中的教育⼯作者。那我们先来谈谈和我们最为贴近的,教育和科研经验的变化,现在学校中有越来越多的学⽣开始使⽤AI来辅助⾃⼰的学习和科研⼯作。
想先请两位⽼师谈谈,你们作为教育者,在亲历这⼀教育经验的变化,是否感觉到⼀种被替代的威胁存在?
邱泽奇:作为老师,我们当然关注科学与技术的最前沿。学生到学校里面来,也是希望学到科学与技术的最前沿。即便是人文社科学科也是如此,他们甚至非常期待在这个领域里面展现他们的才华和展现他们的才能。
我在课堂上问过学生是否使用AI,有学生回答会用,且有一些学生用得非常好。作为老师,我基本上教了快40年的书了。其实我对学生用AI一点也不拒斥,因为我比他们用得更好。
这些年我一直关注数字技术发展,并且紧随着数字技术在这个领域里的不断变化。1993年当北京拉通第一条通往美国西海岸的数据线的时候,我就是在第一批用户里,就是开放给北京市有关的科研和教学单位的150多个电子邮件用户的用户之一,所以这些年我也一直跟随,我不害怕新技术的产生会抢走我的饭碗。
吴飞:今年8月份在上海浦东召开了基础研究顶尖科学家会议,丘成桐先生给大家讲了一个故事。他说他的孩子是哈佛大学生物学教授,他们这批教授以前被称为实验科学家,就是实验室里,不同的瓶瓶罐罐溶液中,进行在不同的反应条件之下的融合,如果有一天发现了一种新的属性新的物质结合,一个非常杰出的研究成果就出现了。但他的孩子现在告诉他,他们已经变成计算实验科学家,就是把所有的溶液变成DNA和蛋白质的分子式,用人工智能机器学习去合成不同的反应条件和反应结果,然后打印出来按图索骥,再回到实验室里进行新的物质和新的材料的合成。
现在任何学生的学科和专业,前面加上一个计算或者AI,包括社会学,如果加上计算,变成计算社会学,我都觉得是有一定道理的。如果现在的学生没有用AI或者计算技术,这是令人非常吃惊的。
同时我自己也认为,我作为大学老师,我的职业没有被AI取代或者超越。比方说我作为老师要培养学生,我想AI绝对不会告诉我说第一步要做什么,第二步要做什么,第三步做什么,一个杰出的学生就会产生。AI也不会告诉我说对无穷世界的探索,第一步做什么,第二步做什么,你的诺贝尔奖就会拿到手软,这些都没有取代我的职业本身。但如果我们不利用AI、不利用计算机,我想我就会被取代,也会被超越。
二、“我不会阻止孩子使用AI,未来人类想象力是唯一能跟AI媲美的能力”
季燕江:刚刚我们讨论了学校里教育经验的改变。如果回到家庭教育上,你们愿意让自己孩子使用AI辅助学习吗?你们认为这样的AI辅助式的教育,相对于传统教育是不是一种未来的方向和趋势?
邱泽奇:我的孩子已经很大了,但如果作为一种预设,我觉得我非常鼓励,而且我会鼓励他在这种交互之中培养一种能力——他的好奇心,保持在好奇心同时能够拓展自己的想象力。我觉得未来人类想象力应该是唯一能跟AI媲美的能力。
目前我们人工智能技术还是基于有限元的技术,我们能够考量的事情是有边界的,这个边界我们可以通过计算获得结论。比如说算力问题,1000万个GPU不管串联也好、并联也好、分布也好,不管采用什么样的技术让它同时工作,这个始终处理的是有限元的问题,还没有处理到无限元的问题。但是人类想象力是无限的,科幻作家之所以能写出一些让我们感到惊艳的作品出来,就在于他们的想象力是无限的。对想象力无限的开发,是要从有限元开始的,从对有限世界的认识开始。因此结论是,在这个年代如果我要陪伴孩子成长,那么我会积极鼓励他去用AI,同时刺激他去展开他无限的想象力,拓展他的想象力。
吴飞:我们已经进入数字化时代,人工智能比如现在的大模型技术是数字化时代的基座。我们已然生在这样的时代,如果放弃这个时代里面最有力的工具——人工智能,我觉得这是一种甘心被时代所淘汰的逃避。我不仅鼓励我的孩子,我还鼓励我的学生,一定从数字化时代迈向智能化时代,要不断地会用人工智能的工具。同时,要把这个工具变成自己思想的能力,并遵守数字化时代的一些人文素养。无数据不AI,但是无AI就没有我们在数字化时代不断获得自己进步的手段、工具和条件。
季燕江:我也分享一个个人的小经历,前段时间我曾经给一个小朋友做家教,小朋友因为厌学的原因暂时离开了学校,他觉得自己对数学一窍不通,我告诉他如果要想去解一个方程的话,可以尝试用一下AI。你可以一步一步的去问它,然后去发现一些知识。在这个过程中我发现,其实没有哪个小朋友说我天生不喜欢数理化,其实你只要引导得当,给他机会,小朋友就会产生兴趣。
(左起)季燕江、邱泽奇、吴飞探讨科技将如何改写⼈类⽂明的未来
三、“到底是人驯化了狗,还是狗驯化了人?AI时代也要回答类似的问题”
季燕江:“AI辅助⽣存” 的趋势已不可避免,某种程度上,我们和AI的交互已经开启了⼈类和AI的共同演化之路。
什么是共生演化?我觉得人类社会可能一直都是共生演化的。有一个笑话说,是狗驯化了人还是人驯化了狗呢?有些人说恐怕是狗驯化了人,因为我们给它吃的,给它喝的,哄它开心,哄它玩儿。人类社会一直是共生演化,只是我们第一次面对机器智能进入到我们的大家庭里,我们将和机器智能共生演化,那么我们其实可以提出类似的问题,到底是机器驯服了我们,还是我们驯服了机器?
一直以来,我们都把技术描述为“进步”的,很多人说,我们要拥抱技术、拥抱变化。但在技术和人的关系上,人文学者常常会提醒它具有危险性的一面——进步是机遇,但进步也意味着风险,技术是工具同时技术也会使我们人类异化。两位老师如何看待这样的问题?
邱泽奇:某种意义上我认为这两部分都很重,因为任何一件事物都有它的两面。有一个概念叫做双刃剑,也就是有它积极的一面,也有负面的一面,这是同时存在的,任何技术都是这样的。
其实我还研究技术史,尤其是对整个人类的技术史。如果我们从技术长河来看人类与技术的关系,通常会发现一个规律,当一个技术进入到它的相变阶段时,这时候用一个技术术语,相变用人文社科的话来说就是发生本质改变会带来两面,一部分人会积极进入这个领域,会占据先机,会优先获得由技术所带来的技术红利。任何一次技术革命所带来的社会变革都是由此开始的。
当这样的技术红利发展到一定阶段,人们反过来想技术到底为人类带来了什么,是人类需要的吗,反思就开始出现了,我相信在这个阶段,主要是人文学者进行批判式的思考。这样的批判性思考带来的是如何让技术真正为人类服务,并且提供给人类所需要的东西。由此不得不提到另外一个具体事实,哈佛大学有一位语言学教授,他回顾了20世纪以来整个科学和技术的发展,写了一本书叫《当下的启蒙》,回应的就是人文学者们对于20世纪以来,整个技术发展所带来的到底是进步还是退步的问题。他的结论是,总体上讲科学和技术对整个人类社会带来了整体效应是进步的。在这个意义上,我是同意他的。虽然我是人文社科学者,我秉持着对任何对人类带来改变的东西的批判态度,但是我是站在科学家和技术专家这边的。这是因为如果我们能够用好科学技术,它给人类社会带来的影响是积极的,是进步的。因此正是这个意义上,我认为对当下AI发展的一些不同的声音,这可能是我们人类对科学技术滞后的一个表达。因为我想在德国的批判主义传统之中,我们认为技术进步始终是带着对人类消极影响所存在的。有人甚至认为社会加速是由于技术加速带来的异质化的产物,我自己也写过相关的文章来说明这一点。但是我认为,技术在发展之中所带来的其实不是技术本身的好坏。科学带来的也不是科学的好坏,而是人类社会政策对于技术后果和技术影响的调节问题。人文社科学者提出这些问题,不是反对科学技术进步,而是呼吁社会政策在这个问题上有更多的调整和调节,更多促进整个人类的发展,也促进让科学技术的红利能够惠及整个人群。
吴飞:我给大家分享一句美国物理学家费曼讲的话,他说我们每个人都有一把开启通往天堂的钥匙,很不幸,这把钥匙同时能够开启地狱之门。如果我们不能明辨天堂和地狱,将使我们处于非常尴尬的境地。这把钥匙的作用不用多说,因为没有它,将不能开启通向天堂之门,但即使能分辨天堂和地狱,没有它仍然会束手无策。这把钥匙就是科技的进步。现在从数字化代时代走向人工智能的智能化时代,人工智能就是我们手中的一把钥匙,我们要寻求开启通向天堂之门正确的道路。
大家想象一下,我们在开启天堂之门的时候,是不是所有的决定权,所有的力量都掌握在人类自己的手上?现在人工智能技术还没有这么巨大的威力,奴役人类,让人类俯首称臣,所以所有智能高度、广度、深度的总开关都在我们人类手上。前面几位技术专家的发言也表明,人工智能还是比较弱的,这些弱的东西靠谁?还是要靠我们技术专家、社会科学家、人文科学家来一起保证这把钥匙能够正确开启天堂之门。这是我对这个问题的一些思考。
季燕江:我认为这个问题一方面是需要政策的制定,另外一方面更重要的是需要大众的普遍参与。我以前不太理解为什么科幻这种题材的作品会流行,我现在有一点明白了。
邱泽奇:如果科幻作品多一些,我相信大众科学素养会更高一些。其实在2021年,中央网信办就有一个全民数字素养提升行动计划,这两年就在干这个事情。我想,整个大众的数字素养如果能够提升1%,对于整个社会的贡献会是非常巨大的。甚至某种意义上会超过我们某一些前面的技术进步或者技术拓展。当然这两者不可偏废。我的意思是说既然存在于今天关于人工智能加速主义和对齐这样的讨论,至于说他们谁对谁错,我们暂时不讨论。既然存在这样一个争议,那就表明技术进步和人的数字素养提升都很重要。一方面有前沿技术发展很重要,另一方面我们积极推动整个人类社会的数字素养提升也很重要,而且这块我认为是更加重要的。
四、“没有AI,我们的生活就像回到无水无电时代”
季燕江:正像在计算机、互联⽹刚刚出现的上世纪90年代, 我们会讨论是否存在“数字鸿沟”,担心有些人因为接触计算机、接触互联网晚,会导致新的社会问题。现在AI刚刚出现,很多朋友已经投身到AI的使用和研发之中。但是我相信更多的朋友可能还没有接触AI。所以是不是在我们这个时代会有所谓AI的鸿沟呢?AI的鸿沟是否意味着会加剧社会不公以及不平等的出现?
吴飞:人工智能是一个通用赋能技术,就像水和电一样,我们很难想象今天我们生活环境里缺少了水、缺少了电仍然能像今天这么幸福的生活。因此在现代社会里,人工智能或者信息技术和每个人息息相关,不可或缺。
今天大模型出现的时候,像英伟达CEO黄仁勋和一些专家们说,现在我们已经进入人工智能代替的iPhone时刻。什么意思?就像2007年乔布斯发布了第一代智能手机后,在移动互联网推动之下,我们现在的手机,就是所有的信息世界、所有系统的入口,它是唯一的入口。
专家们讲如果我们从互联网跨入人工智能时代,我们信息流量入口在哪里?很多专门家说恐怕就是这一轮兴起的大模型。所以我的观点是,如果没有人工智能和大模型,我们的生活方式和生活质量将倒退二、三十年回来到无水无电的时代里。
如果没有人工智能,反而会造成所谓的智能鸿沟。我们怎么办?像人工智能现在成了不同国家的政策来力推人工智,甚至政府也说人工智能是新质生产力引擎。所以现在这个时代里面,我们真的需要拥抱人工智能,拥抱信息技术,因为这就是我们生活的空间,是我们生活的现实。
邱泽奇:数字鸿沟的确是进入数字时代以来,我们一直很警惕的一个话题,或者说我们随时在关注的一个话题。这个话题不是由民间提出来的,也不是由企业提出来的,不是由社会提出来的,是由政府提出来的。90年代,美国监管通讯的政府部门提出了这样一个概念,提出了数字鸿沟的问题。他们当时有一个预判,一旦数字技术进入到大众应用,数字技术会带来巨大的产业红利,这产业红利分配是极为不公平的,是因为它新建了一道围墙,这道围墙的门槛极高,能够迈过这道门槛的人,就能崛起或者获得数字红利,而被挡在这个门槛之外的人因为跨不过这个门槛失去这样一个红利,所以称之为鸿沟。
我自己研究数字鸿沟会发现,在数字鸿沟发展历史中,我们大概经历了三个大的阶段:第一个阶段称之为接入阶段。进入数字社会有一个基本前提就是数字基础设施,你至少要有网络。中国我们知道1996年到1997年,中国在北京有一个瀛海威开始提供商业接入,这时候才有了电话拨号介入,后面是ADSL,再后面是网线光纤,我们一代一代进入接入迭代过程,这个迭代过程解决的是一个可接入性问题叫connectivity。接入进去以后干什么?这时你会发现另外一个鸿沟出现了。
第二个阶段我们把它称之为应用鸿沟,应用鸿沟就跟个体,跟组织既有的素养关联在一块了,和每个人的数字素养关联在一块。这个阶段,我们没有办法直接通过提供基础设施普惠方式来弥合数字鸿沟,只能通过推动大众数字素养提升的方式来弥合数字鸿沟。
今天我们似乎又回到了1996年、1997年,就是人工智能出现带来的智能鸿沟问题。人工智能算力不是个人和中小企业所能企及的。我同意王小川所提出的一个概念,我们应该提供公共算力。为什么?它是新一代数字基础设施,叫公共算力,不再只是接入的问题,如果没有公共算力的提供,我们不可能促进人工智能向中小企业,向大众应用的普及,也就是普惠难以实现。因此我们需要有一个公共算力的基础构架体系,不仅惠及中小企业应用人工智能,也惠及大众来运用人工智能。现在是一个新的政策节点,这个节点是弥合整体智能鸿沟一个新的契机。如果说我们讨论AI与人文的思考,这是一个很好的切入点,也是关键的切入点,也积极呼吁相关方面,能够在智能基础设施上多做,也包括各类平台企业。
季燕江:平台化确实可能是一个解决思路。我们提到过的AI for Sicence也是讲要推动基础设施的平台化,能够使整个社会更具有创新性,并且使我们的公共空间变得更大。可能公的扩大也许是创造一个新人文、新价值观的一个基础。
邱泽奇:我再补充两句,今年7月份有一位华裔的科学家领头的14家机构67位科学家共同写了一篇200多页的文章,就讲AI for Science。AI for Science在垂直领域里面已经有了广泛的应用,对于社会科学而言,目前还没有一个AI for Social Science,AI for Humanity。为什么没有出现,我发现一个非常重要的能力缺陷或者叫能力断层,就在于人文和社会科学家还陷在他的关于传统邻居的想象之中。突破这样一个想象,需要的就是刚刚讲的,提供公共的科学空间或者叫公共空间,这个公共空间不只是有算力空间,还有我们的应用空间,而这个空间是一个多项参与的建构过程,其中平台公司在这里大有机会。
五、“过去种田技术可以用几辈子,现在学一门技能只能管5-10年”
季燕江:我们知道人本身是有一个时间的尺度的,比如说我们活一生,可能寿命只有90多年,但新技术的发展貌似把时间大大压缩了。今年AI的发展,只有一年的时间,已经发生了很多故事。这样的一个速度越来越快的技术发展,让我们觉得明天是不确定的,谁都不知道明天会发生什么,我们所有人对未来的展望很有可能在越来越短的时间内失效,这可能也导致了很多社会问题,比如说焦虑,内耗、内卷等等。技术发展不断加速对时间的压缩,以及我们对未来的不确定性,我们普通人应当如何应对?以及驾驭不可预知的未来的挑战?
吴飞:不确定性可以从两个方面探寻它的原因。第一,整个宇宙96%是暗物质和暗能量的,我们只生活在4%可见可知可探测的空间,还有96%的空间我们无法知晓,对未知世界探索的每一次进步,都可能会给我们现在的认知和现在生活带来巨大的变化。也就是说,人类本身的发展都是从一个一个相对真理向绝对真理的一次一次的突破,去突破96%的不确定。这是科学研究的本身所具有的魅力和特点,我们每个人都无法回避这个客观的事实。
第二,技术本身一旦和生产、生活、学习、工作关联,势必会改变生活的方式、工作的方式,这种改变也就意味着会创造大量的不确定。比如说你现在如果不会用人工智能或者大语言模型,因为它具有all in one的能力,会用大语言模型的人就会取代你,在某些任务上会比你干得更加出色。技术本身创造了一些新的技术手段,使得我们每个人具有不确定性。
这两种不确定性都是客观存在的。从个体来说,我觉得是要在不确定性之中去寻找我们能够做的确定性就可以了。认清当下,激发兴趣,认真投入,以出世的精神做入世的视野,我们就可以一步一步往前前行就可以了。
邱泽奇:焦虑和无奈都是非常正常的事情,如果在座各位你们有机会回去问你们的祖辈,尤其是生活在乡村的祖辈,70岁以上的人,你问他过去如果你掌握了种田技术,你一辈子还需要学习新的技术吗?你得到的答案是不用了,这个种田的技术不仅可以用在当下,也可以用几辈子人。但是如果你问你父亲这一辈,他如果在工厂干过,你问他你学的技术能用一辈子吗?从你工作到退休需要再进行技术更新吗?他也大概率会告诉你说不会,我这一代跟你这一代不一样,我那一代学完可以用一辈子,可以管到退休。
现在面对的问题是今天学的东西可能明天过时了。这有两个问题,第一是人活的太长了,这就是焦虑的来源,人类的技术发展又在不断促进人类健康进步和发展,目前中国人的预期寿命是不到80年,但是不管怎么样已经够长了。但是现在人们所学到的技能生命周期基本上不超过5到10年,这时候意味着你要不断地学,没有办法,这是一个观念的建构。过去我们希望一劳永逸地学一个技能管一辈子的观念要变,要变成不断地学习,这样就没有所谓不确定性问题了。所以改变不确定性问题的第一把钥匙就是要改变关于技能养成的观念,就是不断学习。
六、“未来社会的生存智慧:面对机器有人文之心,面对人有理性之心”
季燕江:最后请两位老师给今天的年轻人有什么建议?我们如何拥抱这个技术社会?避免成为技术的奴隶,同时又抱有对它一定的警惕性?
吴飞:我个人是觉得,今天谈的是新人文。新人文,我个人认为和以前的人文的不同就是科技和我们的社会生活已经紧密地拥抱。所以科技本身,特别是人工智能本身具有技术属性和社会属性双重属性的特点。我们生产的手枪,不会说是手枪伦理,但是人工智能我们一定会说人工智能伦理。因为人工智能和我们的社会生活已经发生了直接的关联。在当下,我想我们要拥抱人工智能,更好地利用人工智能、使用人工智能。我就一句话叫做“成己成物”,在人工智能时代不断的成长自己,因为成长了自己把人工智能带上更健康、更安全、更高效的路途上面进行发展。人工智能发展的更好。我们社会的时代和旁边的人也会发展得更好,沿着“成己成物“的道路不断向前。
邱泽奇:作为人文和社科领域的工作者,谈不上专家,也谈不上学者,整天都在跟年轻的后生打交道。我常常讲,在大学里面教书,如果不能够想象自己是为人父母之人,这个人教书是教不好的。您问的话,相当于我对我学生们所讲话的话。
在提到人机共生的时候,我希望跟我的学生们讲,今天我们不是处在人机共生的时代,而是处在人机互生的时代,到底是狗驯化了人还是人驯化了狗一样,狗跟机器不一样的地方,人可以没有狗,狗也可以没有人,但是今天的人不能没有机器,机器也不能没有人。这两个是一个互生的关系,不是一个共生的关系,既如此,面对机器我们希望能够保持一颗人文之心,面对人,我们希望保持一颗理性之心。如果有了这两颗心,也许对未来也没有什么恐惧的。不就是过一天,很简单,也很容易,所以大家树立起信心面对未来应该没有错。
季燕江:谢谢邱老师、吴老师,希望今天的对话是大家思考的一个起点,让我们深入思考技术和人的关系,谢谢大家。