资中筠：良知、理性是人类存续必要条件丨AI时代的人类意见
因为ChatGPT的出现，2023年注定会是一个值得被记住的年份。《经济观察报》年终特刊就此锁定了人工智能。我们邀请了来自中国社会各界的代表人物，以书信的方式，畅谈他们心目中的AI世界和他们的所思所愿。他们是企业家、投资人、哲学家、社会学家、音乐家、诗人、作家、医生、中学校长、公益人、编剧、导演、演员、博物馆馆长……这些表达汇成了《AI时代的人类意见》。
他们或悲观或乐观，或满怀期待或心有疑问。不过我们相信，在悲观者和乐观者之间并不存在较量，足够多元和丰富的声音才能够帮助我们理解正在发生的所有。更何况，正是那些优秀的思考者和行动者对于未来的想象，在很大程度上决定着我们的方向。
现在，让我们打开信箱，开启思想的未来之旅。
——编者
致读者：
岁末奉《经济观察报》约以书信形式写对人工智能的感想。忆起2010年应约写“岁末致友人书”，宛如昨日。而我故友凋零，不知心目中该写给谁。只能信笔遐想，致一切有耐心读的读者。
如扣除全球大疫三年，2010年至今，有效年份也就短短的十年。翻看当时各界人士60余篇文字，内容都很现实，充满忧国忧民，批判时弊，提出希望，涉及领域林林总总，而是非标准惊人地一致，目光投向同一方向，共同的强烈愿望就是兴利除弊，改革不要倒退。在各界作者中，有一个鲜明的特点，就是企业家都比较乐观，充满信心。今昔对比，为之唏嘘。另一特点是科技创新较少涉及，有一人提到智能手机，是作为“新鲜事物”的。
曾几何时，高深莫测的“人工智能”已经成为时代的象征。AI进入寻常百姓词库。几年前围棋高手败于电脑软件，震惊世界，现在已成旧闻。忽然出现似乎无所不知的“ChatGPT”可以陪人聊天、解答各种问题。每天都会出现令人惊恐的关于AI新技能的新消息，最主要是其“智”力将取代或超过人类而失控之远景，可能颠覆一切人伦秩序，人将不人。身为万物之灵的人类，自己创造的高科技将把自己带向何处？一般谈到变局的习惯用语是“百年未遇”，而现在却是“十年未遇”，变化的幅度是几何级数的加速度。而引领这变化的是几位科学怪才。
另一方面，似乎从野蛮社会以来的传统思维还在主导某些人。忽见硝烟四起，一场热战继以另一场热战，或以强欺弱，或以极原始的野蛮挑战现代文明，导致生灵涂炭，血肉横飞。自从有核武器以来，高科技杀人工具日益“先进”，足以毁灭人类几次。端赖持有者的理性克制，“核战争无赢家”成为共识，一直备而不用。如今却不时听到可能使用的威胁声，竟使人怀念当年“冷战”之“冷”，竟能保持这么久。现在是否终于升温至热战？理性、良知能否跑胜野蛮、疯狂？人类是否在劫难逃？
对科技与人类祸福问题的反思，非自今日始。更早的姑且不论，这个问题首先由科学家自己提出已有百年。至少在第一次世界大战之后，就有明智之士意识到这一点，以后每当出现先进武器时，这个问题都凸显出来。经常被引用的一句科学家的名言是：“人类在还没有能够掌控自己之前就先掌控了自然，先具备了掌控自然的能力。此事将要引起不可预测的后患”。印度圣雄甘地曾把“没有人性的科学” 列为可以毁灭我们的事物之一。不过他走向另一极端：奉行远离工业化社会的生活方式，被认为是反科学、反现代化而不足为训。原子弹的发明和运用所引起的触及灵魂的反思众所周知，自不待奥本海默传记和电影的出现。
人类真是很奇怪的物种。号称“万物之灵”也不是浪得虚名：能够驾驭万物为我所用；为不断改善自己的生活质量发明各种神奇的物件；远古已不可考，至少在不太长的几千年中创造了如此辉煌的物质和精神文明。而与此同时，没有哪个物种像人类那样互相仇恨，自相残杀，为此耗尽心力发明出日新月异的高效、残忍的杀人工具；同时肆无忌惮地祸害自己的生存环境。古往今来在“人”的芸芸众生中出现了多少恶魔，也出现了不少天使般的典型。不知道其他动物有没有灵魂和伦理道德，人类确实创造了整套的伦理道德律令和善恶标准，还有复杂的哲学理论。根据此标准，作恶和行善从未停止过，谁战胜谁的问题也从来没有最终答案。
一个永恒的问题是：高科技成为作恶的手段时，科学家有没有责任？《奥本海默》电影中当主角自责手上沾有鲜血时，杜鲁门总统说：“要说双手沾血，也是我，而不是你”。就是说，掌握生杀予夺之权的政治统治者才能决定如何使用这一手段。到目前为止，世界还是以国家为单位，即使民主国家，也是委托少数人掌握这一权力。尽管设计了种种制度限制这一权力，而科技创新与军备竞赛相辅相成始终无法停止。
然而，科学家真的完全没有责任，完全无能为力吗？以前的姑且不论，如今已无可否认地飞跃进入AI时代，有人称之为第四次工业革命，实际并不恰当。因为整个舞台已经超越地球，与宇宙太空打交道了。马斯克及其侪辈横空出世，每天都有惊人的新花样，使人感到似乎他们的意念和成败决定人类的命运。所以我特别关注马斯克的言行和他表现的价值观。迄今为止，似乎他还不是科幻大片中那种科学怪人，而是保持理性、心存善念、爱好和平的常人。前一阵传言他有反犹言论，果真如此，比其他任何人同样的表现更令人担心。好在他自己已经以言论和行动加以澄清。我还注意到，他说过如果要使人长生不老，也能做到，但他不赞成，所以不做此努力。不论他是否真能做到，我十分赞成这一观点，并为此松了一口气。试想，以目前医疗的水平，资源的分配如此不平等，如果真有古代帝王梦寐以求的长生不老药，首先享受的一定是有权有钱的特殊人群，连“终有一死”的结局都不平等了，那将是多么可怕、恶劣的社会！退一万步讲，如果此法竟然普及了，地球上都是百千岁的老人，那又该是怎样的情景！马斯克也许是在吹牛，实际办不到，但是至少他有所为有所不为，保留了良知和理性。
最近又传出OpenAI内部CEO人事之争。我对此没有资格评论，但是从所能见到的信息看，以我浅薄的认识，似乎关系到对科学发展的不同理念之争。是为发展而发展，一路高歌猛进，不计后果，还是顾及对人类现实的影响，也就是我理解的，有所为有所不为，我本能地同情后者。
当然所有这些考虑，都还是以人类为中心。跳出来看，人类之于浩瀚无垠的宇宙和亿万斯年的时间不过是寄蜉蝣于天地，渺沧海之一粟。也许整个物种与每个个体一样，就该有一定的寿命，或者到一定的时候发生变异，成为另一物种。这种变异的装置也许就藏在人自己身上。还有一种可能，由于世界各种人群并非齐头并进，最先进的高科技手段掌握在观念还处于前现代、甚至前文明时代的人手中，其结果不一定全部毁灭人类，却可能使整个人类的创造毁于一旦，倒退到原始社会。野蛮征服文明的先例在历史上是屡见不鲜的，前人幸运的是还没有掌握当代人的高科技手段。所以无论从哪个角度讲，良知和理性都是人类存续的必要条件，自古如此，于今尤甚。
信马由缰想去，扯远了。所有这些遐想——瞎想，我在剩下不多的残年中大概都看不到。实际上，凡夫俗子如我，有关AI每天映入眼帘的信息，吸引我眼球、最感兴趣的是全方位照顾老人的机器人，可以代替日益稀缺的优质家政服务员，好像这是指日可待之事。人类命运、地球，乃至宇宙，非所能计。把目光收回到眼前切身需要，自私而短视，诸君见笑了。
资中筠
2023年12月
（作者系著名学者）