AI掌控未来？基辛格开出药方
《人工智能时代与人类未来》
亨利·基辛格 埃里克·施密特
丹尼尔·胡滕洛赫尔 著
胡利平 风君 译
中信出版社
2023年5月
■曾 园
与ChatGPT对话，人们会被它的仿真性震撼：有那么一二个时刻，我们会恍惚起来，疑心屏幕背后藏着一个有想法的“人”。当然，它会宣称自己仅仅是“语言模型”。它确实也常犯错。我们很不习惯它在令人惊讶的精确与稚气错误之间来回切换。我们需要解释。
6月，基辛格的《人工智能时代与人类未来》中文版问世。
这不是那种爆炸新闻发生后问世的急就章，更不是百岁老人伤时骂世的昏聩预言。这是基辛格，与谷歌前CEO埃里克·施密特，以及麻省理工学院苏世民计算机学院院长丹尼尔·胡滕洛赫尔，历经四年视频讨论之后的结晶。他们从顶尖科技、商用、外交、军事等角度来审视人工智能（AI）。
这并不是基辛格“攒”的一本书。34岁时，他出版成名作《核武器与外交政策》，是汇聚多个专家的智慧写出的一本书。在那本书里，核武器与外交政策的问题，让人“深切地感到需要虚心”。如今，AI也一样。
与我们的想像不同，科幻作家不仅无法胜任这项繁难工作，甚至连插嘴的资格都没有。此书涉及面广，信息精确可信，相比之下，市面上大多谈AI的书，要么胶着于转瞬即逝的技术枝节，要么陷入不着边际的猜想。
谈人工智能的书，往往会提到康德。《这就是ChatGPT》的作者斯蒂芬·沃尔弗拉姆，就被誉为“比肩康德”。西方人如此重视康德，与他在人类思考方面的论断的持久说服力有关。康德认为，我们经由人类个体不可靠的视觉、听觉与思考来认识世界，因此我们所认识到的世界很难说是真实的。康德追求无限逼近真实的想法也许是对的，但基辛格认为，在康德思路引领下，机器很难达到人类的理性，更别提超过人类了。
20世纪，以维特根斯坦为代表的哲学界开始规划新的路径，该路径转而拥抱感知的模糊性和相对性。从“现象间相似性的概括中找到知识”。科学家图灵的想法更进一步：重要的不是智能的机制，而是智能的表现。今天，人工智能的表现已经相当惊人，但我们很多时候并不知道，它是怎么达到目的的。
只有极少数人才敢设想，有时候不精确反而更先进。
2017年5月，AlphaGo结合数百万人类围棋专家的棋谱进行了自我训练，击败了当时世界第一的棋手柯洁。但随后的AlphaZero抛弃人类棋谱，经过仅仅4小时的自我对弈训练后，就成了世界上最强大的国际象棋程序。它会弃掉那些被人类棋手视为极其重要的棋子，甚至包括皇后，但它一直能赢。
以上经由基辛格描述的信息看上去平平无奇，但与我们常见的故事不太一样。第一是训练时间仅为4小时，其次，基辛格暗示AlphaGo虽然很强大，但仅仅是一次“试错”。人工智能的正确进化方式，是像AlphaZero那样摆脱人类思维模式。
科学家的伟大之处在于，他们敏锐发现并培育了一种他们无法理解的智能。
这个培育过程用最粗略的方式描述，人类将数据与目的“输入”给它，经过学习，它能“输出”人类想要的目标。中间发生了什么人类不太清楚。尤其可敬的是，让机器自我学习的想法很早就有了，只不过今天机器的强大“算力”才能让几十年前的设想变成现实。
长期以来，人类因滥用抗生素一直处于“超级细菌”的恐惧阴影下。2020年初，麻省理工学院的研究人员宣布，发现了一种新型抗生素，能够灭杀此前对所有已知抗生素都有耐药性的细菌菌株,办法是“输入”2000个已知分子结构的 “训练集”，要求人工智能根据分子量、化学键类型、抑制细菌生长能力等因素进行学习。最终它“输出”了新的抗生素Halicin（海力霉素）。这个工程比下棋更为复杂，经济效益当然也更为明显。
在此过程中，人工智能可以识别出那些人类察觉不到，甚至可能超越人类描述的分子关系。基辛格问：是否存在人类尚未实现或无法实现的逻辑形式，能够探索我们从未了解甚至可能永远无法直接了解的现实层面？在人际伴侣协作工作中，我们是在向知识迈进吗？还是说，知识正在离我们而去？
抛开玄思，人工智能由此可以在癌症治疗、农药精确使用、潜在疾病的预防将在很短时间内有所突破。如此好的伴侣，可能很快就会用来陪伴幼儿，它比其他人类朋友都更体贴，更深入灵魂地与人类幼童共同成长（高效获取知识，朝最容易发挥特长的方向发展自我）。罗大佑在《未来的主人翁》中所担心的“电脑儿童”不会出现。真实的问题是，如此成长之后的青少年如何与正常人类（不那么顺心与体贴）打交道？
关于AI，普通人只会担心机器人对人类发起的总攻。对此基辛格不以为然。因为人工智能不具备自我意识，换句话说就是它没有反思自己在世界上所扮演角色的能力。它不会主动想去做什么事。
问题在别处。基辛格在他最擅长的军事领域里提出问题：由人工智能驱动的战争是什么样的？既然它如此好用，没有国家领袖不想用。当多国军队开始采用由机器制定的战略和战术，而这些机器又能感知人类士兵和战略家无法感知的作战模式时，力量平衡将被改变。当这种作战模式人类无法停止的时候，外交家最担心的“冲突升级”将不可避免。对于现实主义政治家来说，基辛格关注的是大国如何管控风险，避免“冲突升级”。
笛卡儿提出了“我思故我在”，将理性思维奉为人类的决定性能力，并宣称它具有历史中心地位。今天“思”的主体渐渐转移到机器那边，人类“思”的主要内容转变为管理机器的思考。基辛格开出了他的药方说：“是时候定义我们与人工智能的伙伴关系，以及由此产生的现实了。”