"宫斗戏"导火索？"有人告发他开发新型强大AI，恐将威胁人类"
► 文 观察者网 熊超然
短短几天时间，美国开放人工智能研究中心（OpenAI）的一出“宫斗剧”，经历了“反转反转再反转”的戏剧性变化。最终，在几乎全体员工以“辞职加入微软”的逼宫之下，被董事会解雇的萨姆·阿尔特曼（Sam Altman）重新担任公司首席执行官一事，已经原则上达成协议，有关细节正合作商讨中。
就在阿尔特曼重返OpenAI之后，路透社当地时间11月23日援引两名知情人士报道称，此前有几名研究人员曾致信董事会，警告称一项强大的人工智能成果（名为“Q*”）可能会威胁到人类。
消息人士称，这封此前未被报道的信函和其中提到的人工智能算法，是董事会解雇阿尔特曼的“关键导火索”，这封信让董事会产生了担忧，并对阿尔特曼产生了诸多不满，并最终解雇了他。
当地时间11月2日，英国布莱奇利园，首届人工智能安全峰会举行，阿尔特曼出席。图自澎湃影像
知情人士透露，OpenAI的一些人认为，这个取得进展的“Q*”项目（发音为Q- star），可能是该公司在通用人工智能（AGI）领域的一个突破。OpenAI将通用人工智能定义为——在大多数具有经济价值的任务中超越人类智慧的人工智能系统。
鉴于庞大的计算资源，这一新模型能够解决某些数学问题。消息人士称，虽然“Q*”的数学成绩还只是小学生的水平，但在这样的测试中取得优异成绩让研究人员对其未来取得成功非常乐观。
研究人员认为，数学是生成式人工智能发展的前沿。目前，生成式人工智能通过统计预测下一个单词，来进行写作和语言翻译，而对同一个问题的答案可能会有很大差异。然而，征服数学的能力（只有一个正确答案），意味着人工智能将拥有更强的推理能力，类似于人类。例如，人工智能研究人员认为，这可以应用于新颖的科学研究。
消息人士称，在给董事会的信中，研究人员指出了人工智能的这种能力和潜在危险，但没有具体说明信中提到的具体安全问题。长期以来，计算机科学家一直在讨论高度智能机器带来的危险，例如，它们是否会认为毁灭人类符合其利益。
路透社称，无法查看到这封信的副本，写这封信的员工和OpenAI公司也没有回应置评请求。
但一名知情人士透露，在路透社联系公司后，公司向员工发了一封内部信。信中承认，存在一个名为“Q*”的项目，而在上周末人事变动之前，董事会也确实收到了一封信。不过，OpenAI的发言人仅表示，这封信由OpenAI首席技术官米拉·穆拉蒂（Mira Murati）发出，只是为了让员工警惕某些媒体报道，并未对信息的准确性发表评论。
随着ChatGPT的爆火，其背后语言模型——GPT也受到市场广泛关注。3月15日凌晨，OpenAI正式推出GPT-4。图自IC Photo
值得注意的是，就在阿尔特曼遭到解雇的前一天，他还在旧金山出席亚太经合组织（APEC）首席执行官峰会，并提到OpenAI最近取得的一项技术进展。“在OpenAI的历史上，已经有四次了，最近的一次是在过去的几周里。当我们推开无知的面纱并向前推进发现的前沿时，我已经在房间里了，能够做到这一点是一生的职业荣誉。”
2015年，阿尔特曼和埃隆·马斯克（Elon Musk）等人联合创办了OpenAI，并得到了微软等投资者的支持。2020年，OpenAI推出了超大规模语言训练模型GPT-3，其参数达到1750亿，是当时全球最大的AI语言模型。去年11月，在微软数十亿美元的支持下，OpenAI发布了ChatGPT聊天机器人，掀起了生成式人工智能的热潮，也成为全球增长最快的软件应用程序之一。
路透社认为，对许多人来说，阿尔特曼是生成式人工智能的代言人，甚至是“ChatGPT之父”，因此他11月17日被董事会解雇的消息在整个科技行业引发了巨大冲击波。
在阿尔特曼被解雇之后，路透社11月18日曾披露，以科技巨头微软为首的投资者向OpenAI董事会施加压力，要求召回阿尔特曼重新担任首席执行官。此后，OpenAI董事会成员被曝又与阿尔特曼商讨了回归事宜，但视频流媒体网站Twitch的联合创始人埃米特·谢尔（Emmett Shear）最终成为了OpenAI新任首席执行官。
11月20日晚些时候，微软首席执行官萨蒂亚·纳德拉（Satya Nadella）在社交媒体上宣布，阿尔特曼和OpenAI前总裁格雷格·布罗克曼（Greg Brockman，在阿尔特曼被解雇后以辞职作为抗议）将一同加入微软，并领导一个新的高级人工智能研究团队。
同日，OpenAI约770名员工中，包括一名董事会成员在内的700多名员工均以“辞职加入微软”相威胁，要求董事会集体辞职并让阿尔特曼重新执掌公司。
11月22日，OpenAI在社交平台X（原推特）发文称，已经原则上达成协议，让阿尔特曼重返公司担任首席执行官，并由董事会主席雷特·泰勒（Bret Taylor）、拉里·萨默斯（Larry Summers）和亚当·德安吉洛（Adam D'Angelo）组建新董事会。至此，OpenAI的这出“宫斗戏”才终于迎来转机。
来源|观察者网