马斯克：先进AI的风险如此之高，OpenAI理应解释为何解雇奥特曼

腾讯科技讯 11月20日消息，针对人工智能研究公司OpenAI解雇其首席执行官山姆·奥特曼（Sam Altman）一事，该公司联合创始人、前董事会成员埃隆·马斯克（Elon Musk ）终于表态。

他认为，人工智能的潜在危险如此之大，以至于作为目前世界上最强大的人工智能公司，OpenAI理应披露解雇奥特曼的原因。

OpenAI上周五宣布解雇奥特曼，理由是对他“继续领导公司的能力不再有信心 ”。

马斯克在回应企业社交网络服务Yammer前首席执行官大卫·萨克斯（David Sacks）在X上发表的一篇帖子时表示：“鉴于先进人工智能的风险和力量，应该让公众知道为什么OpenAI董事会觉得他们必须做出如此激烈的决定。”

马斯克曾是OpenAI董事会成员，但于2018年离开公司，理由是与特斯拉存在利益冲突。然而，马斯克后来称，他已经开始担心OpenAI可能对社会产生的影响。然而，值得注意的是，马斯克自己的人工智能公司可能会从目前OpenAI的混乱中受益。

奥特曼下台暴露出OpenAI最高领导层在如何遏制人工智能构成的生死存亡威胁的问题上存在分歧。虽然奥特曼谈到了人工智能的危险以及监管它的必要性，但他将主要精力放在了推进人工智能快速创新上。

众所周知，为了保持在人工智能竞赛中的领先地位，奥特曼始终在寻求大量资金和快速发展。今年9月，奥特曼试图从软银获得10亿美元的资金，用于研发一款硬件设备，以运行ChatGPT等工具。

然而，OpenAI其他领导人却对人工智能给人类带来的危险感到日益紧张。例如，OpenAI的联合创始人、首席科学家、董事会成员伊利亚·苏茨凯弗（Ilya Sutskever）就在奥特曼被解雇的过程中发挥了关键作用。考虑到人工智能可能会危害社会，他更愿意OpenAI谨慎行事。

此前有报道称，苏茨凯弗在公司内部成立了一个“超级校对”团队，以确保在奥特曼下台之前，未来版本的GPT-4（ChatGPT背后的技术）不会对人类造成危害。

另外两名OpenAI董事会成员，乔治城大学安全与新兴技术中心主任海伦·托纳（Helen Toner）和科技企业家塔莎·麦考利（Tasha McCauley），也与所谓的有效利他主义运动有联系，该运动致力于确保人工智能的进步符合人类的最佳利益。

如果他们对奥特曼兑现对有效利他主义运动的承诺感到担忧，进而导致其被赶下台，这将不是第一次在人工智能危险问题上存在如此分歧，以至于将OpenAI员工赶出公司。

2021年，达里奥·阿莫代伊（Dario Amodei）和其他几名OpenAI员工离开公司，成立了OpenAI的竞争对手Anthropic，后者将构建更安全的人工智能作为其使命的核心。

据报道，就连2018年以与特斯拉存在利益冲突为由离开OpenAI董事会的马斯克，也担心该公司对安全的重视程度不够。

本文来自“腾讯科技”，作者：金鹿，36氪经授权发布。