马斯克签署公开信：呼吁暂停训练比GPT-4更强大的AI系统
据外媒报道，在当地时间周二发布的一封公开信中，埃隆·马斯克和一群人工智能专家以及科技高管呼吁所有人工智能（AI）实验室立即暂停训练比GPT-4更强大的AI系统。
这封公开信由非营利性组织Future of Life Institute发布，信的开头写道：“广泛的研究表明，具有与人类竞争智能的AI系统可能会对社会和人类造成深远的风险，这一点也得到了顶级AI实验室的承认。”
这封公开信获得了1000多个签名支持，其中包括苹果联合创始人史蒂夫•沃兹尼亚克（Steve Wozniak）、Stability AI CEO伊马德•穆斯塔克（Emad Mostaque）、Sapiens的作者尤瓦尔•诺亚•哈拉里亚斯（Yuval Noah Hararias）、马斯克、图灵奖得主约书亚•本吉奥（Yoshua Bengio）、纽约大学名誉教授加里•马库斯（Gary Marcus）等，他们呼吁暂停训练比GPT-4更强大的AI系统至少6个月。
不出所料，OpenAI和微软高管并没有签署这封公开信。此外，Meta首席人工智能科学家Yann LeCun的名字没有出现在署名名单中。
这封公开信提到，6个月的暂停并不意味着AI总体发展的暂停，只是从目前危险的竞赛中退后一步。
公开信指出：“只有在我们确信它们的效果是积极的，风险是可控的，才应该开发强大的人工智能系统。”
这封公开信要求AI实验室和专家共同开发和实施一套安全协议，然后由独立的外部专家进行严格审计和监督。
在这封公开信发布的前两周，也就是在今年3月14日，美国AI研究公司OpenAI推出了新一代大型语言模型GPT-4。GPT-4是迄今为止最先进的AI系统，它的能力既让AI专家感到震惊，也让他们感到恐惧。
GPT-4是一个多模态大型语言模型，即支持图像和文本输入，以文本形式输出；扩写能力增强，能处理超过25000个单词的文本；更具创造力，并且能够处理更细微的指令；在高级推理能力方面超过了2022年11月30日推出的AI聊天机器人工具ChatGPT。
这封信已有1126名科技领袖和研究人员签名，除了马斯克、辛顿和马库斯之外，还包括图灵奖得主约书亚·本希奥、《人工智能：现代方法》作者斯图尔特·罗素、 苹果公司联合创始人史蒂夫·沃兹尼亚克、Stability AI首席执行官埃马德·莫斯塔克等科技界领袖人物。