一封公开信，要求“所有 AI 实验室立即暂停至少 6 个月”
包括伊隆马斯克、史蒂夫沃兹尼亚克和人道技术中心的特里斯坦哈里斯在内的 1,100 多名签名者签署了一封公开信，该公开信于周二晚上发布在网上，呼吁“所有人工智能实验室立即暂停至少 6 个月的培训比 GPT-4 更强大的人工智能系统。”
信中写道：
当代人工智能系统现在在一般任务上变得与人类具有竞争力，[3] 我们必须扪心自问：我们是否应该让机器用宣传和谎言充斥我们的信息渠道？我们应该自动化所有的工作，包括令人满意的工作吗？我们是否应该发展最终可能超过我们、超越我们、过时并取代我们的非人类思维？我们应该冒险失去对我们文明的控制吗？不得将此类决定委托给未经选举产生的技术领导者。只有当我们确信它们的影响是积极的并且它们的风险是可控的时候，才应该开发强大的人工智能系统。
这封信认为，有一种“规划和管理水平”“没有发生”，相反，最近几个月，未命名的“人工智能实验室”已经“陷入了一场失控的开发和部署竞赛”任何人——甚至是它们的创造者——都无法理解、预测或可靠控制的更强大的数字思维。”
这封信的签署人，其中一些是人工智能专家，表示他们要求的暂停应该是“公开的和可验证的，并且包括所有关键参与者。” 信中说，如果所说的暂停“不能迅速实施，政府应该介入并暂停”。
当然，这封信很有趣，因为已经签名的人——包括 Meta 和谷歌的一些工程师、Stability AI 创始人兼首席执行官 Emad Mostaque，以及非技术人员，包括自称电工和美容师——以及那些谁没有。例如，大型语言模型 GPT-4 背后的组织 OpenAI 的任何人都没有在这封信上签名。也没有来自 Anthropic 的人，他们的团队从 OpenAI 中分离出来以构建一个“更安全的”AI 聊天机器人。
周三，OpenAI 首席执行官 Sam Altman接受了《华尔街日报》的采访，称 OpenAI 尚未开始训练 GPT-5。Altman 还指出，该公司在开发中一直将安全放在首位，并在 GPT-4 推出前用了六个多月的时间对其进行了安全测试。“从某种意义上说，这是在向合唱团布道，”他告诉《华尔街日报》。“我认为，我们一直在最响亮、最强烈、最长地讨论这些问题。”
事实上，奥特曼在 1 月份与这位编辑坐下来，他认为“现在开始这些 [产品发布] [有意义]，其中的风险仍然相对较低，而不是仅仅推出整个行业将拥有的东西没有时间让社会更新的岁月。”
Altman 最近与计算机科学家和受欢迎的播客 Lex Fridman 进行了交谈，并谈到了他与 Musk 的关系，Musk 是 OpenAI 的联合创始人，但在 2018 年以利益冲突为由离开了该组织。（来自媒体 Semafor 的最新报道称，马斯克在提出运营 OpenAI 的提议遭到其他联合创始人拒绝后离职，其中包括 Altman，后者于 2019 年初担任首席执行官一职。）
马斯克也许是这封公开信的最不令人惊讶的签署者，因为他多年来一直在谈论人工智能安全，并且最近专门针对 OpenAI，这表明该公司只是空谈，没有采取行动。弗里德曼向奥特曼询问马斯克最近和例行公事的推文抨击该组织的情况。Altman 说：“埃隆现在显然在 Twitter 上用几个不同的向量攻击我们，我很同情他，因为我相信他——可以理解——真的很强调 AGI 的安全性。我敢肯定还有其他一些动机在发生，但这绝对是其中之一。”
也就是说，奥特曼补充说，他发现马斯克的某些行为很伤人。“我绝对是和埃隆一起长大的，他是我心目中的英雄。你知道，尽管他在 Twitter 上是个混蛋，但我很高兴他存在于这个世界上。但我希望他能做更多的事情，看看我们为把这件事做好所做的努力。”
我们仍在消化这封信（其他人已经将其撕成碎片）。