5月30日,又一封“警惕AI、保护人类”的公开信发出——而这一次,“AI三巨头”中的两位以及ChatGPT的开发者,OpenAI的CEO都签名了。
这封公开信来自美国非营利组织,人工智能安全中心(Center for AI Safety),信的全文只有22个单词,全部内容为:
减轻人工智能带来的灭绝风险,应该与流行病、核战争等其他社会规模的风险一样,一起成为全球优先事项。
目前有超过350位AI领域的人士签署了这份声明,包括Google DeepMind首席执行官Demis Hassabis、OpenAI首席执行官Sam Altman、获得过2018年图灵奖、皆被称为“AI三巨头”的Geoffrey Hinton和Youshua Bengio。
一同签署公开信的还有两位中国科学家:中国科学院的自动化研究所人工智能伦理与治理研究中心主任曾毅、清华智能产业研究院(AIR)助理研究员詹仙园。
今年3月,马斯克等人就曾推出过公开信,明确要求“正在训练比GPT-4更强大的AI系统的实验室立即暂停训练,至少暂停6个月”,签名者中也有Bengio、苹果联合创始人Steve Wozniak等人。
而这封最新的公开信虽并未像之前的信一样提出明确的诉求,但却态度鲜明地将AI风险与流行病、核战争摆在了一样的优先级上。
采写:南都记者杨博雯