———
今年 3 月,一篇有关叫停 6 个月 AI 研究的公开信火遍了全网,而今天又有一封重要公开信传出。
不同的是,这一次包括 Sam Altman 等 350 位 AI 权威都签署了这封联名公开信,并对当前正在开发的 AI 技术可能会对人类构成生存威胁表示担忧。
📩 这封信只有一句声明:
降低人工智能灭绝人类的风险,应该与其它社会规模的风险(如大流行病和核战争)一样,成为全球的优先事项。
加入签名🔗 https://www.safe.ai/statement-on-ai-risk
✒️ 签署人包括 3 个技术领先的 AI 公司高管:
OpenAI 首席执行官 Sam Altman;
Google DeepMind 首席执行官 Demis Hassabis;
Anthropic 的首席执行官 Dario Amodei;
💥 更重要的是,名单里还有 Geoffrey Hinton 和 Yoshua Bengio 两位人工智能的「教父」。
超过 350 名从事人工智能工作的高管、研究人员和工程师签署了这份由非盈利组织人工智能安全中心发布的公开信,认为人工智能具备可能导致人类灭绝的风险,应当将其视为与流行病和核战争同等的社会风险。
如今人们越来越担心 ChatGPT 等人工智能模型的发展可能对社会和就业带来的潜在威胁,很多人呼吁针对 AI 行业进行更强力的监管,否则它将对社会造成不可挽回的破坏。
在上周,Sam Altman 和另外两位 OpenAI 的高管还提出,应该建立类似国际原子能机构这样国际组织来安全监管 AI 的发展。
他呼吁国际领先的 AI 公司应该展开合作,并要求政府强化对技术领先 AI 公司的监管。
现在,最懂 AI 的人们已经发出了严肃的警示,AI 又会把人类推向何方呢?