直指GPT-4！马斯克等千名“大佬”签署公开信，叫停AI训练

中新经纬3月29日电 当地时间28日，未来生命研究所(Future of Life Institute)网站披露了一封公开信，呼吁所有AI实验室立即暂停比GPT-4更强大的AI系统训练至少6个月。

生命未来研究所是在2014年创立于美国波士顿的研究机构，目的一方面是为了促进对“未来乐观图景”的研究，一方面是为了“降低人类面临的现存风险”。2017年制定了Asilomar AI原则，这是被公认最早和最有影响力的AI治理原则之一。

公开信显示，顶级实验室的深入研究表明，具有与人类能力相匹配的AI系统可能对未来社会和人文道德构成风险。正如广泛认可的Asilomar AI原则中所述，高级AI可能造成地球生命史上的深刻变化，应以相应的资源等进行规划和管理。不幸的是，为了开发和部署更强大的数字思维，最近几个月AI实验室陷入了一场失控的竞赛，但相应级别的规划和管理目前还没有。

来源：未来生命研究所网站

公开信指出，当代人工智能系统在一般任务上已变得与人类具有竞争力，必须扪心自问：我们是否需要让机器宣传充斥着信息渠道？我们是否要自动化所有工作？是否最终发展成可能超过我们并取代我们的非人类思维？应该冒险失去对我们文明的控制吗？

“只有确信它们的影响是积极并且风险可控时，才应该开发更强大的人工智能系统。”公开信呼吁，所有AI实验室立即暂停比GPT-4更强大的AI系统训练至少6个月。如果不能迅速实施暂停，政府应该介入。

公开信称，AI实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级AI设计和开发的共享安全协议，并由独立外部专家进行严格审计和监督。

网站页面显示，此封公开信已获得包括苹果联合创始人斯蒂夫·沃兹尼亚克、特斯拉首席执行官埃隆·马斯克等在内的上千位知名企业家、学者签名。

来源：未来生命研究所网站

据路透社此前报道，当地时间周一，欧洲刑警组织也表达了对ChatGPT等先进人工智能有关道德和法律的担忧，警告该系统在网络钓鱼、虚假信息和网络犯罪中可能被滥用。(中新经纬APP)