马斯克等千人联名呼吁，暂停开发高级AI，能否成型？| 凤凰观察
马斯克等千人联名呼吁，暂停开发高级AI，能否成型？| 凤凰观察
29日，特斯拉首席执行官马斯克同人工智能专家与行业高管发表联名公开信，呼吁暂停开发比GPT-4更强大的人工智能系统至少6个月，称其“对社会和人类构成潜在风险”。信中写道，近期各人工智能实验室陷入了失控的研发竞争，如果不能立即暂停，呼吁政府可以介入。只有在确认现阶段人工智能的效果积极，且风险可控的情况下，才应继续开发更强大的人工智能系统。
马斯克等千人呼吁暂停人工智能训练，以应对潜在风险
1000多名人工智能领域专家与行业高管在公开信中呼吁，暂停训练比现阶段GPT-4更强大的人工智能系统。联名签署人还包括人工智能先驱本吉奥、美国前总统候选人杨安泽等。
信中写道， 具有与人类竞争智能的人工智能系统，可能对社会和人类构成重大风险。人类必须问自己，是否应该把所有工作都自动化，包括那些让人们有满足感的工作，又是否应该开发非人类大脑，而它可能比人类聪明、甚或最终会淘汰并取代人类。
公开信指， 近期各人工智能实验室争相研发更强大的数字思维，然而 没有人能准确预测或控制进一步研发的后果。他们 主张暂停时长至少6个月，期间人工智能实验室与独立专家可共同开发一套用于进阶人工智能研发的安全协议。
与此同时，希望研发者和政策制定者在治理和监管机构方面共同合作，推进人工智能治理系统开发进程。从而防止人工智能对人类社会的潜在风险， 应对人工智能可能对人类政治、经济，尤其是民主方面造成的巨大破坏。
同样签署联名信的纽约大学教授马库斯则在一篇博客文章表示，他 更担心“普通的人工智能”广泛被犯罪分子或恐怖分子利用。
欧洲刑警组织27日警告称，人工智能聊天机器人可能会在网络钓鱼、虚假信息宣传和网络犯罪中滥用。相关研发团队尚未对公开信有所回应。
凤凰观察：人工智能和人类的关系应是互补和合作
马斯克联同千名人工智能专家与行业高管呼吁暂停人工智能训练，对此业内有何观察？若继续训练比GPT-4更强大的AI系统，究竟会对人类与社会带来怎样的危机与风险？如何看待人工智能与人类的竞争？两者能够做到平衡发展吗？以下内容摘自 香港大学计算机系助理教授孔令鹏先生的分析和点评——
这样的担忧也 侧面反映出近期的人工智能，尤其是自然语言处理领域的快速发展，我们不太会去担心一个人工智障系统。
从去年12月以来，ChatGPT发布到现在短短三四个月的时间，我们其实看到特别多让人感到兴奋的技术进步以及运用， 马斯克等人的呼吁本身是有积极意义的，它能够提醒大家去更多地关注人工智能技术的发展。 但是呼吁立即停止这件事情，可能是经典的“囚徒困境”问题，最后或是不能成型。
而从大的方面来讲， AI的发展可能会对工作劳动所做的内容以及结构产生很大影响，也会对人类的伦理价值观念和看法产生潜在影响。
另外，还有老生常谈的， 即AI对于隐私以及个人数据安全的风险，这些是需要通过技术、通过立法、通过社会广泛参与，来寻求一个更好更负责任的解决办法。
我觉得 人工智能与人类应该是合作互补关系，而非竞争关系。现在的AI系统还是能够帮我们节省时间，能够帮我们在更短的时间去完成更多的事情，我们是能够从这些东西当中获益的，但我们 需要让AI系统去学习更多人类的价值观和道德观念，从而让它能够更好地为人类服务，这也是我们现在研究的重点问题之一。只有这样子才能够使这些AI系统最后和人类形成合作互补的关系，从而能够使整个社会最终受益。
来源：凤凰卫视资讯台
编辑：木木