呼吁叫停AI研发是杞人忧天吗？
鲍南
在聊天应用ChatGPT让世界见识到人工智能模型GPT-4的强大潜力后，有关AI失控的担忧也在增加。近日，包括马斯克在内上千位科技行业大佬签署了一封联名信，公开呼吁所有人工智能实验室应立即暂停比GPT-4更强大的人工智能系统训练，以等待人类“确信AI大模型的影响是积极的并且风险是可控的”。
是切实警示还是莫名恐慌？这封信迅速引发巨大争议。有消息指出，所谓上千名科技大佬署名实则含有“水分”，许多人并不知道自己参与了这封联名信的发布。同时，领头人马斯克的动机被认为并不单纯。而且这封信对于AI潜在威胁所提出的解决方案并没有可行性，更像是一场“行为艺术”。但客观来看，尽管联名信本身可能存在这样那样的问题，其所提示的种种担忧，确实对AI研发狂飙敲响了警钟。
眼下，GPT-4模型的内涵与外延正在溢出越来越多风险。一方面，由于涉及上千亿参数与复杂的算法结构，即便OpenAI公司作为GPT-4模型的缔造者，也已经搞不清楚其回答的一些内容和背后推理能力是如何生成的。这种不可预测性令人工智能成了“黑箱”，很有可能在某一天“演化”出不可控的能力。另一方面，目前ChatGPT等生成式AI，普遍存在容易提供虚假诈骗信息、个人数据与商业秘密泄露、语料库与生成文本的侵权等问题，不仅有法律漏洞，更可能成为垃圾内容生成器。种种问题复杂交错，有些可能流毒深远，用观察人士的话说，如今GPT-4等更高级通用AI面临的处境不是“是否包容”，而是“是否包庇”。
进一步看，即便是先进的人工智能可以成为像蒸汽机、电动机和计算机那样纯粹的生产力工具，其生产效率的骤然提升也可能对人类既有发展模式造成冲击。有机构指出，假设生成式AI实现了各企业承诺的能力，可能将有3亿个工作岗位被取代。不同于第一、二次工业革命，机器在替代体力劳动的同时创造了更高收入的脑力劳动岗位，信息革命、AI革命则是机器开始替代人的脑力乃至智力，这将消灭大量“金领”“白领”职业，使劳动者收入差距愈发拉大，加剧人类社会的不平等。与此同时，互联网信息虽然浩如烟海，但相较于人类社会的知识总量仍不过是沧海一粟。AI训练的数据全部来自于互联网，当人们越来越相信AI生成的内容，无形之中就产生了一种文化“霸权”，即不被网络收录的内容是不重要的，这显然是对文明多样性的重大威胁。
联名信的结尾写道，“给整体社会一个适应，保持准备状态，才能可以享受漫长的人工智能夏天，而不是匆忙进入秋天。”汽车畅行马路五十年后，安全带才被发明出来；DDT面世近百年后，人类才怀疑其有害环境……回顾科技发展史，对于一种前所未见的新科技，可能永远不会有“准备好”的一天，但能够提出问题，解决问题便有了起点。如何让人工智能发展对人类社会更有益，值得每个人深思。
