AI人工智能技术将被叫停？是刻意的阻碍还是理性的思考？

上月底，一封名为《暂停大型人工智能研究》的公开信引发了科技圈的轩然大波 。这封公开信呼吁，所有人工智能实验室应立即暂停训练比 GPT-4 更强大的 AI 系统 ，而且暂停时间至少需要 6 个月。

近日，生命未来研究所（Future of Life Institute）公布一封公开信，目前已有1079人签署。

签名者包括特斯拉和推特的CEO马斯克、苹果联合创始人史蒂夫·沃兹尼亚克 、《人类简史》的作者尤瓦尔·赫拉利、图灵奖得主约书亚·本吉奥等1000多位来自政界、商业界和学界的重要人物。

发布这封公开信的契机是什么？你认为当下的人工智能研发需要放缓脚步吗？近期狂飙的AI技术将会带来哪些社会变革？一起来聊聊吧。

01 指数爆炸式增长的AI模型

3月8号，微软以百亿美金收购Open AI后，马不停蹄地发表论文预告了Visual ChatGPT，聊天时不光可以用文字，还能图文并用，甚至根据指示生成图片。

3月9号，微软德国CTO（即：首席技术官）公布了即将到来的GPT-4的信息，从单一语言模型进化了多模态模型，提供完全不同的可能性——如视频。

同一天，另一家AI公司GigaGAN突然宣布，他们训练了一个10亿参数的模型，效果和速度完全不逊色于Stable Diffusion、DELL-E这些模式。

3月13号，斯坦福大学用LLaMa公开了一个叫7Billion的模型，训练了一个Alpaca的模型，表现极好。

第二天，Open AI加班加点发表了最新GPT-4的论文，多模态和图片输入功能如期而至。Google立马跟进，同一天公布了PaLM模型API的入口，并且提到要把这个模型集成到旗下的Workspace中使用。

PaLM API是一个新的开发者产品，可以轻松安全地试验Google的大型语言模型。

3月15号，国内备受瞩目的AI绘图工具Midourney迭代出了第五代模型。以前被诟病的AI无法精细化手指的细节，经过这次更新得到了重大升级，对于手部细节的重现堪称极致。

绘画AI工具Midourne生成的图片，手部细节的生成得到了极大优化。

这场AI的激情战场还远没结束。

3月16号，微软公布了结合GPT的Copilot，自身地表最强生产力工具，包含各类自动化书写工作、做表格、做PPT、出项目报告、工作总结。

打工人只用「说人话」，工具就能帮忙处理绝大部分任务。

编程必备 VSCode+Github Copilot，代码人的福音。

对于国内的民众而言，ChatGPT是声名最盛的产品，暗流之下，更多的技术竞赛早已开始。竞赛里的公司就像是饥饿游戏里的玩家，没人敢掉队。公司之间的角逐，导致这场人工智能潮远超控制范围。

3月24号，微软再次放出了一篇154页的论文，表示像人类一样去思考，像人类一样去做事的人工智能AGI已经开始萌芽。

这一切的隐忧源于AI语言模型的训练模式，开发人员把海量的数据喂给模型，然而开发者无法掌控程序内部发生的变化，也就是程序里经常说的黑盒。有研究报告表明，AI在短时间的迭代过程中产生了人类没有预见的进化模型。

AI如此迅猛且不受控制的发展趋势引起了小部分的慌乱，因此有了上文提到的联名信事件的发生。

公开信里引用了一篇AI风险分析的论文，论文罗列了8个AI-X危险推测和失败模式，其中包括AI武器化、人类衰弱、认知侵蚀、欺骗等等。

比如其中有一条叫做Power-seeking Behavior权力争夺，直白讲述了AI对人类的潜在威胁。

这封信呼吁，所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的，并且包括所有关键参与者。

如果不能迅速实施这种暂停，政府应介入并实行暂停。

02 生成式AI工具纳入监管

增速过快的AI智能，确实迅速引起各国政府的注意。中美计划将AI纳入监管，已经着手向公众征求AI监管意见。

国家互联网信息办公室网站4月11日消息，为促进生成式人工智能技术健康发展和规范应用，根据《中华人民共和国网络安全法》等法律法规，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》，现向社会公开征求意见。

意见指出，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。

同时明确了利用生成式人工智能生成的内容应当体现社会主义核心价值观。利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

提供者应当采取适当措施防范用户过分依赖或沉迷生成内容。

用生成式人工智能产品向公众提供服务前，应当向国家网信部门申报安全评估。提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。

03AIGC的发展何去何从

不知道是幸运还是不幸，很显然，AI的发展并没有停止，甚至有持续加速的倾向。

马斯克等人联合数千位计算机科学家，用公开信请愿，暂停一切大型AI实验半年以上。这六个月的时间是用来做一份监督和规范AI发展的协议，避免AI的发展走向极端，超出人类的控制。

很显然并没有太多起效。

包括马斯克本人也被爆正组建AI团队，已经从谷歌旗下AI部分「挖走」两名工程师，计划正面交锋。

英国《金融时报》报道，马斯克正在组建人工智能初创公司，为了与ChatGPT的研发公司OpenAI展开竞争。

根据美国内华达州的商业文档，马斯克于3月9日成立了一家名为X.AI的公司，并将自己列为公司唯一的董事。马斯克在推特内部启动了一项人工智能项目，不仅为此购买了约1万个GPU（图形处理器），还计划组建由人工智能研究者和工程师构成的团队。

国内各大公司也在快速跟进。

无论我们愿不愿意接受，AI的时代已经到来，以我们想象不到的速度快速渗透进我们的生活和工作。

这是一块足够大的蛋糕，当Open AI决定商业化，瞬间就变成百亿估值的公司，投资它的微软一夜翻身力压谷歌。其他的年轻AI公司也能陆续成功融资，巨大的利益驱动让他们无法停下脚步。

同样，AI的发展也是国家之间的科技竞争，谁抢得了先机和市场，谁就越有话语权，甚至改变一个国家的走向。

这是一场难以抵挡的AI浪潮，就像开启的潘多拉魔盒，即使明面上暂缓，私底下有关AI的研发早已无法停止。

中影华龙教育

中影华龙数字艺术实训基地创办于2006年，前身是中影集团国家中影数字制作基地唯一的人才培训基地，作为中国影视行业的人才储备与培养中心，为中国影视行业培养了超过10万人的影视专业高端人才。