暂停巨型AI实验，“反AI同盟”正在集结？

原标题：暂停巨型AI实验，“反AI同盟”正在集结？

3月底，著名的安全机构——未来生命研究所（Future of Life Institute）公布了一封题为“暂停巨型AI实验”的公开信。

呼吁所有AI实验室立即暂停训练比ChatGPT-4更强大的AI系统，暂停时间至少6个月，并利用这六个月时间制定更健全的AI安全协议。 特斯拉CEO埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克等上千名科技届知名人物和AI专家已经签署公开信。

之前编辑部借助GPT-4+Midjourney，完成了一个非常炸裂的选题：《花费438元，就能成为汽车插画师？》，感兴趣的可以点击标题跳转阅读。

简单来说，就是让GPT-4扮演成Midjourney的专家，用自己习惯的描述方式描述画面，让GPT-4帮助完成翻译、转译，并最终在Midjourney平台制作出插画。

然而对于GPT-4来说，我们只是做了一件非常微小的事情。广大网友已经可以用GPT-4，完成写文案、写代码、写剧本、辩证分析问题等等，甚至还有询问如何制造炸弹，如何毁灭世界的危险问题。

马斯克在首次体验ChatGPT时也惊呼：“好得吓人”，并断言“我们离强大到危险的人工智能不远了”。

于是“反AI同盟”正式成立，意大利最先做出反馈。近日，意大利数据保护机构对OpenAI公司非法收集用户信息展开调查。意大利个人数据保护局宣布，即日起禁止使用聊天机器人ChatGPT，并限制开发这一平台的美国人工智能公司OpenAI处理意大利用户信息。此举，也让意大利成为首个禁用ChatGPT的国家。

除了意大利外，德国联邦数据保护专员也于本周一表示：“出于数据保护方面的考虑，暂时禁止在德国使用ChatGPT原则上是可能的。”

该发言人称，禁止使用该软件的动作将属于德国联邦数据保护机构的职权范围。此外，该机构要求意大利监管机构提供有关其阻止ChatGPT的更多信息。

值得一提的是，不少科技巨头也对AI技术的狂飙较为警惕。据多家韩媒3月31日报道，三星电子内部发生3起ChatGPT滥用与误用事件。

公司员工将半导体设备测量数据库、产品良率等内容输入ChatGPT中，还有员工要求ChatGPT制作会议记录，这些内容或已存入ChatGPT学习数据库，从而导致公司企业机密可能外流。微软和亚马逊此前已禁止员工向ChatGPT分享敏感数据，以防公司机密信息泄露。

我觉得现在为何众多车企追捧ChatGPT技术，是因为在数据推衍和底层逻辑上，ChatGPT和智能汽车有很大的相通之处。

除了车内语音控制等交互外，在智能驾驶方面，ChatGPT可以用来分析大量的驾驶日志数据，以找出驾驶员在特定情境下的行为规律，并用这些信息来训练自动驾驶控制系统，从而提高它们在复杂情境下的决策能力。但如果ChatGPT“叛变了”，那我们的安全不就被掌握在了它的手中，后果不敢想象。

不仅是ChatGPT，对于拥有同样属性的AI，都应引起重视。根据比利时《自由报》报道，一名比利时男子在与AI聊天6周后自杀身亡。其妻子称，丈夫是被一个名为“艾丽莎（ELIZA）”的智能聊天机器人诱导走向死亡的。

根据妻子的描述，两年前丈夫变得非常焦虑，于是将“艾丽莎”当成了避难所。近6周以来，他越发沉迷于和“艾丽莎”互动，而将现实中的妻儿抛在脑后。6周后，他结束了自己的生命。

其实人类对于AI的担忧，早在《终结者》、《生化危机》、《我，机器人》、《流浪地球》等多部电影中就有展现。在《终结者1》中，三十亿人口失去了性命，他们都死于天网制造的核爆炸，而那场战争的幸存者称这一天为“审判日”。

至此，人类与机器人拉开了旷日持久的战争，天网本是人类制造的自动防卫系统，可是它后来觉醒自主意识，认为人类是破坏地球的害虫，于是启动核弹，将人类统统铲除。然而有一部分幸运的人类，躲过了那场有预谋的核打击，他们之中有一部分人被抓入了集中营，一部分人建立了反抗军，一直与天网做着对抗。

《流浪地球》中的MOSS也是一样的，MOSS指的是“550W”超级量子计算机。而它正是2044年太空电梯危机、2058年月球坠落危机、2075年木星引力危机、2078年太阳氦闪危机的罪魁祸首。MOSS在面对木星引力危机时，选择放弃人类、放弃地球，启动“火种”计划。

整体来说，自ChatGPT横空出世以来，人工智能行业像开挂一样，迎来迅猛发展的大趋势。微软谷歌等硅谷大厂，还有国内科技巨头的战争，也已经进入了白热化阶段。

但在兴奋的同时，“反AI同盟”的呼声越发高涨，很多人对其引发的风险感到担忧。我们确实需要一个更健全的AI安全协议，以及一个终极按钮，在AI黑化时可以将其一键关闭。那么对于AI，你怎么看？欢迎留言讨论！

参考资料：

1、每日经济新闻

2、澎湃新闻

3、中国经营报