ChatGPT引发AI监管挑战：马斯克带头反对，意大利明确禁用，要发展还是安全？
出品 | 搜狐科技
作者 | 梁昌均
编辑 | 杨锦
从全球爆火到反对禁用，ChatGPT正在陷入人工智能发展史上最为激烈的安全争议。
最新动向是，意大利数据保护局宣布暂时禁使ChatGPT，成为全球开通ChatGPT服务中首个明确禁用的国家。随后，OpenAI立即关停了意大利当地的ChatGPT服务。
在此之前，ChatGPT已遭遇多方反对。先是特斯拉CEO埃隆·马斯克（Elon Musk）等千人科学家发表联名信，呼吁暂停训练比GPT-4更强大的AI系统。
后来又是美国非营利性科技伦理组织人工智能与数字政策中心（CAIDP）指控GPT-4 违反了消费者保护法，并要求美国联邦贸易委员会（FTC）展开调查，暂停其进商业化部署。
值得注意的是，ChatGPT近日开始大面积封号，尤其针对亚洲地区，或涉及百万用户。具体原因众说纷纭，有说法是针对批量注册和API调用，但也有分析称背后或有对滥用的担忧。
最大的恐惧源自未知，如今ChatGPT推动人工智能再次进入加速期，它会把人类社会带向何方还看不清楚，但对技术的监管已不可少。
“现在的问题不是对AI的伦理和风险问题没有讨论，而是在于如何根据国情落实AI治理措施。”长期关注科技与社会冲击问题的中国人民大学教授刘永谋对搜狐科技表示。
意大利出手“封杀”，多家企业禁用
意大利数据保护局认为，OpenAI没有告知就收集用户数据并用于算法训练的行为，缺乏法律依据。同时ChatGPT缺乏相应的年龄验证机制，未成年人很可能会看到超出其自身发展和认知水平的信息。
该机构将限制OpenAI处理意大利用户信息，并要求OpenAI在20天内通报为解决前述问题而采取的措施，否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。
对此OpenAI当天就在网站设置限制，阻止意大利用户访问ChatGPT，并表示正在积极努力减少在训练ChatGPT等人工智能系统时使用个人数据的情况。
据报道，ChatGPT两周前发生的用户信息泄露事件成为被禁用的导火索。由于开源库漏洞，ChatGPT部分在线用户姓名、邮件地址等信息可被其他用户看到，ChatGPT因此还被短暂下线。“这暴露出OpenAI在个人信息处理上存在问题。”意大利数据保护局称。
类似的信息泄露事件并不少见。三星电子此前被爆出引入ChatGPT不到20天出现3次滥用与误用事件，导致半导体设备测量数据、产品良率等机密内容被存入ChatGPT学习数据库。三星表示，如后面仍发生类似事故，将考虑禁止在内网使用ChatGPT。
为规避数据泄露风险，此前已有不少企业明确禁止员工使用ChatGPT，包括摩根大通、德意志银行、埃森哲、富士通、软银、高盛、花旗等公司。
意大利此次直接禁用ChatGPT再次凸显了人工智能数据保护问题的急迫性，今年2月，意大利就以类似理为由禁止聊天机器人Replika使用该国用户的个人数据。对于数据和个人隐私监管严格的欧盟来说，意大利的做法不排除后续有其他国家效仿。
德国联邦数据保护专员发言人就在昨日表示，出于数据保护方面的考虑，原则上有可能暂时禁止在德国使用ChatGPT。该发言人称，禁止使用该软件的动作将属于德国联邦数据保护机构的职权范围，该机构还要求意大利监管机构提供有关其阻止ChatGPT的更多信息。
马斯克同盟新增超4000人，引发AI大论战
在遭意大利禁用之前，ChatGPT已在教育界和学术界被“封杀”，并在近期出现反对高潮。
先是秉持AI威胁论的马斯克，以及苹果联合创始人沃兹尼亚克，深度学习三巨头之一Yoshua Bengio等上千名科技人士发布联名信，呼吁立即暂停训练比GPT-4更强大的AI系统至少6个月，否则政府应该介入并实施停止令。
随后，CAIDP又指控GPT-4存在偏见和欺骗性，对隐私和公共安全构成了风险，违反了FTC 法案第5条，该法案禁止不公平和欺骗性的商业行为。该机构主席马克·罗滕伯格（Marc Rotenberg）也是前述联名信的其中一员。
CAIDP认为，GPT-4跨越了伤害消费者的红线，FTC有责任调查和禁止不公平和欺骗性的贸易行为，OpenAI应当在遵守有关AI指导方针前暂停GPT-4的商业化部署。
这些反对的声音尤其是马斯克的联名信在科技圈持续震荡，而似乎站到马斯克战线上的人越来越多。截至发稿，联名信签名人数已达到5500人，一周内新增超4000人。官网称目前已收集超5万个签名，但需要进行审查，名单更新放缓。
但这封信也引发了很多人的反对。深度学习三巨头之一的Yann LeCun虽然不看好ChatGPT，但明确反对这封信的内容。机器学习领域创始人之一、美国人工智能协会前主席Thomas Dietterich则称这封信充斥着可怕的修辞和无效的政策建议。
另一AI大牛、斯坦福大学教授吴恩达则发文称，暂停AI研究六个月是糟糕的想法，不是实用的建议，让政府暂停其不了解的新兴技术则是反竞争的。
在国内，几乎没有公开赞同马斯克建议的人。360创始人周鸿祎认为，人工智能的发展不以任何人的意志而转移，现在担心大语言模型的风险为时尚早，不发展就是最大的不安全。
刘永谋认为，警惕AI发展，防止AI失控，正在成为全球范围内科技领域的“政治正确”，暂停ChatGPT研发的想法简单粗暴，作用不大，也实现不了，纯属无效的“嘴炮”。
至于马斯克为何这么做，周鸿祎猜测可能是GPT的进化路上出现了超乎人类想象的现象。这背后或也有利益之争——作为OpenAI发起人之一，马斯克退出后曾多次指责这家公司和ChatGPT，并计划开发替代品，而他在这场竞赛中已经落后。
AI立法监管尚处空白，如何兼顾发展？
尽管遭到不少反对，但“马斯克们”的担忧仍值得关注。ChatGPT已暴露出一些现实风险，甚至有人开始利用它来牟利犯罪。这意味着，对AI发展的监管必不可少，而关键的问题是如何监管。
“我们应该审慎地发展新科技，对新技术既要运用，又要控制，保证技术不能失控，但这并不代表要禁用新技术。”刘永谋对搜狐科技表示。
ChatGPT可以称为颠覆性技术，对社会生产力的推动作用已经昭然若揭，但也会导致失业，对应试教育和价值观造成冲击，产生版权纠纷等问题。“现在外界可能有些高估，应该客观准确、审慎辩证地去看待它带来的影响。”刘永谋表示。
吴恩达也提到，人工智能有风险，负责任的人工智能是重要的，需要平衡人工智能正在创造的巨大价值与现实的风险。“为促进人工智能的安全，围绕透明度和审计的法规将更加实用，同时也对安全进行更多投资，而不是扼杀进步。”
目前，全球对AI的监管基本走得是政府主导、各方参与的模式，但对AI的立法监管尚处于空白状态。
刘永谋提到，目前全球对AI的监管存在差别，美国相对宽松，相比之下欧盟比较严格，中国则介于两者之间，属于比较持中的态度。
近年来，美国在人工智能监管上迟迟未有大的立法动作，对马斯克等制定相关法规的呼吁保持沉默，一些议员所提的立法建议也都无疾而终，更多是一些不具备约束性的框架。
对比之下，欧盟的监管态度更为积极，早在2021年就提出《人工智能法》（Artificial Intelligence Act）草案，但尚未通过。去年12月获批的新版本草案，预计最早于今年4月开始的三方谈判中敲定细节。
欧盟委员会执行副主席玛格丽特・维斯塔格（Margrethe Vestager）表示，正在讨论欧盟人工智能法案的委员会可能不倾向于禁止人工智能技术，但需要对其使用进行规制。
中国则对人工智能发展过程中的突出问题作出专门的行政规定，如发布《互联网信息服务算法推荐管理规定》《互联网信息服务算法推荐管理规定》等，尚未对从更高的立法层面作出系统性的法律规定。
很长一段时间以来，技术发展与安全治理之间似乎总是存在矛盾。一个明显的现象是，欧盟在AI时代被边缘化，固然受到市场和产业基础等因素影响，但也与其严格监管有一定关系。
刘永谋认为，技术发展和监管之间并不存在矛盾。新技术想要好的发展，就要避免和主流的价值观、生活方式、制度设计等相冲突，技术监管恰恰是要解决这样的问题。“如果能够很好地去解决，让新技术和主流社会不相矛盾，这其实还有利于新技术本身的发展。”
如何实现发展与治理的平衡是AI监管时代的难题，这对企业也是持续挑战。刘永谋表示，作为最重要的利益相关者之一和技术发展战略的落实者，企业要深刻意识到AI伦理问题的重要性，要把利润和社会福祉结合起来，同时也要自律，推动公众更好地理解和接受新科技。