方升研究|是否应该监管ChatGPT？
当地时间5月16日，美国国会参议院举行一场名为“AI监管：人工智能的规则”的听证会。有“ChatGPT之父”之称的美国人工智能技术公司OpenAI首席执行官山姆·阿尔特曼首次出席美国国会听证会。
出乎一些美国议员的意料，阿尔特曼呼吁立法者监管ChatGPT等人工智能系统。“如果这项技术出问题，那将是很大的问题。”阿尔特曼提出了成立监管机构、引入许可证制度、建立一套安全标准等监管建议。
在监管人工智能问题上，美国两党仍有分歧。欧洲则在这一问题上走得更快，欧洲议会本月通过《人工智能法案》提案的谈判授权草案，草案提到，严格禁止“对人类安全造成不可接受风险的人工智能系统”，违反规定的公司可被处以4000万欧元的罚款，若该法案获批准，将是全球第一部人工智能监管法规。
Part.01 世界来到“印刷机时刻”
听证会在美国国会参议员布卢门撒尔播放的一段录音中拉开序幕。在录音中，“布卢门撒尔”谈论了以ChatGPT为代表的AI技术的风险。布卢门撒尔解释，这段录音并非其本人录制，而是由AI撰写文本，AI合成声音制作而成的假录音。
布卢门撒尔表示，如果说上述假录音的内容尚可接受，那么设想人工智能根据他的声音在其他更为敏感话题上制作出类似的假录音，“那真的会很可怕。”
自去年以来，多款人工智能软件问世，这些软件可以聊天、作画、解题，展现出广阔的应用前景。据美国有线电视新闻网（CNN）报道，科技行业展开了一场关于人工智能的“军备竞赛”，最近几个月，科技公司密集地推出新的人工智能软件。这些人工智能软件引发了担忧，学校担心学生用人工智能作弊，政府担心人工智能被用于诈骗和制造虚假信息，大众担心人工智能代替人类工作等。
阿尔特曼称，人工智能技术可能让世界来到一个“印刷机时刻”，人工智能可能像历史上印刷机的问世一样广泛地改变人类社会，“如果这项技术出问题，那将是很大的问题。”
阿尔特曼记录了ChatGPT等技术呈现的“危险”行为，包括“在一对一互动中传播虚假信息”和“情绪操纵”等。阿尔特曼还承认，人工智能可被用于控制无人机袭击。
阿尔特曼说，他目前最担心的领域是人工智能可以被用于制造虚假信息并操纵选举，“我们明年将迎来选举，而届时人工智能将变得更强大。”
“政府监管、干预对于降低人工智能工具所带来的风险至关重要。”阿尔特曼主要提出成立监管机构、引入许可证制度、建立一套安全标准等监管建议。
他称，政府可以成立一个专门的监管机构，向符合安全标准的人工智能公司发放许可证，如不符合相应安全标准，则吊销其许可证。
对于人工智能技术对人类工作机会的影响，阿尔特曼表示，政府需与企业合作决定如何控制人工智能技术对就业机会的影响。“这项技术将对就业市场产生重大影响，但另一方面会有更多的就业机会。”
他说，“我认为将GPT视为一种工具很重要……GPT-4 和类似的工具擅长完成任务，而不是工作。GPT-4将使一些工作自动化，并创造更好的新工作。”
在今年早些时候的采访中，阿尔特曼将自己描述为一个关注人工智能带来的风险，甚至对这项技术“有点害怕”的人。
美国企业家马斯克和其他学者、科技业内人士发表联名信呼吁停止训练巨型人工智能实验至少6个月，让人类社会有时间可以评估人工智能的风险并做出相应调整。
阿尔特曼此前表示，他同意这封信的部分内容，但不认为暂停开发人工智能是解决问题的办法。在听证会上，阿尔特曼重申他的公司将继续开发人工智能。
Part.02 立法者希望不重蹈社交媒体监管的错误
当天的听证会在美国国会参议院司法委员会下属的隐私、技术和法律委员会举行。美国国会近年热衷于举行针对科技行业的听证会，社交网站“脸书”创始人扎克伯格、TikTok首席执行官周受资都受过美国国会议员的盘问。
据《华盛顿邮报》报道，与对待扎克伯格和周受资相比，美国两党议员对阿尔特曼的态度相对热情，议员表达了广泛的意愿来考虑阿尔特曼的提议。
报道称，这表明阿尔特曼最近的“魅力攻势”取得了效果。近日，阿尔特曼与美国国会众议院议长麦卡锡、众议院少数党领袖哈基姆·杰弗里斯会面，还邀请了60多名两党议员参加晚宴。
另外，尽管阿尔特曼表态支持对人工智能的监管，但在听证会上被问及一些有关监管的具体问题时，他选择了回避。
有议员建议提高人工智能训练数据的透明度，阿尔特曼对此避而不谈。OpenAI公司一直对其用于训练人工智能的数据保密，有业内人士称应该将数据开源以供监管人员审查。
阿尔特曼还回避了涉及艺术家作品版权的提问。当被问及OpenAI公司是否会在其聊天机器人中投放广告时，阿尔特曼给出了一个含糊的回答，“我不会说永远不会。”
《华盛顿邮报》称，美国的立法者希望在人工智能监管问题上不重复在社交媒体监管上犯下的错误。
此前，美国国会对科技行业采取相对不干涉的态度。然而，“脸书”平台被指在2016年泄露了8700万用户数据，这些数据被政治咨询公司“剑桥分析”用于影响2016年美国大选。此事以“脸书”公司向美国联邦贸易委员会支付50亿美元和解金告终。批评人士指出美国政府在监管社交媒体上存在失职。
Part.03 欧洲人工智能监管立法先行一步
美国两党虽然一致同意人工智能需要被监管，但议员们并未就如何监管达成共识。尤其在如何建立一个监管人工智能的新机构问题上，两党存在分歧。
曾有美国国会议员提议建立一个监督硅谷大公司的新机构，但提案没有获得国会通过。
2022年5月，参议员迈克尔·贝内特提出数字平台委员会法案，该法案旨在建立一个新的机构，该机构将有权审查数字平台的算法，并制定规则以确保大公司的透明度。但国会的反对声音担忧该法案将过度延伸政府的权力，该法案最终未获通过。
CNN称，共和党人通常对扩大政府权力持谨慎态度。共和党参议员乔希·霍利担忧，就算成立一个新的监管机构，这个机构也可能会“被监管对象的利益所俘虏”。
在监管人工智能的立法上，欧洲比美国先行一步。
欧洲议会两个委员会于5月11日通过了《人工智能法案》提案的谈判授权草案。
草案称，严格禁止“对人类安全造成不可接受风险的人工智能系统”，包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。违反规定的公司最高可被处以4000万欧元或其全球年营业额7%的罚款。
在监管机构方面，草案称，每个欧盟成员国都将设立一个监督机构，确保这些规则得到遵守。
这一草案将于6月中旬提交欧洲议会全会表决。之后欧洲议会将与欧盟理事会就法律的最终形式进行谈判。欧洲议会的声明说，一旦获得批准，这将成为全世界首部有关人工智能的法规。
