里程碑式《人工智能法案》问世几无悬念
作 者丨吴斌
编 辑丨李莹亮
图 源丨图虫
在人工智能“野蛮生长”之际，欧洲议会通过了首个全面监管人工智能的法规。
当地时间3月13日，欧洲议会以523票赞成、46票反对、49票弃权通过了具有里程碑意义的《人工智能法案》（以下简称《法案》），在AI技术的监管上走在了世界前列。接下来《法案》还需要得到欧盟理事会的正式批准，但最艰难的立法阶段已经过去，距离最终出台仅一步之遥。
《法案》旨在解决人工智能技术快速发展带来的偏见、隐私等风险。例如，《法案》将禁止在工作场所和学校使用人工智能检测情绪，并限制人工智能在高风险情况下的使用，如分拣求职申请，还将首次限制ChatGPT等备受关注的生成式人工智能工具。
虽然《法案》只适用于欧盟，但预计会在全球产生影响，大型AI公司不太可能愿意放弃进入拥有约4.48亿人口的欧盟，其他司法管辖区也可能将《法案》作为AI法规的参考范本，从而产生连锁反应。
《法案》晚些时候问世已几无悬念，这一里程碑事件影响几何？
欧盟引领“强监管模式”
目前欧洲已在人工智能技术上落后美国和中国，但在监管上则再度走在前列。
这项史无前例的《法案》将禁止某些“威胁公民权利”的AI应用，包括基于敏感特征的生物识别分类系统，禁止从互联网或闭路电视录像中无目标地抓取面部图像来创建面部识别数据库。不过，生物识别没有被完全禁止，在追踪严重犯罪者、预防恐怖主义等情境下可以有限使用。
对于备受关注的ChatGPT、Gemini等生成式人工智能，必须额外满足透明度要求，比如遵守现行的欧盟版权法，发布训练数据的详细摘要，操纵人类行为或利用人类弱点的AI也将被禁止。
3月14日，欧盟还启动了针对大型科技公司使用生成式人工智能的调查，加大了对这项技术的审查力度，官员们担心这项技术可能会扰乱选举，并对公共安全、隐私构成危险。这项调查主要针对Meta、微软、Snap和X等公司，在这些科技巨头越来越多地推出面向消费者的AI工具之际，重点关注他们计划如何管理相关的风险。
不过，这次调查更多是倾向于防控AI的风险，而不是为了打击或处罚这些公司。欧盟声称：“欧盟委员会要求这些科技公司提供更多信息，说明针对生成式AI相关的风险采取的应对措施，例如AI产生的幻觉、深度伪造的病毒式传播以及可能误导选民的自动操纵服务。”
此次调查涵盖了一系列更广泛的主题，包括平台如何解决生成式AI对用户隐私、知识产权、公民权利、儿童安全和心理健康等方面的影响。还有官员表示，他们特别担心在今年夏天欧洲议会选举前，生成式AI可能会引发混乱，在线平台必须在4月5日之前回复他们采取了哪些措施来防止AI传播错误选举信息。
为何率先祭出监管重拳？
在欧盟率先推出里程碑式《法案》背后，当然也有着自己的“小算盘”。
欧盟为何率先祭出AI监管重拳？中国社会科学院欧洲研究所欧盟法研究室主任叶斌对21世纪经济报道记者表示，欧洲对伦理、隐私保护等一向比较重视，也希望在人工智能监管领域制定规则，提升话语权。欧洲自己也承认在人工智能技术上落后于美国，《法案》也是欧洲保护自身市场的一种方式。
中国社会科学院欧洲研究所欧洲政治研究室副研究员贺之杲对21世纪经济报道记者分析称，欧盟是一个以倡导规则、规范为驱动力的行为体，并通过规则、规范来塑造国家间关系，影响国际社会。欧盟在数据保护、人工智能治理等领域走在世界前列，已经约束到了和欧盟打交道的一些国家，例如，苹果、亚马逊等美国巨头已经面临着欧洲的制约，罚款屡见不鲜，也印证了欧盟规则的影响力。《法案》大概率会使得欧盟进一步在大国竞争中找到“比较优势”的位置。
在人工智能发展方兴未艾之际，其实这份里程碑式《法案》并非“完美”，利弊皆有。一些公司担心《法案》走得太远会阻碍发展，但也有监管组织表示力度还不够。
去年谈判进入最后阶段时，法国和德国政府对一些最严格的生成式人工智能监管提议表示反对，称这些规定将损害法国Mistral AI和德国Aleph Alpha GmbH等欧洲初创公司。欧洲企业观察组织（CEO）等民间社会组织则认为力度还不够，CEO和德国研究机构LobbyControl等组织在一份声明中写道：“通用人工智能在很大程度上不受规则约束，只需要遵守一些透明度义务。”
在叶斌看来，不同利益群体的观点出现分歧并不意外。欧洲希望通过分级降低风险，AI系统被分为四大类：完全被禁止、高风险、有限风险、低风险，但一些消费者保护协会认为《法案》仍然做得不够，无法彻底防范人工智能的种种风险。
另一方面，叶斌表示，反对者则认为现有的定义太宽泛了，合规成本过高，对人工智能在应对气候变化等领域发挥作用产生了不利影响，企业希望能得到更多发展空间，根据不同的影响力进行相应监管。欧洲智库“数据创新中心”（Center for Data Innovation）预计，未来5年《法案》给欧洲经济的成本大概是310亿欧元，而且会降低约20%的AI投资。
人工智能监管需要更多探索
在欧洲议会通过《法案》后，官方给出了极高的评价。
欧盟内部市场专员蒂埃里·布雷顿（Thierry Breton）表示，《法案》获得了压倒性支持，这是世界上第一个全面、有约束力的可信赖AI框架，欧洲现在是值得信赖的AI标准制定者。
欧洲议会也表示，《法案》旨在保护基本权利、民主、法治和环境可持续性免受高风险AI的影响，同时促进创新，将欧洲“打造成为该领域的领导者”。
对于正在“野蛮生长”的人工智能，首个全面监管法规的积极影响需要肯定。美国科律律师事务所合伙人兼网络和数据主管Patrick Van Eecke认为，欧盟可能已经为世界其他地区的AI监管设定了基准，其他地区或将以此为蓝本，绘制自己的法律法规。
未来《法案》能否为世界如何治理人工智能定下基调？在叶斌看来，《法案》是人类有史以来第一部对人工智能进行监管的法律，具有里程碑意义。欧洲的《法案》代表了一种思路，可以在一定程度上借鉴，但不能彻底左右中国或者美国的思路，中美都有自己的监管方式，未来可能会出现“三足鼎立”的态势。
事实上，《法案》自身也并不成熟。叶斌分析称，整体而言，《法案》是一个“比较软”的法律，更多的是道德约束。虽然也有一些罚款机制，但缺乏明确的执行机制，更多还是靠行政机构的一些自由裁量，欧洲对人工智能的监管还处于摸索阶段，无法要求尽善尽美。
人工智能监管仍在探索阶段，可以预见的是，未来还有很长的路要走。贺之杲表示，近年来，人工智能发展迅猛，全球在人工智能治理上缺少共同认可的规则、规范，《法案》为全球应对人工智能风险提供了一些思路，但并不代表是全球通用规则，未来仍需要不断完善、丰富。人工智能全球治理需要兼顾发达国家、发展中国家、最不发达国家，不能让数字鸿沟越来越大，全球需要共同解决人工智能发展中的种种问题，欧盟也需要站在全球立场，与世界各国共同创建一个普遍都能接受的规则。
SFC
本期编辑 黎雨桐 实习生 赵凤铃