欧洲发布全球首部人工智能领域的全面监管法规
据新华社9日消息，在历经马拉松式谈判后，欧洲议会、欧盟成员国和欧盟委员会三方8日晚就《人工智能法案》达成初步协议，该法案将成为全球首部人工智能领域的全面监管法规。
据悉，谈判经过36个小时，过程非常激烈，这是世界上首次尝试以全面的、基于伦理的方式监管这项快速发展的技术。
欧盟委员会内部市场专员蒂埃里·布雷顿（Thierry Breton）在社交平台“X”（原推特）发文证实欧盟成员国及欧洲议会议员已达成“历史性的”协议。布雷顿表示：“欧盟成为第一个为人工智能的使用制定明确规则的地区。《人工智能法案》不仅仅是一本规则手册，也将成为欧盟初创企业和研究人员引领全球人工智能竞赛的启动平台。”
根据该文件，被认为会构成“系统性风险”的模型将受到额外规则的约束。报道称，欧盟将根据训练模型的计算能力来确定是否存在风险，为模型设定的阈值是每秒超过 10 万亿次运算。有专家表示，目前唯一能达到这一门槛的模型是 OpenAI 的 GPT-4。
此外，欧盟执行机构还可根据数据集的规模、是否在欧盟拥有至少 10000 名注册商业用户、注册用户的最终数量等可能的指标来指定其他阈值。
报道还称，在欧盟委员会制定出更协调且长期有效的控制措施期间，这些“能力更强”的模型应该签署行为准则。这些模型还必须满足如下要求：
主动报告自身能耗情况；
在内部或外部进行红队测试 / 对抗性测试；
评估和减轻可能的系统性风险，并报告任何事件；
确保使用适当的网络安全控制措施；
报告用于微调模型的信息及其系统结构；
如果制定了更节能的标准，则开发过程中应当符合新的标准；
至于没有签署行为准则的模型，则必须向欧盟委员会证明它们确实会遵守《AI 法案》。需要注意的是，对开源模型的豁免不适用于那些“被认为会带来系统性风险”的模型。
根据欧洲议会发布的新闻稿，临时协议主要达成了三点共识：
第一，明确了被归类为高风险的人工智能系统的义务，且提出公民应该有权提出投诉，并有权获得有意义的解释；
第二，一致认为通用型人工智能系统和模型（General Purpose AI；GPAI）必须保持透明度，包括创建技术文档和“有关训练内容的详细摘要”。对于具有高风险的GPAI，必须满足包括风险评估、对抗性测试的一系列更加严格的标准；
第三，就在公共场所出于执法目的使用生物特征识别系统，达成了执法豁免的例外情况和保障措施。
新闻稿还透露了罚款框架。
罚款将根据违规行为和公司规模裁定，范围从 3500 万欧元或全球收入的 7% ，到 750万欧元或全球营业额的1.5%。完整协议目前并未公开，谈判还将在幕后完善技术细节。
该份《法案》是全球第一部对人工智能的全面监管法规，于2021年4月首次提出，今年6月获欧洲议会高票通过，进入欧洲议会、欧盟成员国、欧盟委员会的三方谈判环节。
从去年年底由OpenAI研发的ChatGPT引发的AI浪潮，其发展速度超出了所有人的预期，对各个行业的渗透性、扩散性和颠覆性与日俱增，特别是以预训练大模型、AI for Science等为代表的新兴技术正在引发新一轮 AI 创新热潮。伴随大模型带来的生成式 AI 突破，科技、经济、社会等领域也有望迎来深刻变革。
这种颠覆性主要体现在，大模型的技术迅速迭代，打破了原有AI技术发展的上限，呈现出数据巨量化、模型通用化、应用模式中心化等特点，以“无限生产”的能力重塑企业生产引擎，推动生产效率颠覆式提升。从全球范围看，世界各地均在积极推动大模型研发和应用。
但与此同时，关于AI监管的问题讨论也一直在持续。
当前，生成式AI的快速发展与相关法律法规、标准体系和伦理规范的建立存在矛盾。隐私与数据保护风险、著作权侵权风险、深度伪造风险、失业加剧风险，以及歧视与偏见风险等问题正在不断暴露。
随着问题的凸显，各国也把对于AI的监管提上日程。斯坦福大学发布的《2023年人工智能指数报告》中提到，对127个国家的立法记录调研的结果显示，包含“人工智能”的法案被通过成为法律的数量，从2016年的仅1个增长到2022年的37个。该报告对自2016年以来81个国家的人工智能法律法规记录的分析也同样表明，全球立法程序中提及人工智能的次数增加了近6.5倍。
此前，欧盟方面一直希望推动《人工智能法案》尽早出台。
• 2019年以来，欧盟一直布局人工智能监管领域，先后发布人工智能伦理准则并出台《人工智能白皮书》。
• 2021年4月，欧盟委员会提出《人工智能法案》提案的谈判授权草案。此后，欧洲议会和欧盟理事会就草案进行了多轮修订和讨论。
• 2023年6月，欧洲议会以499票赞成、28票反对和93票弃权，高票通过了《人工智能法案》谈判授权草案，推动了该法案进入立法程序的最后阶段，即举行欧洲议会、欧盟成员国和欧盟委员会的“三方谈判”，以确定法案的最终条款。
本周，三方为此展开了马拉松式的闭门谈判，其中一次谈判持续了22个小时，第二轮谈判于12月8日上午开始。