关于欧盟新的人工智能法案，你需要知道的五件事
欧盟的《人工智能法案》终于出炉了，距离该法案的首次提出已经过去了两年半之久。
最近，经过数月的游说和政治角力，再加上耗时近 40 个小时的艰苦最终谈判，欧盟立法者就《人工智能法案》达成协议。这将成为世界上第一部全面的人工智能法律。
《人工智能法案》被认为是一项具有里程碑意义的法案，旨在减轻人工智能在对基本权利构成最大风险的领域所造成的伤害，例如医疗保健、教育、边境监控和公共服务，并禁用那些会带来“不可接受的风险”的人工智能。
“高风险”人工智能系统必须遵守严格的规则，例如需要建立风险缓解系统、高质量的数据集、更好的文档和人工监督。不过，绝大多数人工智能应用，如推荐系统和垃圾邮件过滤器，都将不受限制。
《人工智能法案》是一件大事，它将为目前“野蛮生长”的一个极具影响力的行业引入重要的规则和执行机制。
（来源：STEPHANIE ARNETT/ MITTR | ENVATO）
以下是《麻省理工技术评论》总结的要点：
《人工智能法案》引入了关于透明度和道德的重要、有约束力的规则
科技公司喜欢谈论他们对人工智能伦理的承诺，但当涉及到具体措施时，谈话往往终结于此。
无论如何，行动胜于雄辩。在裁员期间，管理负责任人工智能的团队往往是第一批被裁的人。事实上，科技公司可以随时决定改变其人工智能道德政策。
例如，OpenAI 起初是一个“开放”的人工智能研究实验室，但后来关闭了公众对其研究结果的完全访问，以保护其竞争优势，就像其他所有人工智能初创公司一样。
《人工智能法案》将改变这一现状。该法规制定了具有法律约束力的规则，如果用户在与聊天机器人、生物识别分类或情绪识别系统互动，那么这些系统背后的科技公司必须告知用户。
该法案还要求科技公司标记深度伪造（deepfakes）和人工智能生成的内容，并以可以检测人工智能生成内容的方式设计系统。
这个程度已经超过了一些人工智能公司向美国白宫做出的自愿承诺，即简单地开发人工智能来源验证工具，如水印技术。
该法案还将要求所有提供保险和银行等基本服务的组织，对使用人工智能系统将如何影响人们的基本权利进行影响力评估。
人工智能公司仍有很大的回旋空间
2021 年，当《人工智能法案》的初稿首次出台时，人们的热情仍集中在元宇宙上（现在已经难想象了）。
现在，在后 ChatGPT 时代，立法者们觉得他们必须在监管中考虑所谓的基础模型，即可以用于许多不同目的的强大的人工智能模型。这引发了关于什么样的模型应该受到监管，以及监管是否会扼杀创新的激烈辩论。
《人工智能法案》将要求基础模型和在此基础上构建的人工智能系统构建更好的文档，遵守欧盟版权法，并分享更多关于模型训练数据的信息。
对于最强大的模型，还有额外的要求。例如，科技公司将不得不分享其人工智能模型的安全性和能效。
但问题是立法者发现了一个折衷方案，只对最强大的人工智能模型应用一套更严格的规则，按训练它们所需的计算能力进行分类。公司将自主评估自己是否受到更严格规定的约束。
一位欧盟委员会官员不愿证实目前的严格规定是否会囊括 OpenAI 的 GPT-4 或谷歌的 Gemini 等强大的模型，因为只有这些公司自己知道训练他们的模型花费了多少算力。
不过这位官员也表示，随着技术的发展，欧盟可能会改变衡量人工智能模型强大程度的方式。
欧盟将成为世界上“首屈一指”的人工智能监管方
《人工智能法案》将设立一个新的欧洲人工智能办公室，负责协调合规、实施和执法。它将是全球第一个对人工智能实施约束性规则的机构，欧盟希望这将有助于它成为世界上最受瞩目的技术监管机构。
《人工智能法案》的治理机制还包括一个由独立专家组成的科学小组，就人工智能带来的系统性风险以及如何对模型进行分类和测试提供指导。
对违规行为的罚款也很高：根据违法行为的严重程度和公司的规模，从公司全球销售额的 1.5% 到 7% 不等。
欧洲也将成为世界上首批地方，允许其公民对人工智能系统提出投诉，并获得关于人工智能系统如何得出影响他们的决定的解释。
通过成为第一个正式制定人工智能规则的地区，欧盟拥有先发优势。就像《通用数据保护条例》一样，《人工智能法案》可能会成为一项全球标准。
其他地方的公司如果想在这个世界第二大经济体开展业务，就必须遵守法律。欧盟的规则也比美国的规则（如白宫行政命令）更进一步，因为它们具有约束力。
国家安全优先
现在，欧盟完全禁止了一些人工智能技术的使用，比如使用敏感特征的生物识别分类系统；无针对性地从互联网或录像中抓取面部图像，以创建 Clearview AI 等面部识别数据库；工作或学校场景中的情绪识别；社会评分；操纵人类行为的人工智能系统；以及用来针对人们弱点的人工智能。
欧盟委员会的一位官员表示，预测性警务应用也被禁止了，除非它与“明确的人类评估和客观事实相结合”，也就是“不会因为算法这么说就简单地决定在刑事调查中追捕某个人”。
然而，《人工智能法案》不适用于专门为军事和国防用途开发的人工智能系统。
围绕《人工智能法案》最激烈的斗争之一，一直是如何监管警察在公共场所使用生物识别系统，许多人担心这可能会导致大规模监控。
尽管欧洲议会希望近乎全面地禁止这项技术，但法国等一些欧盟国家对此表示强烈抵制。他们想用它来打击犯罪和恐怖主义。
只有在获得法院批准的情况下，欧洲警察才能在公共场所使用生物识别系统，而且只能用于 16 种不同的特定犯罪，如恐怖主义、人口贩运、对儿童的性剥削和毒品贩运等等。
执法部门也可能在“与公共安全有关的特殊情况”下，使用未通过欧洲标准的高风险人工智能系统。
下一步是什么？
我们可能需要数周甚至数月的时间才能看到法案的最终版本。具体内容仍需经过技术上的修改，而且它在正式成为法律之前，还必须得到欧洲国家和欧盟议会的批准。
一旦该法案生效，科技公司有两年的时间来落实这些规定，对特定人工智能应用的禁令将在六个月后生效，开发基础模型的公司必须在一年内确保模型合法。
作者简介：梅丽莎·海基莱（Melissa Heikkilä）是《麻省理工科技评论》的资深记者，她着重报道人工智能及其如何改变我们的社会。此前，她曾在 POLITICO 撰写有关人工智能政策和政治的文章。她还曾在《经济学人》工作，并曾担任新闻主播。
支持：Ren