欧洲委员会制定首个人工智能协议，ChatGPT和生物识别监控等AI将受监管

原标题：欧洲委员会制定首个人工智能协议，ChatGPT和生物识别监控等AI将受监管

“中国生物救护与科学伦理”微信公众号小编注意到，2023年12月8日，欧洲达成了一项具有重大意义的协议，旨在规范人工智能（AI）的使用。路透社等多家媒体都进行了报道。

本文共计1700字，阅读约5分钟

这一协议的主要亮点包括政府在生物识别监视中使用AI的限制，以及对诸如ChatGPT等AI系统进行监管。欧洲委员会主席蒂埃里·布勒顿（Thierry Breton）在新闻发布会上表示称，这是历史性的一天，欧洲在全球AI标准制定方面定位自己为先驱。

摄影©绿会融媒·“中国生物救护与科学伦理”微信公众号

协议的要点主要有这样几个：

1. 基础模型透明度义务：协议要求基础模型如ChatGPT在上市前需遵守透明度义务，包括制定技术文档、遵守欧盟版权法以及传播有关培训内容的详细摘要。

2. 系统风险评估：高影响基础模型将进行模型评估、系统风险评估、对抗性测试，并向欧洲委员会报告严重事件，同时确保网络安全和能源效率报告。

3. 生物识别监控限制：政府只能在特定犯罪受害者、威胁预防和最严重犯罪嫌疑人搜寻的情况下，在公共场所使用实时生物识别监控。

4. 禁止行为操纵：协议禁止认知行为操纵、无目标地收集面部图像、社会评分以及用于推断个人信息的生物特征分类系统。

5. 罚款与权利保障：消费者有权提出投诉并获得有意义的解释，违规罚款范围从750万欧元（810万美元）或1.5%的营业额到3500万欧元或全球营业额的7%。

不过，据路透社等媒体的报道，对此有不同声音。比如，

数字欧洲（DigitalEurope）批评这一规定对公司而言是又一负担，加剧了最近法规带来的压力。而另外一些机构则对隐私权表示了担忧，比如欧洲数字权利组织（European Digital Rights）对法规表示批评，特别是对生物识别监视的态度较为冷淡。

未来展望

欧洲人工智能监管协议的达成，被认为是“标志着对这一新兴技术的监管迈出了重要的一步”。那么，如何在技术创新和社会合法关切之间找到平衡，就是全球各国正在共同努力解决的问题了。据报道，这一法规预计将在明年初生效，之后将有两年的过渡期。欧洲的这一举措可能成为其他国家政府制定AI监管政策的蓝本。报道显示，欧洲正在尝试通过此类监管实践，为全球AI治理提供一种新的参考标准。

【思考题】学而时习之

Q1: 欧洲新的AI法规强调基础模型透明度，那么接下来美国等人工智能产业大国会如何应对？未来全球AI产业制定的全球标准，其方向会是更为统一化、还是差异化？

Q2：生物识别监控在欧洲受到了明确的限制，这是否为解决人工智能伦理和隐私问题提供了新的思路和挑战？新的AI法规对企业在技术研发和全球市场竞争中的角色有何深远影响？

本文仅供资讯参考。不代表平台观点。

欢迎转发（请标注来源）。

文 | Wendy

审 | 绿茵

排版 | LYJ