高宇驰：高风险人工智能将受到欧盟法律的严格监管
欧盟驻香港及澳门办事处主任高宇驰
欧盟驻香港及澳门办事处主任高宇驰表示，我们需要建立对人工智能系统的信任。只有在我们相信可以减轻相关风险时，才能充分享受人工智能的社会和经济潜力。为此，我们提出的法律框架不是关注人工智能技术本身，而是关注人工智能的使用方式和用途。基于一个简单的逻辑：某种人工智能对我们的生活可能造成的风险越高，则对其监管就越严格。
高宇驰表示，我们将人工智能的用途分为四个不同的类别。在金字塔的底部，找到了绝大多数人工智能应用的途径，它们的风险极小或根本没有风险。在金字塔的中部，存在有些风险的人工智能应用。靠近金字塔顶部，我们发现高风险的人工智能用途。这是我们法律框架的主要关注点。之所以将这些用途视为高风险，是因为它们涉及到我们生活的重要方面。在金字塔的顶端，我们发现那些人工智能应用具有极其有限的使用空间，因为我们认为它们是不可接受的。
对于如何监管基础模型和生成式人工智能，高宇驰表示中国最近在这方面取得了很大进展，欧盟将寻求国际合作，建立一个确保可信和以人为中心的人工智能的全球治理体系，以确保公平竞争。
欧洲委员会主席已提议创建一个类似于IPCC的机构，为多边体系提供客观的科学建议。联合国秘书长古特雷斯已经启动了在年底前采纳全球人工智能治理提案的过程。欧洲公司对这一领域存在的机遇非常感兴趣，包括大湾区在内，因为以人为本的人工智能发展可以带来令人兴奋的机遇。
以下为高宇驰演讲全文：
下午好，我很高兴在今年的凤凰湾区财经论坛上发表讲话。我将谈论的主题是如何培育欧洲人工智能发展的途径。非常感谢外交部长办公室组织的大湾区之行，我们能够了解该地区的动态，以及其融合的复杂性。在这个地区，欧盟积累了丰富的经验。
在不久前的联合国大会上，欧洲委员会主席乌尔苏拉·冯·德·莱恩强调了欧盟可以基于三大支柱引领人工智能发展的方式。设定监管框架、制定全球治理体系、引导创新。
欧洲正在通过欧盟人工智能法案制定明确的规则，计划在年底之前完成。这一法案采用风险导向的方法，对技术风险最大的用途施加监管要求，对其他用途保持轻度监管。 已经有很多例子显示，人工智能为我们的生活带来了巨大好处。我们才刚刚见识到这个领域的开始。在我们谈话的同时，人工智能正在通过更好的医学诊断拯救生命。它甚至支持工程师重建巴黎的圣母院。所有这些例子都说明了我们希望欧洲的人工智能是一种促进进步的力量。
但要实现这一目标，我们需要建立对人工智能系统的信任。只有在我们相信可以减轻相关风险时，才能充分享受人工智能的社会和经济潜力。为此，我们提出的法律框架不是关注人工智能技术本身，而是关注人工智能的使用方式和用途。它采用了一种比例适当和风险导向的方法，基于一个简单的逻辑：某种人工智能对我们的生活可能造成的风险越高，则对其监管就越严格。
基于这一逻辑，我们将人工智能的用途分为四个不同的类别。在金字塔的底部，我们找到了绝大多数人工智能应用的途径，它们的风险极小或根本没有风险。例如，识别垃圾邮件并阻止其进入我们收件箱的过滤器。或在工厂中最大程度减少废物排放量以优化资源利用。我们的法律框架允许自由使用这些应用，不对已经存在的保护消费者的法律规则进行额外限制。
在金字塔的中部，存在有限风险的人工智能应用。例如，帮助我们订票或找到最近的商店购买所需物品的聊天机器人。这些也是允许的，但受到欧盟透明度义务的约束。目的是向用户明确表明他们正在与一台机器交互。
靠近金字塔顶部，我们发现高风险的人工智能用途。这是我们法律框架的主要关注点。之所以将这些用途视为高风险，是因为它们涉及到我们生活的重要方面。我们正在讨论筛选教育和职业申请中候选人履历的人工智能，或者能否从银行获得抵押贷款的系统。或者用于自动驾驶汽车或医疗设备的软件，可能会给我们的安全和健康带来新的风险。
在金字塔的顶端，我们发现那些人工智能应用具有极其有限的使用空间，因为我们认为它们是不可接受的。这些是使用潜意识技巧对某人造成身体或心理伤害的人工智能系统。例如，某个案例中，使用辅助语音操控儿童做一些危险的动作等。对于欧洲的人工智能发展途径来说，这些用途是无法容忍的，因此，我们建议禁止它们。
对于如何监管基础模型和生成式人工智能。我知道中国最近在这方面取得了很大进展。
欧盟通过我们的协调行动计划增加了对人工智能的公共和私人投资。我们希望让人工智能初创企业更容易茁壮成长并扩大规模。
最后一点，也是非常重要的一点，欧盟将寻求国际合作，支持建立一个确保可信和以人为中心的人工智能的全球治理体系，以确保公平竞争。我们目睹着技术发展的指数增长。人工智能带来了风险，未来这些风险可能变得极端，甚至可能对人类产生毁灭性影响。就像上个世纪我们找到了控制核扩散风险的方法一样，今天我们必须考虑如何找到应对人工智能增长的答案。
欧洲委员会主席已提议创建一个类似于IPCC的机构，为多边体系提供客观的科学建议。联合国秘书长古特雷斯已经启动了在年底前采纳全球人工智能治理提案的过程。我们热切期待讨论如何使这一进程取得有意义的结果。欧洲公司对这一领域存在的机遇非常感兴趣，包括大湾区在内，因为以人为本的人工智能发展可以带来令人兴奋的机遇。非常感谢大家的关注。