在最新一季职场类综艺《令人心动的Offer》中，实习生们一起辩论了这样一个话题：网络小说作者小安使用人工智能整合杂糅其他经典著作而产出的网络小说到底算不算抄袭，小安有没有侵犯原作品的著作权呢？

• 有人说：人工智能形成的内容不是“作品”，不是改编行为，所以小安并不侵权。

• 也有人说：无论人工智能生成的内容是否构成“作品”，但内容与原小说构成实质性相似，就是侵权。

• 还有人说：小安没有侵权，因为侵权行为的实施者不是小安（即人工智能的使用者），而是人工智能的提供者。

从搜索引擎和医学影像分析，到地震预测和自动驾驶，随着人工智能正在被广泛应用到生活的方方面面，许多关于人工智能的纠纷与隐患也浮现出来，其中权利与义务的归属更是黑白难辨。

到目前为止，人工智能基本上是一个自我监管的行业，对于人工智能的监管其实面临着诸多的挑战。

本文将着重介绍有效监管人工智能面临的五大挑战。

*本文中出现的所有文章均可在Taylor & Francis Online网站搜索论文标题，免费阅读。

监管人工智能面临的第一个挑战：如何定义人工智能

从配置电子邮件垃圾邮件过滤器，到决定司法、移民或者军事行动，许多工具和应用程序都属于“人工智能”的范畴。这使得人工智能很难被统一定义。

人工智能是“智能机器的科学和工程学”，这一概念在20世纪50年代就已经被提出。然而，真正能够实现这些想法，却是在近年来才成为可能。这主要归功于诸如“机器学习”等分支的快速发展，然而技术变革的快速步伐也使得人们很难针对人工智能确定一个不能很快过时的定义。

在一篇题为《从‘人工智能竞赛’到‘人工智能监管竞赛’: 人工智能的监管竞争》的论文中，作者提到：“最初被认为是‘智能’的技术，但随着时间的推移，由于习惯性的使用和接触而变得正常化，就失去了‘智能’的地位。”

人工智能的一些现有定义：

01 Intelligent behavior

欧盟委员会 (European Commission) 对人工智能的定义如下:“系统通过分析其环境并采取行动(具有一定程度的自主性)来实现特定目标，从而显示出智能行为。”

02 Tasks requiring intelligence

英国政府表示: “人工智能可以定义为利用数字技术创造出的能够执行通常认为需要智能的任务系统。”

03 Machine-based decisions

美国人工智能法案 (U.S. Artificial Intelligence Act) 旨在加速人工智能的研究和应用，该法案将人工智能定义为“一个基于机器的系统，能够针对给定的一组人类定义的目标，做出影响真实或虚拟环境的预测、建议或决策。”

04 Comparable with human intellect

俄罗斯2019年的国家人工智能战略 (Russia's 2019 national strategy) 将人工智能定义为:“一组技术解决方案，能够模拟人类的认知过程(包括自我学习和在不使用先前提供的算法的情况下寻找解决方案) ，并在完成具体任务时获得至少与人类智力相当的结果。”

05 Capacity for learning

在《人工智能治理专题介绍》这篇论文中，作者将人工智能定义为: “将从外部环境收集数据的手段与处理这些数据的技术结合起来，并以算法方式将其与以前存储的数据联系起来的系统，使这些系统能够在某种程度上自主地执行各种各样的任务，即不需要同时进行持续不断的人为干预。”

06 Human cognitive capacity

在《算法、数据和平台: 治理人工智能的多样性挑战》这篇论文中，作者认为：“人工智能是一种利用先进计算技术在某些任务领域以人类认知能力执行任务的技术。”

监管人工智能面临的第二个挑战：在全球范围内达成共识

随着人工智能技术的普及，各国政府都在努力制定自己的人工智能监管政策。然而，由于人工智能技术的全球性，一个国家的监管政策可能会对其他国家的人工智能产业产生影响。因此，需要建立起一个全球性的人工智能监管框架，以达成跨境共识。但这可不是一件容易事。

包括美国、中国、欧盟和英国在内的许多国家和集团都将人工智能视为国家和经济安全的关键驱动力，更有领导人直言：“无论谁成为这个空间(人工智能)的领导者，都将成为世界霸主。” 而且地缘政治紧张局势几乎嵌入了国家关系的所有方面，凡此种种都压倒了跨国合作的意愿。

除了国家之间的竞争关系，世界各地区发展的不平衡，以及文化法律等因素都阻碍了对监管人工智能达成共识。例如：在德国，业主有权将自己的建筑立面排除在谷歌全球可访问的‘街景’系统之外，而美国人没有这种权利。关于人工智能系统如何收集和存储数据的法律也因国家而异。

监管人工智能面临的第三个挑战：权利与责任的界定

与人类不同，人工智能系统没有权利和责任，也不对自己的行为和决定负责。那么，谁应该对人工智能系统的行为负责呢? 这与我们开头讨论的问题如出一辙。

自主机器(Autonomous machines)的兴起，增加了它们自己而不是人类设计者为行为负责的可能性。

欧盟委员会(European Commission)认为，责任应由那些最有能力应对潜在风险的机构承担:“虽然认可机构的开发人员可能最适合处理开发阶段所产生的风险，但他们在使用阶段控制风险的能力可能较为有限。在这种情况下，部署者或使用者应该承担相应的义务。”

包括欧洲议会法律事务委员会 (European Parliament's Committee on Legal Affairs) 在内的机构已经研究过另一个可能的解决办法是：赋予人工智能系统以“电子人”的法律地位。“最先进的自主机器人可被确定为具有电子人的地位，负责弥补它们可能造成的任何损害。”

监管人工智能面临的第四个挑战：发展节奏过快

正如上文所说：在定义新技术时，快速的创新脚步是一个挑战，监管和法律框架也很难像技术那样迅速发展，有时这被称为“节奏问题” (pacing problem)。

在《应对颠覆性技术的治理挑战: 新加坡自动化系统监管的见解》这篇文章中，作者Devyani Pande 和 Araz Taeihagh 提出了监管机构应对这一问题的两种方式:

• 减缓创新的速度

• 提高法律系统及时提出法规的能力

但由于一些国家和集团之间的竞争，在大多数情况下，放慢创新的步伐将不是一个切实可行的解决方案。

监管人工智能面临的第五个挑战：监管与创新的平衡

尽管存在风险，但人工智能仍有潜力为社会上一些最紧迫的问题提供解决方案。然而，在《人工智能社会科学手册》(The Routledge Social Science Handbook of AI)一书中，作者认为：“监管扼杀了人工智能的创新。”因此，监管机构面临的一个挑战是管理人工智能的社会和环境风险，同时继续推动创新。

监管人工智能的四大指导原则

在《以人为中心的六大人工智能挑战》文章中，作者Ozlem Ozmen Garibaya 等人强调了应该指导人工智能管理的四条指导原则：

01 Fairness

例如：无偏差算法，偏差审计，包容性

02 Integrity

例如：适当地使用数据，将人工智能系统的成功指标与其期望的目标相一致。

03 Resilience

例如：稳健和安全的系统

04 Explainability

例如：透明的算法决策过程，潜在的逆向工程人工智能决策和模型

AI监管是一个重要而复杂的问题，需要政府、企业和社会各方共同参与和合作，以促进AI技术的健康发展。本文提出了五项关键的挑战以及四种指导原则，以期通过理解和认识这些挑战与原则，为未来制定有效的AI监管政策提供指导方向。