人工智能创新企业集群及其治理挑战

2024年4月16日，加拿大国际治理与创新中心发布研究报告《人工智能创新企业集群及其治理挑战》（AI Innovation Concentration and the Governance Challenge），介绍了领先的人工智能创新企业及其所处的监管环境。通过研究人工智能创新企业的行业竞争和区域分布格局，分析监管环境中可能影响人工智能负责任传播的因素。为促进负责任的人工智能技术创新和传播，以及加强人工智能监管提出建议。

一、导言

随着生成式人工智能技术迅速发展，公众对人工智能的关注与日俱增。聊天机器人可以用通俗易懂的语言与人类进行简单交流，利用丰富信息提供详尽的回答。虽然偶尔也会出错，但人工智能在公众眼中的地位大大提高，它既能为普通用户，也能为专家提供有用的服务。美国投资银行高盛集团（Goldman Sachs）预测，到2034年，人工智能将使全球GDP年增长率提高0.25个百分点。在人工智能领域技术变革加速推进的背景下，本报告首先总结了人工智能创新概况，然后对人工智能创新企业进行了案例分析，包括全球研发支出前列的人工智能企业和独角兽企业，通过跟踪人工智能创新企业所在国家的人工智能战略和监管工具，研提了保障人工智能创新的建议。

二、人工智能研究与实践概况

本研究首先分析了人工智能研究热点，尤其侧重于决策者特别关注的大语言模型和相关数据问题。此外，还探讨了人工智能风险、技术传播、知识产权和人工智能治理，为后续探讨如何从监管方面保障人工智能创新奠定基础。

（一）大语言模型和数据

近期，大语言模型如ChatGPT等引起了广泛关注。英伟达将大语言模型定义为“能够使用超大数据集识别、总结、翻译、预测和生成内容的深度学习算法”。有学者强调了开发此类大语言模型的四个主要方面：预训练、适应性调整、使用和评估。

大语言模型依靠互联网获得的全球大量公共和专有数据进行训练，其中可能包括个人信息。这些数据可能不完整、虚假或有偏差，而且很难确认数据是否准确、是否尊重知识产权以及是否符合消费者保护要求。最近一些地区和双边贸易协定条款中包含了对数据和软件知识产权（包括商业秘密）的保护措施。例如，《全面与进步跨太平洋伙伴关系协定》（CPTPP）和《加拿大—美国—墨西哥协定》（CUSMA）中均对数据本地化进行了限制，保护商业目的的数据自由流动，并保护计算机源代码（包括算法），还规定了对个人信息进行一定程度的保护。此外，数据是驱动人工智能性能发展的关键因素，因此如何获取高质量数据也是一个问题。但由于数据来源渠道不同，可能涉及隐私、安全和知识产权等问题。目前，世界各国和地区政府正加快制定人工智能领域的国际规范。

（二）人工智能创新与风险

人工智能创新对经济会产生影响，并可能对较小的经济体构成挑战。有学者认为，人工智能能力加速提升将带来源源不断的创新，人工智能专利申请速度的提升就是证明。企业也都在尝试利用新兴人工智能技术的商业潜力，扩大商业规模。美国国家标准与技术研究院（NIST）强调，与传统的软件风险相比，人工智能技术的风险更为独特。全球相关组织机构目前采用的现有标准和最佳实践并不能充分降低人工智能系统带来的风险。例如，训练人工智能时使用的数据可能会随着时间的推移而发生变化，从而破坏系统的可靠性和可信度。此外，人工智能系统可能相当复杂，因此在出现故障时很难检测和应对。NIST认为，人工智能系统“本质上是社会技术性的，这意味着它会受到社会动态和人类行为的影响”。也就是说，影响系统开发和使用方式的社会因素可能会导致人工智能风险的出现（例如，嵌入种族或性别歧视）。此外，这些风险还包括因故意滥用人工智能造成危害，如侵犯个人隐私、扩大非竞争性市场、传播仇恨、谎言和错误信息。

（三）人工智能技术传播

麦肯锡公司对2022年人工智能的全球调查发现，至少有一半的受访企业正在使用人工智能，而2017年时的比例仅为五分之一。在具备人工智能能力的企业中，最常采用的人工智能技术包括机器人流程自动化（39%）、计算机视觉（34%）、自然语言文本理解（33%）以及虚拟代理或对话界面（33%）。企业使用人工智能取得的效果各不相同，受访企业收入增加的比例（63%）往往高于成本节约的比例（32%）。当受访者在市场营销、产品和服务开发中采用人工智能功能时，往往可以实现收入增加。人工智能赋能供应链管理带来的成本降低最为常见。那些成功将人工智能融入其运营的公司，往往会随着时间的推移使其收益复合化。

有学者指出，发展中国家能够从人工智能技术发展中获益，但可能会因资源、基础设施或专业培训缺乏而难以充分应用人工智能技术。同时，商业人工智能技术的开发往往将发达国家作为其优先市场，而发展中国家的市场需求通常被忽视。为解决该问题，可能需要通过协调和建立公私合作伙伴关系来帮助发展中国家获得和应用人工智能技术。此外，即使在市场条件可能支持人工智能技术推广传播的情况下，缺乏全球人工智能治理框架也可能给技术传播造成障碍。各国政策法规的差异可能会减缓人工智能的部署，这种差异削弱了投资创新，并且不利于向发展中国家出口人工智能技术。

（四）知识产权

与许多技术主导的发展一样，知识产权保护对推动人工智能发展具有重要意义。它还可用于避免完全独占创新成果，从而保护研究的开放性。调整知识产权保护以应对新技术的挑战，可能需要一段时间的经验积累，以确定系统中的关键问题、障碍和差距。根据现行法律对知识产权的使用和裁决，可以为随后完善立法提供重要参考。

随着人工智能的发展，知识产权问题已经凸显。生成式人工智能在所使用的训练数据方面已经产生了版权问题。在专利方面也可能出现类似问题，因为专利所有权的归属可能涉及多个利益相关方。在商业秘密方面，出现了与算法披露、劳动力流动限制和数据占有等问题有关的挑战。正确调整知识产权制度会对技术的发展产生重大影响。经合组织（OECD）和其他机构的工作表明，充分的知识产权保护有利于技术密集型产品的贸易和投资，也有利于通过知识产权许可进行技术转让。

（五）人工智能治理

当前，人工智能治理仍在进行之中。有学者指出，现有法规都在保护公众利益与促进创新和投资之间游走。在人工智能时代，冲破监管“防线”意味着接受不同的人工智能应用所带来的风险，需确定一个既能使监管与风险相匹配、又能避免阻碍创新的治理措施。

人工智能可以赋能多个领域，并且前景广阔。然而，人工智能也可能会造成劳动力市场失调，并有可能被滥用于生成和传播虚假信息、制造自主武器等领域。因此，有学者主张建立一个由三部分组成的全球人工智能治理体系。首先，应建立一个类似于联合国政府间气候变化专门委员会的全球机构，就新出现的人工智能风险向各国政府提供建议。其次，成立一个国际机构来协调人工智能大国之间的紧张关系，建立警戒线并进行监控，防止危险的先进人工智能系统扩散。第三，成立人工智能风险技术官方机构——技术稳定委员会，让国家监管机构、国际标准机构和私营部门的跨国利益相关者参与进来，共同预防或应对人工智能危机，并管理开源人工智能。

三、领先的人工智能创新企业

为研究人工智能密集型创新企业的特征，本文从行业、地域等方面对两类创新企业进行了分析。第一类是大中型公开上市、在全球研发支出前列的人工智能创新企业。第二类是人工智能独角兽创新企业，即市场估值达到10亿美元或以上的成功初创企业。

（一）在全球研发支出前列的人工智能创新企业

本研究从来自不同行业和领域，且全球研发支出位居前列的2500家企业中，筛选确定了57家领先的人工智能创新企业。研究发现，这些企业的地理位置集中。其中三分之二的企业总部设在美国，中国企业占比不到七分之一，欧盟企业占比不到十分之一。2021年，这些企业的研发总支出为2640亿美元，其中约三分之二来自在美国注册的企业。中国企业的研发支出不到总支出的四分之一，欧盟仅占十六分之一。

在行业方面，57家领先的人工智能创新企业中包括不少大型企业（如Alphabet、阿里巴巴、苹果、百度、Meta、微软、三星和索尼），它们不仅在核心业务的行业领域内提供产品和服务，其业务范围还扩展到了其他行业，如媒体或休闲行业。除苹果和微软等市值数万亿美元的全球巨头外，一些特别专注于人工智能的小型公司也在领先的人工智能创新企业排名之列。虽然大型企业在人工智能密集型企业中占主导地位，但也有相当一部分小型企业获得发展。

（二）人工智能独角兽创新企业

人工智能领域的创新有很大一部分是由初创企业推动的，例如，最知名的公司有OpenAI和字节跳动。本文筛选了22家独角兽人工智能创新企业，其中的一个显著特点是地域集中。除位于中国（2家）和英国（2家）的4家独角兽公司外，其余均为美国公司。从行业来看，近三分之二（14家）的人工智能独角兽创新企业专注于人工智能技术领域，其他有3家是零售应用领域，3家为媒体和娱乐领域，还有2家是医疗保健和生命科学领域。目前，独角兽人工智能创新企业大多数专注于为企业提供产品（B2B），少数公司正在提供直接面向消费者的产品，如字节跳动、OpenAI等。

在一些地区，获取风险资本的便利性可能是人工智能企业地域集中的因素之一。风险投资方不仅提供资金，还利用专业知识，帮助初创企业建立网络，加强战略和运营。当一个地区拥有充足的风险投资资金和专业的咨询服务时，它就会成为一个吸引新兴企业和创新活动的磁石。

人工智能初创企业在资金需求上存在显著差异，这种差异主要取决于企业的研发重点：开发和训练专有模型的企业平均融资额约为9800万美元，开发微调现有模型的企业平均融资额约为2000万美元，改进现有模型用户界面的企业平均筹资额约为900万美元。值得注意的是，22家人工智能独角兽创新企业中有6家获得了大型人工智能创新企业的投资，其中谷歌投资了4家，微软和腾讯分别投资了1家。这些大型企业的投资不仅为初创企业提供了资金，也提供了行业知识和专业指导，此外还可能促进供应链整合和技术转让，为初创企业提供更多发展机会。

四、人工智能政策的监管动态

在人工智能不断突破创新的同时，监管机构也在积极跟进。经合组织通过其人工智能政策观察站（AI Policy Observatory），汇总了69个国家及欧盟的人工智能政策和战略规划。为研究各国人工智能政策发展动态，本研究基于经合组织人工智能政策观察站统计的政策举措，选取了拥有在全球研发支出前列的人工智能创新企业和人工智能独角兽创新企业的国家作为研究样本，未涵盖这些企业的地区作为非样本国家。非样本国家包括巴西、印度尼西亚、新加坡、南非和越南。在样本国家中，美国在人工智能监管方面表现最为活跃，提出了116项相关倡议。英国和欧盟紧随其后，分别有91项和80项倡议。印度、日本和韩国在人工智能监管方面的活跃水平属于中等，分别有35项、36项和51项行动。加拿大、中国和以色列的人工智能监管政策活动分别为27项、26项和26项。与样本国家相比，非样本国家中的印度尼西亚、南非和越南在人工智能监管方面的政策活跃水平要低得多。

在样本国家中，排名前三位的人工智能政策措施为：（1）国家战略、计划。这类措施指的是政府制定的国家战略和计划，阐明了政府关于科技创新推动国家社会和经济发展的愿景。国家战略设定了在科技与创新领域投资的优先事项，并确定了政府改革的重点，例如资助公共研究和促进企业创新等领域。（2）新兴的人工智能相关法规。这一类别指的是公共机构制定的有关开发或使用新技术（如人工智能、神经技术和基因编辑）的法律、规则或其他政策。（3）利益相关者或专家进行公开磋商。此类指的是允许非政府主体（如研究界、商界、民间社会等）发表意见或提供专家建议，为决策过程提供支撑。

五、保障人工智能创新的建议

通过研究人工智能创新的集中度，以及监管环境中可能影响人工智能负责任传播的因素，研究发现，一方面，人工智能日益加快的创新速度给监管机构加强人工智能治理带来了压力；另一方面，不同领域的国际监管合作提高了监管效力、经济效率和行政效率，预计在人工智能领域也将会产生类似结果。基于此，对于保障人工智能创新提出以下建议。

一是设立国际机构领导人工智能的监管与合作。各国政府或可在全球层面设立特定的人工智能机构，以监测人工智能发展情况并支持协调监管措施，从而取代现有的零散做法。这类机构有助于促进监管的一致性和人工智能的安全性，但机构的可行性可能取决于它是否灵活、反应迅速，是否为主要参与者所接受，是否在召集力方面具有一定的全球性权威。

二是优先考虑监管一致性。国际监管合作可促进监管一致性，应予以推进，并且各级监管机构应以一致性为共同目标。在人工智能领域，应尽早推动人工智能安全措施的监管一致性，此外，也需促进透明度规定（针对人工智能系统和监管程序）和数据管理规定等方面的监管一致性。

三是将透明度纳入监管流程和人工智能系统。鉴于人工智能技术的复杂性和潜在能力，必须将透明度原则系统地嵌入人工智能治理和产品中。就人工智能治理而言，当监管过程清晰且可预测时，企业和监管机构更有可能有效地实现预期目标。对人工智能产品而言，为了保护产品权利，需要让人工智能系统的用户了解他们何时与人工智能系统交互，以及产品和服务何时由人工智能生成。

四是推动数据管理的规范化。数据是人工智能系统开发和运行的核心要素，也是利益相关者的主要关切。需对数据进行良好的规范管理，以更好地保护个人数据和第三方的知识产权。此外，需要提供有关数据来源和性质的明确信息，同时在适当的情况下为人工智能系统开发提供负责任的数据访问便利。

免责声明：本文转自元战略。文章内容系原作者个人观点，本公众号编译/转载仅为分享、传达不同观点，如有任何异议，欢迎联系我们！

转自丨元战略

研究所简介

国际技术经济研究所（IITE）成立于1985年11月，是隶属于国务院发展研究中心的非营利性研究机构，主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题，跟踪和分析世界科技、经济发展态势，为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号，致力于向公众传递前沿技术资讯和科技创新洞见。

地址：北京市海淀区小南庄20号楼A座

电话：010-82635522

微信：iite_er