《2024年人工智能政策预测》

原标题：《2024年人工智能政策预测》

2024年1月30日，美国战略与国际问题研究中心（CSIS）发布最新报告《2024年人工智能政策预测》，该报告系统梳理了2023年全球人工智能重大发展事件，根据这些事件总结了人工智能2023年度发展态势，并据此列出了2024年人工智能的十大关注焦点。元战略编译该报告重要内容，为回顾与预测人工智能政策提供借鉴。

年度回顾

2023年人工智能重大发展时间表

向下滑动查看所有内容

年度总结

#1

生存性风险成为人工智能治理的

最大关注点

尽管在前几年，人工智能导致灾难或人类灭绝的风险一直是埃隆·马斯克和许多人工智能研究人员关注的焦点，但2023年，这一问题真正成为全球领导人和政府决策者的优先事项。这一转变是由OpenAI首席执行官萨姆·阿尔特曼、谷歌DeepMind首席执行官德米斯·哈萨比斯、特斯拉和xAI首席执行官埃隆·马斯克以及人工智能“教父”杰弗里·辛顿等私营部门知名人士的呼吁所促成的。2023年5月，一个由350多名顶尖人工智能专家和高管组成的联盟签署了一份简短声明，称“降低人工智能引发人类灭绝的风险应成为全球优先事项，与大流行病和核战争等其他社会规模的风险并列”。在英国人工智能安全峰会上，与会的29个国家同意《布莱切利宣言》，该宣言指出，“这些人工智能模型的最重要能力有可能造成严重甚至灾难性的伤害，无论是蓄意的还是无意的”。

#2

美国、荷兰和日本协调出口管制，

瞄准人工智能和半导体技术发展

2023年1月下旬，有报道称美国已与荷兰和日本达成协议，两国将实施新的出口管制，限制特定地区获得芯片制造工具。直到2023年3月，两国正式宣布将对广泛的半导体设备和技术实施出口管制，但有关这些新限制措施包括哪些内容的细节却鲜为人知。日本和荷兰占据了光刻机和扫描仪全球99%的市场份额，这对最先进的人工智能芯片至关重要。因此，这是美国阻止特定地区在芯片竞争中取得领先地位的重要一步。

#3

人工智能聊天机器人在全球拥有

数十亿用户，规模继续快速增长

OpenAI的ChatGPT在2022年11月推出的第一周，用户数量就超过了100万。到2023年11月，这一数字已飙升至超过1亿月活跃用户。领先的人工智能开发公司去年推出了几款新的大型语言模型（LLM），包括OpenAI更新的ChatGPT-4、Meta的LlaMa 2和谷歌的Gemini。全球对这一技术的需求促使许多公司开发以其他语言训练的聊天机器人，如阿拉伯语模型Jais和中文模型Ernie Bot，尽管美国在全球LLM的开发方面仍处于领先地位。语言模型的规模越来越大，无论是在训练数据方面还是在参数方面（例如，据传GPT-4的参数高达一万亿个，而GPT-3只有1,750亿个参数）。

#4

全球主要经济体采取

实质性措施监管人工智能

美 国

为了应对人工智能的变革潜力，美国政府开始通过行政法对其进行监管，承认有必要驾驭人工智能风险的复杂性，并开始制定国内标准。2023年1月26日，美国商务部国家标准与技术研究院（NIST）发布了《人工智能风险管理框架》（AI RMF 1.0）。参议院多数党领袖查克·舒默于2023年6月在CSIS宣布了“SAFE 创新框架”，标志着通过“全面立法”应对人工智能带来的深刻变化的战略努力。在英国人工智能安全峰会召开之前，拜登政府于2023年10月底宣布了《关于安全、可靠和值得信赖的人工智能的行政命令》。

欧 盟

2023年12月8日，欧洲议会、欧盟成员国和欧盟委员会三方就《人工智能法案》达成协议，这是迄今为止世界上关于人工智能的最具实质性的一套法规。除了用于军事目的、研究和开源模型的人工智能外，《人工智能法》还对欧盟境内销售、使用或部署的所有人工智能进行监管，但大多数规定仅适用于“高风险”人工智能系统。该法案推进了一种基于风险的人工智能系统管理方法，将风险等级分为四类：不可接受、高、有限和极低至无。预计新的人工智能法最早要到2025年才能开始全面实施，这样欧盟委员会就有时间在布鲁塞尔设立一个监管“人工智能办公室”，企业也有时间适应新规则。

中 国

中国国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》，自2023年8月15日起施行。国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

#5

加强人工智能治理国际合作

2023年，全球治理人工智能的努力大幅增加。11月1日至2日，英国主办了首届全球人工智能安全峰会，召集政治和技术领袖讨论基础模型的安全性。人工智能在2023年的七国集团会议上也占据了显著位置，包括4月的数字与技术部长会议和5月的七国集团峰会。2023年，其他几个国际会议也首次聚集在一起讨论人工智能问题。7月，联合国安理会开会讨论人工智能风险，秘书长安东尼奥·古特雷斯在会上呼吁设立一个联合国机构，“支持治理这一非凡技术的集体努力”。

#6

私营部门强调自身在

负责任人工智能治理中的作用

在私营部门对人工智能治理的影响力日益增强的同时，人们也越来越担心其中存在根本性的利益冲突。人工智能公司在不断开发创新产品的同时，还扮演着帮助监管创新产品的双重角色，这让人严重怀疑它们是否真的能将安全置于利润之上。

#7

人工智能相关诉讼数量急剧上升

2023年，新的人工智能工具开始考验现有的法律框架，涉及数据隐私、版权和专利法等领域。2023年6月，一起针对OpenAI和微软的集体诉讼成为头条新闻，该诉讼声称ChatGPT在训练过程中窃取了数亿互联网用户的数百万敏感数据，包括社交媒体账户、医疗记录和个人账户。9月，针对这两家公司的第二起诉讼被提起；7月，针对谷歌母公司Alphabet的另一起诉讼也被提起，内容几乎相同。去年，人工智能对版权法的影响也受到了更多关注。

#8

美国国防部采取措施在武器系统中

安全使用和部署人工智能

2023年1月，美国国防部发布了更新版3000.09，正式规定，在开发和实战的各个阶段，都必须遵守美国国防部的人工智能道德原则。美国国防部副部长凯瑟琳·希克斯重申，该指令要求对自主系统进行严格的测试、审查和高层审查。在国际方面，美国军备控制、威慑和稳定局发布了一项开创性的“关于负责任地将人工智能和自主权用于军事用途的政治宣言”，该宣言与国防部3000.09号文件的基本思想完全一致，并力图使其国际化，特别是在美国盟国之间。

#9

美国大规模加速国防部

对人工智能自主系统的采用

2023年8月28日，美国国防部副部长凯瑟琳·希克斯宣布了“复制者”计划。“复制者”计划的目标是“在未来18-24个月内，在多个领域部署成千上万的可攻击自主系统”。美国国防创新部门（DIU）将在“复制者”项目中发挥核心作用，既要与印度洋·太平洋司令部（INDOPACOM）的最终用户合作，确定作战人员需要哪些能力，又要探索哪些行业合作伙伴能在相关时间框架内提供这些能力。

#10

企业对人工智能的兴趣激增，

人工智能科技巨头继续

俘获股市和全球目光

人工智能是2023年全球企业的关键词。商业情报公司CB Insights报告称，去年对生成式人工智能的私人投资创下历史新高，从2022年的32亿美元增长到2023年第三季度的174亿美元，增幅近450%。与2022年相比，人工智能的提及率增长了77%。到9月，这一数字进一步增长了366%。安永每季度对全球1,200名首席执行官进行访谈，该调查显示，几乎所有首席执行官（99%）都意识到人工智能颠覆当前商业模式的潜力，并正计划通过从其他项目调拨资金（69%）或筹集新资金（23%）对人工智能进行投资。领先的科技公司在2023年获得了巨大回报。去年，“七巨头”（指Meta、亚马逊、苹果、微软、谷歌、特斯拉和英伟达）继续主导股市，打破了在标准普尔500指数市值中所占比例最高的纪录，达到29%。

#11

快速的技术进步没有放缓的迹象

2023年对于人工智能来说是开创性的一年，无论是原始模型能力还是在越来越多的科学领域实现重大突破的技术能力。年底，谷歌在12月发布了新的多模态系统“双子座”（Gemini），这可能预示着人工智能将进入一个新的时代。导体DGX GH200中推出了世界上首个100 TB GPU内存系统，实现了技术上的里程碑。人工智能继续为越来越多的科学领域带来变革。2023年，谷歌DeepMind的人工智能模型在材料科学和气象学领域都取得了重大突破，其GraphCast模型预测了“另外220万种材料的成分和性质”。

2024年

需要关注的十大进展

#1

高级别全球人工智能治理会谈

如何有效转化为实际影响？

从英国人工智能安全峰会上签署的《布莱切利宣言》到去年日本担任七国集团主席国期间启动的广岛人工智能进程，全球人工智能治理会谈在2023年产生了重要的高层承诺。2024年，这些承诺将如何转化为可操作的政策和可执行的法规？

#2

第三方红队测试将如何实际运作？

拜登的人工智能行政命令要求人工智能开发者通过一种名为“红队测试”的方式来评估他们的前沿模型。在向公众发布模型之前，开发者必须向政府报告他们的发现。第三方“红队测试”在实践中将如何运作？政府能否利用这些发现来跟上大语言模型不断增长的规模和能力？

#3

美国国会能否通过

全面的人工智能立法？

拜登总统的人工智能行政命令是美国向人工智能监管迈出的一步，但其效力取决于国会能否通过立法和预算拨款。考虑到2024年大选的艰难时机，人工智能监管是否仍将是一个主要由两党共同参与的问题，以及国会通过立法的速度如何？

#4

今年G7轮值主席国意大利

将如何在广岛人工智能进程

的基础上开展有意义的工作？

2023年，日本主席国将人工智能列入G7议程，并承诺在广岛人工智能进程下协调人工智能治理工作。治理框架之间的互操作性是避免全球人工智能格局支离破碎的一项艰巨但必不可少的任务，意大利已表示将在今年开展这项工作。主席国意大利将采取哪些措施来推进广岛人工智能进程，并兑现七国集团对统一人工智能监管的承诺？

#5

扩大人工智能规模能否

继续带来新的能力突破？

2023年，大语言模型的大幅扩展带来了性能的显著提高。今年的改进是否会继续呈指数级增长，或者开发人员是否会在不进行根本性架构改进的情况下收益递减？

#6

美国国防部的复制者计划

能否获得所需的资金？

美国国防部的“复制者”计划是美国为加快向作战人员交付人工智能自主系统的速度和规模而做出的一项全面努力。如果国防部只获得象征性的资金，将会发生什么？

#7

美国和盟国的出口管制将如何

影响特定地区在人工智能

和半导体领域的进展？

美国及其盟国能否有效执行出口限制，这又会如何影响特定地区2024年的技术发展轨迹？

#8

人工智能将如何影响

今年的重大选举？

2024年是历史上规模最大的选举年，全球一半以上的人口将参加投票。这将是各政党必须明确其对人工智能立场的第一年，一些选民可能会看到人工智能监管成为选票上的一个问题。仅在一年前，这两者几乎都是不可想象的。这也将是人工智能可能在竞选、干预和传播虚假信息方面发挥重要作用的第一个选举周期。有了人工智能的参与，世界上最繁忙的选举年将会如何发展？

#9

开源人工智能模型能否继续

保持领先性能？

开源与闭源的争论主要围绕人工智能开发是应该优先考虑透明度、协作性和可访问性（开源），还是应该优先考虑专有控制、安全性、竞争优势和知识产权保护（闭源）。谁将在这场辩论中胜出，这对人工智能的未来发展、监管和民主化会产生什么影响？

#10

科技巨头会继续主导

人工智能的发展吗？

目前，人工智能领域主要由谷歌、OpenAI和Meta等少数几家公司主导。2024年，科技巨头将继续主导人工智能的发展和市场回报，还是我们将看到一个更加多元化的格局，细分行业将出现赢家？

免责声明：本文转自元战略，原作者Allen Wang。文章内容系原作者个人观点，本公众号编译/转载仅为分享、传达不同观点，如有任何异议，欢迎联系我们！

转自丨元战略

作者丨Allen Wang

研究所简介

国际技术经济研究所（IITE）成立于1985年11月，是隶属于国务院发展研究中心的非营利性研究机构，主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题，跟踪和分析世界科技、经济发展态势，为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号，致力于向公众传递前沿技术资讯和科技创新洞见。

地址：北京市海淀区小南庄20号楼A座

电话：010-82635522

微信：iite_er