潘教峰、林慧 | 人工智能正在引发智能革命

内容提要 人工智能是引领未来的战略性通用技术，成为新一轮科技革命和产业变革的核心驱动力。中央经济工作会议提出，要以科技创新推动产业创新，特别是以颠覆性技术和前沿技术催生新产业、新模式、新动能，发展新质生产力，加快推动人工智能发展。面对日益激烈的人工智能大国竞争，我国应统筹谋划人工智能顶层设计，系统布局人工智能发展优先领域，加强基础和应用技术攻关，构建人工智能创新生态，推动人工智能与数学、物理、脑科学等基础学科交叉融合，促进人工智能在制造业、医疗健康与社会治理等各领域的深化应用。同时，加强人工智能伦理规制，防范和化解人工智能的风险和挑战。

关键词 人工智能 大模型 智能革命 技术变革 大国竞争

作者简介

潘教峰（ 中国科学院科技战略咨询研究院）

林 慧（中国科学院科技战略咨询研究院）

刊期：2024年第3期

人工智能是新一轮科技革命和产业变革的重要驱动力量。习近平总书记强调，“加快发展新一代人工智能是我们赢得全球科技竞争主动权的重要战略抓手，是推动我国科技跨越发展、产业优化升级、生产力整体跃升的重要战略资源。”随着ChatGPT大语言模型、Sora文生视频大模型、Gemini多模态大模型等相继问世，人工智能的颠覆性特征已然显现，正在引发一场全新的智能革命，推动人类社会从农业文明、工业文明走向以智能文明为特征的新文明形态。应当深刻理解人工智能本质，充分认识人工智能技术快速发展的深刻影响，以及与该技术相关的风险，采取有效措施加强人工智能治理，以促进服务公共利益的开发和利用。

一、关于人工智能本质的认识

人工智能作为一项前沿技术，是自然科学、社会科学、技术科学交叉融合创新的成果，业已在各个领域展现出巨大的潜力和影响力。秉持“科技向善”的原则，需要从科学视角、历史视角和范式变革视角深刻理解并准确把握人工智能的本质。

（一）人工智能是一门探索人脑智能奥秘的工程技术科学

人工智能（Artificial Intelligence，AI）是一门研究、开发能够模拟、延伸和扩展人脑智能的理论、方法、技术及应用系统的工程技术科学（李建彬，2023）。人工智能代表当今世界科学技术发展综合作用的最高水平，最新的科学技术成就集中体现在人工智能的发展上。

就其本质而言，人工智能是对人的思维的模拟，分为结构模拟和功能模拟两类。结构模拟也称为强人工智能或广义人工智能，仿照人脑的结构机制，制造出真正能推理和解决问题的“类人脑”智能机器，实现人类拥有的所有认知功能，制订解决问题的最优方案。功能模拟也称为弱人工智能或狭义人工智能，是对人脑功能过程进行模拟，制造出具有智能功能的机器，但不真正拥有智能，不具备推理和解决问题的能力。

1950年，图灵在其为人工智能奠基、提出图灵测试的经典论文Computing Machinery and Intelligence中提出，机器智能可能的两条发展道路：一条路是聚焦抽象计算所需的智能；另一条路则是为机器配备最好的传感器，使其可以与人类交流、像婴儿一样进行学习。这一判断深刻揭示了人工智能的价值，也指出了未来的发展方向。

（二）人工智能正从传统信息技术向通用大模型范式转换

人工智能概念的提出可以追溯到20世纪50年代。1956年，约翰·麦卡锡（John Mckarthy）、马文·明斯基（Marvin Minsky）、纳撒尼尔·罗切斯特（Nathaniel Rochester）、克劳德·香农（Claude Shannon）等科学家在美国达特茅斯学院召开“如何用机器模拟人的智能”研讨会，首次提出“人工智能”的概念，因此1956年也被认为是人工智能元年。此后，近70年的探索之路曲折起伏，先后经历了推理期、知识期和机器学习期三个阶段。

20世纪50年代到70年代初，人工智能研究处于“推理期”，基本思想是将逻辑推理能力赋予计算机系统，即通过编程、写算法等方式让机器执行。这一阶段人是设计者，机器是执行者。逐渐地，人们意识到人类之所以能够判断、决策，除了推理能力外还需要知识。20世纪70年代，人工智能进入“知识期”，开始将总结的人类知识教授给计算机，这一时期出现了大量领域专家系统。随着技术继续向前发展，人们发现知识是无穷尽的，且有些知识本身难以总结后教授给计算机。于是，一些学者开始探索将知识学习能力赋予计算机本身。1990年至今为“机器学习期”，人们开始让计算机直接从数据中学习。2006年，来自加拿大和美国的两位学者在Science上发表文章，提出“深度学习”的神经网络，人工智能技术至此进入快速发展阶段。2017年，谷歌公司的八位研究者提出一种新的高效神经网络——Transformer模型，成为人工智能通用大模型GPT（Generative Pre-Trained Transformer）的技术基础。2018年6月，OpenAI公司发布初代ChatGPT模型。2024年2月，人工智能文生视频大模型Sora发布，标志着人工智能在理解真实世界场景并与之互动的能力实现飞跃。2024年5月，OpenAI公司发布最新多模态大模型GPT-4o，它能够处理文本、音频和图像的任意组合输入，并同样以多样方式产出文本、音频和图像，向更自然的人机交互迈出一大步（见图1）。

图1 人工智能发展历程

资料来源：根据相关报告和历史事件整理。

基于深度学习的生成式人工智能颠覆了经典规则的传统范式，带来人工智能通用型技术的重大突破。随着算力、语料等的加大投入，通用大模型的准确度和使用场景不断提升，正引发人工智能新浪潮，成为新一轮科技革命和产业变革的引爆点。

（三）人工智能技术发展与多学科交叉融合创新紧密相关

图2 人工智能技术分类与学科基础

人工智能本身是一门前沿交叉学科，具有综合性和复合型学科特点，其发展需要与脑科学、计算机科学、数学、统计学、认知科学、材料科学、通信技术、制造技术、伦理学、心理学、语言学、哲学等学科深度融合。算力、算法、数据作为人工智能发展的三要素共同推动人工智能技术的迭代演进。算力的发展与集成电路、量子计算等的发展紧密结合；算法的发展与脑科学、深度学习、神经网络的发展息息相关；数据质量和数量决定了算法的效果和性能，数据科学除了自身的发展之外，还与数据处理技术、储存技术等的发展相互关联。

人的需求拉动和科技自身进步共同推动人工智能技术的迭代演进。当前，人工智能技术处在高速发展阶段，代表新的生产力发展方向，生产力的内涵朝着信息化、网络化、智能化方向发展。人工智能与生产力要素及生产系统的深度融合推动形成以新技术、新经济、新业态为内涵的新质生产力，并将带来社会形态和治理模式的深刻变革。

二、人工智能发展的总体趋势

人工智能的发展进入新阶段，正在重塑甚至颠覆数字内容的生产方式和消费模式，推动生产力变革。世界各主要国家持续深化人工智能战略、持续增强人工智能研发投资、推进算力的研发创新、推动人工智能技术生态建设、加强人工智能治理，以抢占国际竞争先机。

（一）主要国家人工智能的战略布局

美国于2023年5月再次更新《国家人工智能研发战略计划》，进一步强调了之前的八项战略目标，对各战略的具体优先事项进行了调整和完善，新增了第九项战略以强调国际合作（Select Committee on Aritificial Intelligence of the National Science and Technology Council，2023）。该计划进一步明确了人工智能领域的主要研发挑战，确保美国在开发和使用可信赖的人工智能系统方面继续处于领导地位。九项战略强化了美国人工智能研发的框架体系，包括长期投资基础和负责任的人工智能研究、开发有效的人类—人工智能协作方法、理解并解决人工智能的伦理、法律和社会影响、确保人工智能系统的安全性、开发用于人工智能培训和测试的共享公共数据集和环境、利用标准和基准衡量与评估人工智能系统、更好地了解国家人工智能研发人才的需求、加强公私伙伴关系以加速人工智能发展、建立有原则和可协调的人工智能研究国际合作方法（张元钊，2024）。

2023年11月，德国联邦教研部发布《人工智能行动计划》，旨在打造值得信赖的欧洲自主研发和产出的人工智能，扩大人工智能在各个领域的应用（毛一名、董瑜，2024）。具体来看：在研发方面，德国将重点支持混合人工智能系统、联邦学习、边缘人工智能、小型人工智能模型等领域的研究；在应用方面，将重点支持人工智能在经济、医疗、教育、科学和社会领域的应用，并特别提出将把人工智能视为科研活动的标准工具；在平台和保障机制方面，将重点支持构建计算中心和数据平台等新型“基础设施”、加强人工智能能力建设、制定灵活且有利于创新的监管措施、推动国际合作等。该计划设定了三个总体目标，包括将研究基础和专业知识转化为经济成就和社会效益，实现人工智能“德国制造”，推动各层面的人工智能对话和战略进程，将德国人工智能发展提升到更高水平。此外，确定了11个行动领域，尤为重要的是，提出进一步加强研究基础、扩大人工智能基础设施、在教育中使用人工智能以及更好地实现将人工智能转化为应用。

日本相继于2019年、2021年、2022年出台三版《人工智能战略》，并于2023年4月成立人工智能战略小组，设立新的“人工智能战略会议”作为国家人工智能战略的决策机构，主要负责人工智能技术的研究开发、技术应用和法律法规制定等战略决策。具体包括完善人工智能技术应用的相关法律、研究制定有关人工智能技术应用的支持政策、跟踪研判前沿技术发展走向等职能，以便快速掌握国际人工智能技术的发展趋势和动向。

（二）人工智能的技术前沿发展方向

人工智能的技术前沿发展方向体现在以下四方面。

一是多模态大模型。多模态大语言模型（Multimodal Large Language Models）是2023年兴起的一个新的研究热点，它利用强大的大语言模型作为大脑来执行多模态任务。多模态大模型通过融合语言模态与图像模态，将语言模态包含的文本理解与思维链能力投射在图像模态上，赋予模型图像理解与生成功能。多模态大模型大幅度提高了场景匹配度，应用场景更为丰富。类比计算机发展早期从文本操作系统向图形操作系统的跃升，图像模态与物理世界更加贴切，信息密度更高，应用门槛更低，更符合人机交流习惯。

二是视频生成大模型。2024年2月，OpenAI发布的文生视频模型Sora具备了世界模型的基本特征，即能够理解和预测现实世界。Sora的发布是AI技术发展历程的一个里程碑，它将对多个行业产生深远影响，也是未来发展的一个重要前沿方向。2024年5月14日，OpenAI发布跨模态大模型GPT-4o，支持文本、音频和图像的任意组合输入和输出，并可以形成具有人类情感的反馈。它最快可以在232毫秒的时间内响应音频输入，平均响应时间为320毫秒，几乎接近人类在交谈中的响应时间，在与人的交互方面更为自然（谢昭，2024）。

三是具身智能。具身智能是指有身体并支持与物理世界进行交互的智能体，如机器人、无人车等（孙凝晖，2024）。自2022年以来，学术界以李飞飞、姚期智、卢策吾、李德毅等专家学者为代表，相继发布“具身智能”相关的学术论文和演讲。产业界以谷歌、特斯拉、英伟达、META、阿里、小米等巨头公司为代表，积极跟进相关产品和技术布局。具有具身智能的机器人可以将人工智能的三大流派，即以神经网络为代表的连接主义、以知识工程为代表的符号主义和控制论相关的行为主义，同时作用在一个智能体上，实现虚拟和现实的深度融合，引领未来智能科学发展新的方向。

四是智能化科研。人工智能作为解决重大科学问题的新型科研工具，具有融合变量、耦合众智、突变和涌现的特征，展现出解析复杂体系的强大能力。科研工作越来越离不开高质量的数据、先进的算法模型和强大的计算能力，随着人工智能全面融入科学、技术和工程研究，AI for Research正在成为基于观察和归纳的实验研究、基于科学假设和逻辑演绎的理论研究、计算机对复杂现象的仿真、数据密集型科学研究四种科研范式之后的一种新的科研范式（李国杰，2024）。斯坦福大学发布的《2024人工智能指数报告》中，专门新增了“科技与医疗”章节，对人工智能对研究工作产生的重大影响进行了详细阐述。美国总统科技顾问委员会（President’s Council of Advisors on Science and Technology，PCAST）于2024年4月29日发布《通过人工智能应对全球挑战》，聚焦人工智能工具在科学研究中的重大作用，探索人工智能与科研的协同作用。未来如果实现从推断到推理的跃升，将具有颠覆性意义，可以极大提高科学发现的效率，打破人类的认知边界（孙凝晖，2024），成为科学研究的重要推动力。

（三）人工智能科技产业创新的热点方向

生成式人工智能掀起产业新浪潮。通用大模型的发展推动了大型预训练语言模型时代的来临，谷歌、微软、亚马逊、百度、华为、阿里云等人工智能领域的领先企业已纷纷开始在生成式人工智能领域抢先布局。微软不断加深与OpenAI的合作，GPT不断升级；谷歌推出Bard，为企业和开发者提供生成式人工智能接口服务；百度发布文心一言大模型，快速升级换代；阿里推出阿里云“通义千问”大语言模型，并宣布阿里未来所有产品都将接入通义千问。从多模态通用大模型到专注于语言、视觉以及特定行业解决方案的大模型，人工智能大模型不断加速落地。此外，生成式人工智能工具也出现爆炸式增长。

人工智能技术不断加深与行业融合应用。根据Statista的统计数据，到2030年全球人工智能产业的规模预计达到7388亿美元，北美地区2022年的人工智能产业规模约为582亿美元，其次是欧洲和亚洲地区。中国人工智能产业发展非常活跃，产业规模的增速超过全球平均水平。中国信息通信研究院数据显示，2023年我国人工智能核心产业规模达5787亿元，核心企业数量达4482家，产业链已覆盖包括芯片、算法、数据、平台、应用等上下游的关键环节，算力规模列全球第二位（徐宁，2024）。人工智能产业正在进入发展“成熟期”，人工智能技术已在金融、医疗、安防等领域实现技术落地，且应用场景也越来越丰富，助力各行业的数字化变革。

产业巨头注重人工智能研发平台的开发。近年来，人工智能研发平台集成了大量计算资源、算法、数据和开发工具，为技术创新、人才培养、产业应用和产业链整合提供了有力支持。谷歌、微软、亚马逊等全球顶尖人工智能企业在云服务领域纷纷加速布局人工智能技术平台。目前，亚马逊的SageMaker平台发展较为成熟，占据全球TensorFlow市场份额的80%以上。2021年，谷歌推出Vertex AI托管式机器学习平台，帮助开发者构建、部署和维护机器学习模型。2023年，微软推出Azure ChatGPT，使用AI大模型帮助代码生成和数据推理，为企业提供高效、安全的服务。

开源框架体系成为人工智能产业生态核心。开源框架在人工智能领域扮演着重要角色，既是智能芯片、场景落地等关键环节的驱动力量，也是构建人工智能产业生态的重要支柱。开源框架因其强大的功能和易用性，吸引了全球开发者的广泛关注，并逐渐形成围绕开源框架构建的人工智能产业生态雏形。2022年，谷歌联手包括阿里巴巴、亚马逊、英特尔、英伟达在内的科技巨头，共同推进了一个开放源代码的AI框架合作项目，致力于汇集不同机器学习框架。同年10月，大模型应用开源框架LangChain一经推出就受到广泛关注，可以将大型语言模型、向量数据库等整合到一起，帮助开发人员使用语言模型构建端到端的应用程序。

三、人工智能赋能各领域应用

以大模型为代表的人工智能发展呈现出技术创新快、应用渗透强、国际竞争激烈等特点，并加速与制造技术、能源技术、材料技术、生物技术等深度融合，深刻改变生产模式、产业形态和社会治理方式。2024年，我国首次将“人工智能+”行动写入《政府工作报告》，代表着人工智能从技术到应用的拓展，并将日益融入经济社会发展各领域全过程，塑造发展的新动能、新优势，推动形成新质生产力。

（一）人工智能赋能制造业转型升级

从工业1.0到工业4.0，制造业初步建立了计算机辅助产品与制造过程设计技术体系，以及计算机集成制造生产管控与自动化技术体系，制造的各环节逐步实现数字化，但复杂的决策推理工作依然依靠人工完成，且各环节间的数据仍然割裂，需要人工转换和迭代。

我国制造业有31个大类179个中类609个小类，是全球产业门类最齐全、产业体系最完整的制造业。制造业是我国国民经济的主导产业，是技术创新的主战场，也是供给侧结构性改革的重要领域，中国经济要实现高质量发展，必须有高质量的制造业作为支撑。当前，我国许多制造业企业数字化转型进入“深水区”，以数字技术、网络技术与传统行业融合叠加已不能满足制造业高质量发展的要求，人工智能与制造业深度融合是我国到2035年基本实现新型工业化目标的必然要求。越来越多面向垂直场景的行业大模型不断涌现，这些行业大模型依托基础大模型的结构和知识，融合工业细分行业的数据和专家经验，可以为制造业垂直领域的技术突破、产品创新、生产变革提供低成本的解决方案，将成为推动制造业智能化改造、数字化转型，加快推进新型工业化，培育发展新质生产力的新引擎。

（二）人工智能赋能医疗健康领域发展

生命是一个多层次、多尺度、动态互联、相互影响的复杂系统，现有的理论研究、临床试验、医学诊疗难以从大规模、多样性、高维度数据中抽提隐匿的关联和机制（李鑫、于汉超，2024）。

随着社会进步，人们越发关注健康问题，特别是人口老龄化问题不断加剧，社会对于提升医疗技术、延长人类寿命、增强健康的需求也更加急迫。加之医疗资源分配不均，药物研制周期长、费用高以及医务人员培养成本过高等问题，将进一步激发以人工智能技术推动医疗健康产业变革。随着人工智能技术的逐渐成熟，人工智能在医疗健康领域的应用场景将越发丰富，人工智能技术也将逐渐成为促进医疗健康行业发展，提升医疗服务水平的重要因素。

（三）人工智能赋能社会治理现代化

人工智能以要素的数据化与汇聚化、规则的算法化与人机共治为特征，与现代化社会治理所需要的大数据分析基础能力、问题分析与精准预测、辅助决策功能等紧密相关，将为社会治理带来新思路和新机遇，推动社会治理能力和效率的提升。

人工智能技术能够充分挖掘数据要素价值、应用数据并产生新数据，特别是在大模型、大算力的支持下可以进行实时数据分析、生成成果并即时发布，极大提高了信息分析与传递效率，是提升社会治理效率和治理效能的强大推动力（潘教峰，2023）。人工智能技术改变了政府与社会互动的方式，推动形成新的治理结构。构建智能化、一体化的政务服务平台能够高效协调各部门，实现全时空、跨领域、跨部门的协同管理，并为群众提供更加智能化、个性化的公共服务，创新行政管理和服务方式。此外，生成式人工智能带来通用型技术的突破，正在催生新的人机界面沟通方式，提高办公效率。通过实时调用政府后台大数据进行分析，提高突发事件的监测预警和应急处置能力，并通过向管理者和决策者呈现全面、准确、客观的数据与报告，辅助决策者实现决策科学分析。

人工智能赋能社会治理是一项系统性工程和根本性变革，推动从传统经验治理转向信息化应用模式，从单一维度治理转向时空融合多维精细化治理，从人工治理转向人机共治协同治理。在此过程中也会带来数据泄露、技术滥用等问题，出现由于公众数字化能力差异引发的数字鸿沟问题，给社会公平带来挑战，需要建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德，实现规范与发展的动态平衡，营造公平规范的治理生态。

四、人工智能伦理风险与治理

新一代生成式人工智能技术取得突破性发展，在被广泛应用于经济社会各领域的同时，也伴随着难以预测的伦理风险挑战，伦理问题反向制约着人工智能的健康发展。习近平总书记指出，要加强人工智能发展的潜在风险研判和防范，确保人工智能安全、可靠、可控，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。特别是在2024年5月5日至7日习近平主席访问法国期间，中法两国元首在人工智能方面达成重要共识，强调要深化关于人工智能国际治理模式的讨论，促进安全、可靠和可信的人工智能系统。

（一）人工智能发展带来的伦理风险挑战

人工智能伦理风险正在显现。随着以ChatGPT、Sora等大模型为代表的新一代生成式人工智能技术取得突破性发展，在推动人类社会发生深刻变化的同时，也伴随着难以预测的伦理风险挑战。

人工智能语音诈骗兴起。2019年，犯罪分子利用人工智能语音生成软件，模仿并冒充一家德国公司CEO，诱骗多位企业员工向其转移资金，使公司损失22万欧元。人工智能视频诈骗真假难分，随着人工智能大步进军视频生成领域，视频生成模型Sora能够遵循文字指令，生成长达1分钟的高清视频。Sora生成的视频可以以假乱真，使得造假范围进一步扩大，区分现实与虚假的难度大大增加。2024年2月，诈骗者通过YouTube视频和从其他公开渠道获取的媒体资料，仿造了英国公司高层管理人员的形象和声音，再利用Deepfake（深度伪造）技术制作伪冒视频，跨国公司香港分行职员前后为其转账15次，共2亿港元。

从个体视角看，人工智能伦理风险主要出现在应用场景中，涉及安全与责任、隐私、感情等维度。从社会视角看，人工智能正带来不可忽视的社会伦理问题。首先是人机信任问题，人工智能存在黑箱性，所做出的决策不可解释或内嵌偏见。其次是就业替代问题，人工智能的广泛使用导致数字弱势群体被边缘化，取代部分人类劳动。再次是思维控制问题，人工智能通过算法推荐影响个体思维，带来操控群体行为、影响社会舆论等问题。此外，还涉及深度伪造问题，生成式人工智能突破式发展、快速迭代演化，带来虚假信息生成、深度伪造欺诈等问题。

从全人类视角看，人工智能可能给人类群体带来严重的威胁。一方面，人工智能技术的武器化可能带来前所未有的安全挑战。自主武器系统能够在没有人类直接控制的情况下做出攻击决策，这可能导致新的战争形式，增加了误判和不可预测的风险，对全球安全和国际秩序构成重大威胁。另一方面，生成式人工智能对人类知识系统产生颠覆性影响。生成式人工智能能够创造逼真的文本、图像、音频和视频，这将对现有知识系统中的生成主体、传播方式、知识发现所有权等产生颠覆性改变。

（二）主要国家应对人工智能伦理挑战的举措

伦理风险涉及个人权益、社会公平，更关乎全体人类的共同命运，人工智能的伦理治理已经迫在眉睫。在国际上，各个国家和地区正在积极探索人工智能伦理治理举措，逐渐从伦理指引走向法律监管，根据自我发展情况探求发展与治理的平衡。

美国作为人工智能的领先国家，将“创新优先”视为其首要理念，保护美国的人工智能资产及竞争力，巩固美国在人工智能方面的全球霸权。美国联邦政府在人工智能监管方面的态度较为审慎，常以指南、白皮书等形式为市场提供监管参考，如2023年10月拜登签署的《关于安全、可靠、可信地开发和使用人工智能的行政命令》。美国企业的伦理自治能力较强，具有自下而上的治理特征。如微软于2017年，谷歌、IBM于2018年建立企业伦理委员会，对人工智能产品进行伦理审查。

欧盟一贯坚持尊重人权，强调以“强监管”的方式引领制定伦理原则和构建法律法规，确保人工智能的发展和应用符合人类权益。2023年，欧盟就《人工智能法案》达成协议，成为全球首部人工智能领域的监管法律，旨在以分级分类的方式对人工智能系统进行监管。该法案对全球人工智能伦理治理具有重要意义。欧盟法律也对中小企业进行了一定程度豁免，以增强其竞争力，抵抗大型企业的竞争压力。《通用数据保护条例》（GDPR）中对中小企业提供了一系列豁免。

重要国际组织积极引导伦理治理，推动人工智能健康发展。2021年6月，世界卫生组织邀请各国卫生健康领域人工智能伦理专家编写并发布人工智能在医疗卫生方面应用的伦理指南，确保人工智能在卫生保健和公共卫生方面的全部潜力将用于造福所有人。2021年11月，联合国教科文组织193个成员国联合签署了《人工智能伦理问题建议书》，定义了人工智能健康发展所需的价值观和原则，为人工智能的使用提供了伦理指导（马平川，2023）。

我国在人工智能治理上，主要以政府的监管力量推动，旨在促进人工智能的创新和安全发展，提高人工智能的技术水平和应用能力以服务国家发展。我国的人工智能治理在近年来取得快速发展，从点状治理逐步走向综合治理、精细治理。在加强顶层设计方面，2019年，科技部宣布成立新一代人工智能治理专业委员会，加强人工智能相关问题研究；随后在2021年，国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》，着力推动人工智能健康发展。在管理细则方面，自2021年以来，为应对生成式人工智能快速发展带来的严重伦理问题，政府快速响应，颁布《生成式人工智能服务管理暂行办法》等系列文件，企业在此基础上积极配合审查、设立伦理审查委员会等，有效保障人工智能的合规、健康发展。

人工智能是当前推动社会生产力最重要的技术之一，但其技术复杂且应用广泛，发展路径、应用场景等存在高度不确定性，对伦理治理提出更高要求。如何有效应对人工智能带来的伦理风险，平衡发展与治理的关系已成为世界各国面临的共同问题，有效的伦理治理能够帮助科技向善发展、造福人类。

五、推动我国人工智能发展的建议

面对日益激烈的人工智能大国竞争，我国应加强研判，统筹谋划，扬长避短，协同创新，稳步推进，走出一条有中国特色的人工智能发展道路。

一是强化人工智能顶层设计，抢占科技制高点。统筹谋划人工智能顶层设计，进一步明确我国人工智能发展战略、策略、路线图，系统布局人工智能发展优先领域，强化战略规划引领作用，保障人工智能的安全和可控。采用科学方法，综合研判人工智能发展新特征、新趋势，强化动态评估，及时调整战略目标和实施路径，适应人工智能领域的快速变化。深入研究处理好人工智能发展中模型规模扩张与跳跃发展、开源与闭源、竞争应对和加速落地、自主创新与国际接轨等核心关系，持续打造竞争新优势。

二是加强基础和应用技术攻关，构建富有生命力和活力的人工智能创新生态。加快建设人工智能领域的国家战略科技力量，推动人工智能与数学、物理、脑科学等基础学科交叉融合，提升人工智能基础研究水平。引导和组织优势力量聚焦解决人工智能“卡脖子”问题及基础层、技术层的技术攻坚，解决我国经济社会高质量发展中的重大需求。通过开源开放，推动形成全社会共建的人工智能产业生态，以开源项目为中心，由开源贡献者、服务者、使用者、运营者等参与主体组成的彼此依存、相互影响、共同发展的人工智能技术创新生态圈。

三是加速垂直领域应用落地，强化人工智能审慎监管。发挥我国超大规模市场和丰富应用场景优势，建立大模型行业工程中心，有序组织行业、科技领军企业、科研机构研发力量，结合垂直行业特点和需求，打造适应性强、效果好、价值高的大模型解决方案，为垂直应用领域的大模型研发和创新提供支持和服务，实现“集约化开发，平台化应用”。制定和完善各领域人工智能监管政策和标准，明确人工智能管理、评估、认证等方面要求，开展人工智能数据隐私保护、模型安全等安全性评估和漏洞检测，引导企业在技术研发、产品设计和运营过程中遵循相关标准，确保人工智能发展安全可靠。

四是强化人工智能伦理规制，建设人机物三元和谐社会。超前部署人工智能风险研究，提前预判人工智能技术应用可能带来的社会影响，强化政策和法规的预案，防范和化解人工智能的风险和挑战。建立科技伦理框架和法律法规，明确人工智能技术的研究和应用原则，规定学术科研机构和企业要在人工智能全生命周期内严格遵守科技伦理、技术标准及法律法规，引导科研人员发展负责任的人工智能。建设人机物三元融合的多层次协同治理平台，深化跨部门、跨地区、跨领域、跨行业人机物数据的共享和调用，依托数字技术强化社会治理预测、预警和预防能力，促进形成人与自然、人与机器和谐相处的以人为中心的社会新形态。

五是加强人工智能监测预警，强化科学研判能力。综合运用大数据、人工智能等技术，通过多学科知识融合和多领域专家协同，搭建人工智能发展监测平台，开展人工智能战略和政策研究，整合全球范围政策、产业、技术等多元数据，强化基于大数据和人工智能技术进行数据挖掘和分析，及时捕捉人工智能领域的最新动态，提出预测预警预报，为人工智能技术创新和治理提供决策支持。在一定范围内建立监测结果共享机制，为政府、行业协会、龙头企业前瞻研判和战略布局，规避竞争风险提供科学参考。

预定2025年九折包邮