Sora可能挑战人类社会运行规则？专家：大模型治理应辩证统筹五对关系
近日，美国人工智能研究公司OpenAI发布文生视频大模型Sora，引起全球关注。Sora及其代表的人工智能大模型技术不断颠覆人们认知，显示出科技发展的巨大潜力和无限可能，也引发“饭碗焦虑”“深度伪造”、国家间关于“主权人工智能”竞逐等现实问题，给人类社会的现有运行规则带来深刻挑战。
技术狂飙之下，现有法律框架和治理体系如何跟进？为引导人工智能技术更好地赋能千行百业、为人类福祉服务，大模型治理应辩证统筹以下几对关系。
统筹发展与安全
人工智能是新一轮科技革命和产业变革的重要驱动力，大模型的发展对推动产业优化升级、生产力整体跃升具有关键作用。我国去年印发的《生成式人工智能服务管理暂行办法》指出，“国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展”。因此，要认识到大模型之于经济社会发展的作用和价值，以开放包容的心态和科学严谨的方法对待新技术应用。鼓励有条件的主体加强创新研发能力，加大对创新主体的支持，推动算法、数据、算力等各方面资源协同发展。鼓励各行业因时、因势地选择大模型应用场景和建设模式，以持续创造价值和效益。
在助力创新与发展的同时，大模型也存在模型决策不够透明、模型训练过程中对隐私信息保护不足等风险，所以大模型治理必须牢牢兜住安全底线，以高水平安全保障高质量发展。一是构建全方位安全保障体系，结合网络安全体系建设工作要求，加强人工智能内生安全、零信任防护等建设。二是增强数据安全保障能力，建立数据分类分级保护基础制度，健全数据监测预警和应急处置体系。尽可能精准识别生成式人工智能产生的风险，完善从数据到算法再到生成内容的全链路体系规制。三是营造包容审慎的监管环境，根据风险等级、应用场景、影响范围等情境，实施分级、分类、差异化监管。
统筹效率与公平
国家发展改革委、国家数据局印发的《数字经济促进共同富裕实施方案》指出，要通过数字化手段促进解决发展不平衡不充分问题，持续弥合“数字鸿沟”，促进公平与效率更加统一，推进全体人民共享数字时代发展红利。因此，在千行百业中应用大模型，既要帮助各行业创造出更高的效率，实现更高质量的发展，又要更有效地维护社会公平，实现效率与公平相兼顾、相促进、相统一。
一方面，大模型能够以降本增效的方式赋能千行百业，推动产业数字化和数字产业化，在助力高质量发展中实现共同富裕。例如，波士顿公司发布的《公共部门的生成式人工智能应用：从机遇到价值》认为，生成式人工智能可以帮助政府公共部门提高生产力和服务质量，其在国家、州或省以及地方政府中的生产力价值每年可达1.75万亿美元。另一方面，考虑到大模型的“双刃剑”特点，要特别关注技术应用中的公平问题，注意弥合新的“数字鸿沟”。在公共服务或社会治理场景中引用人工智能大模型，必须考虑其合规性问题，确保大模型的有效运用和使用者期望的合理满足。
统筹活力与秩序
要处理好有效市场和有为政府之间的关系，让大模型技术发展实现活而不乱、活跃有序的动态平衡。一方面，更好发挥政府、企业、社会的协同作用，深化各方面体制机制改革，充分释放全社会创造潜能，鼓励科学家、企业家、文艺家等各方面人才特别是青年人才创新、创造。
另一方面，公共部门要加强规范治理，对大模型背后的数据偏见、法律和隐私风险等加强防范，对其生成内容明确责任主体判定、加强可追溯与解释性。目前，一些国家和城市发布了公共部门应用生成式人工智能的临时指南，比如纽约“自动化决策应用指南”、波士顿“生成式AI临时指南”等。这些指南旨在明确大模型可以应用到哪些领域，并对“如何使用”提出了具体要求与提示，包括“禁止用例”“建议用例”“如何提问”以及“注意事项”等。然而，针对具体使用场景，不同国家和城市在“禁止”和“建议”上存在部分冲突，共识规则还有待形成。作为创新主体的企业，要强化社会责任意识，确保大模型的开发和应用符合伦理道德标准和法律法规，积极参与构建安全、可信、可持续的大模型时代。
统筹顶层设计与实践探索
要处理好“自上而下”和“自下而上”之间的关系。大模型治理既需要来自顶层设计的统一规划和整体布局，坚持“一张蓝图绘到底”，也需要汲取地方实践的养分，以“实践反哺理论”，两者相辅相成、缺一不可。没有顶层设计的系统部署和方向指引，大模型发展既可能因为难以协调各方关系而停滞不前，也可能因为各自为战形成新的“技术孤岛”；反过来，没有基层实践的积极探索与大胆创新，缺少来自实践前沿的经验和知识，顶层设计会成为无根之木、无源之水。
一方面，大模型治理要立足数字中国建设的时代背景，从经济社会治理数字化转型的全局出发，进行前瞻性、全局性布局，避免政策不配套、行动不同步、业务不联动、数据不互通、系统不兼容、安全不保障等问题。另一方面，各地区、各行业、各部门要结合具体情况开拓创新，特别是在前沿领域鼓励大胆探索、敢为人先，寻求有效解决新矛盾、新问题的新办法。当前，我国数字化转型已经进入“深水区”，大模型技术提供了新方向和新动力。要更好发挥各主体的能动性和首创精神，通过试点先行、创新大赛、揭榜挂帅、容错机制等撬动积极性，形成“试验—认可—推广”的创新路径，实现“以小见大、以点带面”的创新扩散。
统筹自立自强与对外开放
要处理好对内和对外之间的关系。一方面，立足国情谋划人工智能大模型发展，特别是要看到我国具有的超大规模市场、海量数据资源、丰富应用场景等多重优势。加快实现高水平科技自立自强，加强原创性、引领性科技攻关，坚决打赢关键核心技术攻坚战。提高大模型自主研发、管理能力，开发适合我国数字化转型的大模型应用。充分利用国家资金与社会资源，引导科研院所、高校等社会各界投身大模型相关的技术研发，提高成果转化率。此外，要警惕其他国家对我国生成式人工智能的技术封锁，加快生成式人工智能平台的自主研发及其在各行各业中的应用。另一方面，要坚持胸怀天下，拓展世界眼光，既紧跟世界数字技术发展的最新成果，又要以中国新发展给世界带来新机遇。要在持续追踪全球人工智能发展进展的同时，吸收他国技术应用的经验和教训。
（作者单位：中共上海市委党校）