《人工智能安全作为全球公共产品》报告发布，监管治理亟待克服“共同无知”挑战
南方财经全媒体记者 吴立洋 上海报道
7月5日，2024世界人工智能大会同期举办的“加速‘人工智能+’ 构筑新质生产力”主题活动在上海拉开帷幕，人工智能领域科技企业及机构代表、知名院校代表、业内优秀专家学者等齐聚徐汇西岸，共议人工智能发展，探讨人工智能作为新质生产力与各行业的技术融合。
在本次活动上，上海人工智能实验室治理研究中心、清华大学产业发展与环境治理研究中心、上海交通大学国际与公共事务学院等单位共同成立的联合研究团队正式发布《人工智能安全作为全球公共产品》研究报告（以下简称《报告》）。
基于上海市大模型安全治理实践，《报告》首次提出应将人工智能安全视为“全球公共产品”的理念，提倡各方应致力于建设具有公共性的安全知识、能力、资源，统筹安全与发展双重目标，推动该领域的理论发展与实践探索。
《报告》的核心概念——“人工智能安全作为全球公共产品”是指，考虑到人工智能技术创新、产业应用规律及其引致风险机制的特殊性，人工智能安全应被视为具有公共属性的知识、能力、资源，政府、企业、第三方等不同主体需要在共商共建共享过程中共同探索，促进关于人工智能安全知识、能力、资源的增长和积累。这一公共产品可更好指引人工智能产业发展与社会应用，确保每个人及人类整体从中获益，形成“小河有水大河满”的良性生态。
人工智能安全作为全球公共产品的理念认为，人工智能安全在消费上应具有非竞争性、在收益上应具有非排他性：前者是指，人工智能安全知识、能力、资源并不因新增主体而降低原有主体的使用与消费；后者是指，人工智能安全知识、能力、资源在使某些主体受益的同时，不排斥其他主体受益。
《报告》认为，为实现“人工智能安全作为全球公共产品”的目标，应在尊重多边、多方自主决策的基础上，充分发挥各国政府、联合国及其他政府间国际组织、国际社会其他公共机构等的引导、桥接、催化作用，推动国际社会在人工智能安全领域形成能力共建、风险共担、体系共商、知识共享的可信治理环境，以克服集体行动困境，实现人工智能安全作为全球公共产品的可持续生产、维系与再生产。
以上海应对大模型安全治理的实践经验为例，《报告》提出，一方面，针对安全风险的不确定性和动态性特征，监管部门应转变传统监管思路，成为安全治理知识的学习者、汇聚者、传播者，以克服“共同无知”挑战。
另一方面，针对发展与安全目标的对立、统一问题，监管部门应一边抓安全风险“底线共识”，一边创设跨部门协同机制，在为一线创新应用主体提供宽泛发展空间的同时，保留事中事后责任追究可能性的“惩罚性威慑”。
此外，针对安全治理机制的碎片化问题，需充分调动公共科研、技术机构的监管支撑能力，并在此过程中广泛纳入利益相关方参与，以过程的开放性来实现安全评测数据库等安全资源库建设的公信力。
作为上海乃至全国的创新高地，此前徐汇在人工智能产业发展与安全协同方面已有诸多探索。2023年，上海打造全国首个、上海唯一大模型创新生态社区“模速空间”，创建上海首个人工智能大模型产业生态集聚区，全区累计支持22个大模型根据《生成式人工智能服务管理暂行办法》通过上线备案、占全市的2/3，推出全市首部区级大模型专项政策（《徐汇区关于支持人工智能大模型发展的若干意见（试行）》），并以此为依据启动首期算力补贴和大模型应用场景征集，政策力度。
上海市徐汇区委副书记、代理区长王华在活动发言中表示，徐汇将始终立足上海、对标国际，积极创建生成式人工智能创新生态先导区，进一步做强“模速空间”，依托徐汇滨江六大百万体量产业组团，吸引集聚更多大模型创新企业和人才团队。
在本次活动上，《徐汇区关于支持西岸人工智能大模型科创街区建设的扶持意见》正式发布，涵盖增强大模型创新能力、强化算力和数据供给、支持产品研发和协同创新等十个方面的内容，并与中国电信人工智能研究院、库帕思、埃迪希、魔搭社区等16家大模型开发应用核心企业完成了集中签约的仪式。
本次活动由中央广播电视总台研究院、上海交通大学和上海人工智能实验室共同主办，中央广播电视总台超高清视音频制播呈现国家重点实验室、中央广播电视总台上海总站、上海交通大学人工智能学院和上海交通大学国际与公共事务学院承办。
更多内容请下载21财经APP
