人工智能安全挑战迫在眉睫

在大模型时代，如何确保人工智能安全、可信可控？在中国人工智能产业发展联盟（下称“AIIA”）安全治理委员会近日召开的“守护AI安全，共话向善未来——AIIA安全治理委员会成果发布会上，来自产学研各界的近200名行业专家、高校学者以及企业代表共话AI安全。

上证报中国证券网讯（窦世平 记者 李雁争）在大模型时代，如何确保人工智能安全、可信可控？在中国人工智能产业发展联盟（下称“AIIA”）安全治理委员会近日召开的“守护AI安全，共话向善未来——AIIA安全治理委员会成果发布会上，来自产学研各界的近200名行业专家、高校学者以及企业代表共话AI安全。

人工智能安全本身就是人工智能能力的体现

近日，微软蓝屏宕机事件引发各界反思，一次互联网时代的软件瑕疵都会引发全球“瘫痪”，若剧情在AI时代重新上演，损失将不可估量。

中国信通院人工智能研究所所长魏凯在会上表示，世界各国都对人工智能的发展表示出非常大的期待，不论是发达国家或者发展中国家，普遍认为人工智能是一个巨大的机遇，同时也对人工智能的确定性安全和风险挑战表示担忧。

人工智能发展与安全的关系究竟应该如何平衡？

中国科学院自动化研究所研究员、国家新一代人工智能治理专委会委员、联合国人工智能高层顾问机构专家曾毅认为，作为科技创新者，思考科技突破带来的社会风险应该是我们内生基因的一部分，不存在人工智能能力与安全的平衡，人工智能安全本身就是人工智能能力的体现。

人工智能治理对跨界复合能力提出了更高的要求

人工智能天生具备高度交叉的技术和产业属性，跨界融合正成为人工智能发展的主流形态。北京大学法学院教授、人工智能研究院AI安全与治理中心主任张平表示，人工智能归根结底不只是一个技术问题，像北大人工智能研究院就聘用了文史哲政经法所有学科的老师，而不仅仅是技术研发的老师，聚集了许多人文社科领域的老师一起去探讨人工智能的问题。

“对于法学专家来讲，首先要了解技术特征。如果不了解技术特征，你写的规范和规制的思路是不适用这个技术的，换句话说是无效的，可能逻辑推演是严谨的，但现实中是没法用的。所以对于法学专业来讲，你要根据这种特征和特性来设计一套配置方案出来。这是最大的挑战。”中国法学会法治研究所研究员、中国法学会网络与信息法学研究会副秘书长刘金瑞说道。