当前位置:首页|资讯|人工智能

人工智能安全挑战迫在眉睫

作者:上海证券报发布时间:2024-07-26

在大模型时代,如何确保人工智能安全、可信可控?在中国人工智能产业发展联盟(下称“AIIA”)安全治理委员会近日召开的“守护AI安全,共话向善未来——AIIA安全治理委员会成果发布会上,来自产学研各界的近200名行业专家、高校学者以及企业代表共话AI安全。

上证报中国证券网讯(窦世平 记者 李雁争)在大模型时代,如何确保人工智能安全、可信可控?在中国人工智能产业发展联盟(下称“AIIA”)安全治理委员会近日召开的“守护AI安全,共话向善未来——AIIA安全治理委员会成果发布会上,来自产学研各界的近200名行业专家、高校学者以及企业代表共话AI安全。

人工智能安全本身就是人工智能能力的体现

近日,微软蓝屏宕机事件引发各界反思,一次互联网时代的软件瑕疵都会引发全球“瘫痪”,若剧情在AI时代重新上演,损失将不可估量。

中国信通院人工智能研究所所长魏凯在会上表示,世界各国都对人工智能的发展表示出非常大的期待,不论是发达国家或者发展中国家,普遍认为人工智能是一个巨大的机遇,同时也对人工智能的确定性安全和风险挑战表示担忧。

人工智能发展与安全的关系究竟应该如何平衡?

中国科学院自动化研究所研究员、国家新一代人工智能治理专委会委员、联合国人工智能高层顾问机构专家曾毅认为,作为科技创新者,思考科技突破带来的社会风险应该是我们内生基因的一部分,不存在人工智能能力与安全的平衡,人工智能安全本身就是人工智能能力的体现。

人工智能治理对跨界复合能力提出了更高的要求

人工智能天生具备高度交叉的技术和产业属性,跨界融合正成为人工智能发展的主流形态。北京大学法学院教授、人工智能研究院AI安全与治理中心主任张平表示,人工智能归根结底不只是一个技术问题,像北大人工智能研究院就聘用了文史哲政经法所有学科的老师,而不仅仅是技术研发的老师,聚集了许多人文社科领域的老师一起去探讨人工智能的问题。

“对于法学专家来讲,首先要了解技术特征。如果不了解技术特征,你写的规范和规制的思路是不适用这个技术的,换句话说是无效的,可能逻辑推演是严谨的,但现实中是没法用的。所以对于法学专业来讲,你要根据这种特征和特性来设计一套配置方案出来。这是最大的挑战。”中国法学会法治研究所研究员、中国法学会网络与信息法学研究会副秘书长刘金瑞说道。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1