建立AIGC可信来源互认机制，AI安全守护计划启动

近日在京举行的中国人工智能产业发展联盟（以下简称“AIIA”）安全治理委员会成果发布会上，工业和信息化部网络安全管理局、中国信通院人工智能研究所、邮储银行、讯飞数码、vivo、蚂蚁集团、第四范式等50家机构与企业代表共同见证启动了人工智能安全守护计划，该计划将共同建立AI系统情报共享机制、AIGC（生成式人工智能）真实性和可信赖来源互认机制，推动设立人工智能相关保险产品，提升国内人工智能技术的服务提供方、使用方的安全防护能力。

中国信息通信研究院（以下简称“中国信通院”）院长余晓晖说，当前人工智能安全治理需要汇聚行业各方智慧和力量，共同完善人工智能安全风险识别方法论，建立更为敏捷、精确的安全风险识别机制，尽早、尽快发现风险，加强人工智能安全评测技术工具的研究，通过技术来治理技术。

近日，微软蓝屏宕机事件引发各界反思，有业界人士提出，一次互联网时代的软件瑕疵都会引发全球“瘫痪”，若剧情在AI时代重新上演，损失将不可估量。中国信通院人工智能研究所所长魏凯说，世界各国都对人工智能的发展表示出非常大的期待，不论是发达国家或者发展中国家，普遍认为人工智能是一个巨大的机遇，同时也对人工智能的确定性安全和风险挑战表示担忧。

“随着当前AIGC内容越来越多，我们需要一定程度上区分到底哪些是人工生成，哪些是人工智能生成的。”AIIA安全治理委员会办公室主任石霖介绍人工智能安全守护计划时说，守护计划未来将推动建立统一的内容标识平台，推动实现AIGC内容可溯源、可追溯。同时，该计划也会围绕人工智能安全治理，以AI Guard 为品牌，联合国内外一些专家共同推动技术交流并共建实验室，通过试点示范等相关工作来推动人工智能安全防护水平的整体提升。

依托AIIA安全治理委员会，中国信通院在2024年上半年启动了大模型安全、AIGC检测、安全大模型、代码大模型安全、生物特征识别安全等联盟规范的制定和评估工作。会上，AIIA安全治理委员会评估结果正式公布，vivo、蚂蚁、中数通、齐鲁壹点、东方通、招商银行、阿里云、海康威视、中移金科、百度网讯、马上消费、科大讯飞、商汤等企业代表获得证书。

来源：北京日报客户端

记者：孙奇茹