网信办发布《全球人工智能治理倡议》，聚焦人工智能安全风险！
10月18日，中央网信办发布《全球人工智能治理倡议》（后文简称为《倡议》）。《倡议》明确提出，发展人工智能应坚持相互尊重、平等互利的原则，各国无论大小、强弱，无论社会制度如何，都有平等发展和利用人工智能的权利。
《倡议》核心内容包括：坚持以人为本、智能向善，引导人工智能朝着有利于人类文明进步的方向发展；主张建立人工智能风险等级测试评估体系，不断提升人工智能技术的安全性、可靠性、可控性、公平性。细则中提出“ 积极发展用于人工智能治理的相关技术开发与应用，支持以人工智能技术防范人工智能风险，提高人工智能治理的技术能力”。
在我国，针对使用人工智能技术滥用问题，监管机构极为重视针对人脸识别领域的潜在风险，从2018年开始不断有相应法规问世，仅2023年便有《生成式人工智能服务管理办法》与《人脸识别技术应用安全管理规定（试行）》两大法规面世。
人工智能技术为我们带来众多便利，随之而来的是不法分子滥用技术导致的公共安全事件，如网络暴力、人工智能诈骗与攻击人脸识别防护系统风险，目前已成为人脸安全领域的重大威胁。
网络暴力方面，如果施暴者借助AI技术制作出极为逼真的照片、视频，丰富其编造的故事，对受害者的伤害将增加到无法承受的地步。
人工智能诈骗方面，普遍是先获取目标人脸图像信息，利用软件分析面部特征→换脸→活化图像，依靠用户对AI换脸技术的轻视和对社交软件中视频聊天内容的信任进行诈骗。
攻击人脸识别防护系统方面，由于人脸识别算法普遍基于深度学习算法，是依靠海量人脸数据进行特征提取、训练和识别，过度依赖数据因素，缺乏一定的可解释性。黑灰产可基于人工智能技术利用漏洞进行多种模式的绕过与攻击，为企业及客户带来巨大损失。
IT研究和分析机构Gartner于10月17日2024年十大战略技术趋势，其中包括：全民化的生成式AI、AI信任和风险与安全管理，目前不仅监管部门均高度重视生成式AI与AI技术的应用风险，各类机构也在努力提高从业者对相应领域的重视度。
爱加密坚持探索前沿技术，将技术创新应用于更多的业务安全场景，出色的技术实力曾获Gartner认可入选《Gartner全球App防护市场指南》。
为协助企业全面加强人脸识别安全性，爱加密推出了人脸安全综合防护系统，可全面加固任意人脸识别系统。通过集成检测算法的“查、打、防”三位一体的人工智能安全应用体系，能够有效抵御对抗样本攻击、深度伪造攻击等新型安全风险，从应用的生命周期进行检测，治疗和预防，大幅提升人脸识别系统的安全性。
“查、打、防”系统的“查”环节可检测APP运行环境是否存在安全风险，通过运行环境检测、注入攻击检测、视频流签名、数据加密等技术，防止通过摄像头劫持、图片/视频替换、HOOK、网络抓包等手段篡改人脸识别图片、视频。将各个阶段采集的数据上传到服务端评分系统进行安全评分，App根据评分结果进行业务决策。
在“打”环节，防御算法模型基于百万级的数据集训练，图片攻击拒绝率高达98.6%，视频攻击拒绝率99.6%。每张图片检测时间在350ms以内，视频检测时间约为视频时长的50%。并拥有三大功能：
1、攻击样本识别检查功能：支持对新型人脸深度伪造样本、对抗样本的鉴别检查。用户可在此基础上进行定制化开发，拒绝防火墙识别到的攻击样本进入后续流程。
2、样本分类洞察功能：支持以界面可视化的方式对检出的攻击样本进行判别，并分辨出风险流量和高危流量，支撑后续的研判分析。
3、样本检测引擎分析功能：支持分析检出的攻击样本类别，可针对风险样本和高危样本进行细分，支持定位到对抗、深伪以及其他类别，帮助分类查找识别。
“防”环节是长期提升能力的持久战，针对企业的相关人员提供模型安全检测平台，在每个系统上线前都能经过安全“质检”，同时可视化的攻防对抗靶场也可以让企业在日常开发中不断练兵。
爱加密人脸安全综合防护系统可以为人脸核身、在线视频等风险场景提供全面安全加固，防止新型安全攻击样本进入后续识别环节，进而保障业务安全，助力企业全面加固。
爱加密通过十余年技术积累和丰富的行业服务经验研发，助力人脸识别系统的安全运营，未来将继续凭借自身技术优势、业务资质优势、产品方案优势等，不断刷新人脸识别安全防护能力新高。
爱加密已成为国家信息安全漏洞库（CNNVD）、国家信息安全漏洞共享平台（CNVD）、工业和信息化部移动互联网APP产品安全漏洞库（CAPPVD）、国家互联网应急中心（CNCERT）网络安全应急服务支撑单位，多次获得政府及监管部门认可斩获众多重量级奖项，公安部副部长曾授予爱加密《首届国际移动应用分析大赛一等奖》。
欢迎给我们留言或评论~
我们将持续发布技术解读、解决方案、行业报告
点击关注，不错过下次精彩内容