Sora刷屏，AI狂飙，如何应对人工智能算法新风险？
人工智能领域，一年一个“王炸”。
2022年11月30日，ChatGPT横空出世，成为人工智能技术发展的里程碑，14个月之后的2024年2月16日，视频生成大模型Sora问世，再度刷屏全球网络。
从ChatGPT到Sora，新一代人工智能在收获大量关注的同时，也引发公众的安全担忧。人工智能算法应用在金融行业的普及，更为金融信息安全带来新的挑战。
挑战1：AI算法应用风险
应用于人工智能的机器学习和深度学习技术，工作原理极为复杂，导致人工智能算法通常缺乏可解释性。人工智能产品和系统受到药饵攻击、对抗样本攻击、物理攻击、后门攻击等恶意攻击事件层出不穷，增加了金融交易风险和数据泄露风险。
为保障人工智能金融应用健康发展，监管部门不断制定、完善相关法律法规与行业规范。2021年3月，中国人民银行发布了《人工智能算法金融应用评价规范》（JR/T 0221—2021）（以下简称《人工智能算法规范》），为金融机构加强人工智能算法应用风险管理提供指引。
中国金融认证中心（CFCA）立足于金融行业，建立了涵盖安全性、可解释性、精准性和性能等方面的人工智能算法检测体系，可提供符合《人工智能算法规范》要求的人工智能算法金融应用评估服务。
2021年10月，CFCA作为试点检测机构参与了人工智能算法金融应用安全测评试点工作，对宁波银行“应用于快审快贷产品的LightGBM算法”进行了检测。检测结果显示，宁波银行送检的应用于快审快贷产品的LightGBM算法符合规范要求，具有较强的安全性保障。
挑战2：人脸识别欺诈风险
人脸识别技术作为身份识别的一种手段，发展迅速并广泛应用于各行各业。然而，来自非法用户的人脸欺骗攻击给人脸识别技术应用带来很大的安全隐患。尤其近年来AI换脸、视频生成大模型性能越来越先进，客观上增加了人脸识别欺诈风险。
为了解决这一问题，人脸活体检测技术应运而生，可有效抵御照片、视频、换脸、面具、遮挡、3D动画以及屏幕翻拍等常见攻击手段。
中国人民银行于2019年1月发布《人脸识别技术线下支付安全应用规范（试行）》（以下简称《人脸识别安全规范》），从客户端软件、受理终端、交易系统等维度提出了诸如通用技术要求、系统安全要求、交易安全要求等多方面的要求。
CFCA作为第三方检测机构，从多角度提供人脸识别活体检测算法相关安全检测服务，除了依据《人脸识别安全规范》覆盖人行监管要求外，还会结合在项目中积累的如对抗样本攻击、3D动画、真人攻击、自动化测试、接口安全验证等实战经验，优化相关检测服务。
近年来，CFCA在人工智能领域积极布局，参与国家和金融行业技术标准和检测标准的制定，提供适用于人脸识别活体检测算法的专业安全检测。
AI“狂飙”风口已至，CFCA愿与各方携手，共同推进人工智能算法应用规范、健康发展。
