当前位置:首页|资讯|人工智能|金融

人工智能“燃冬”,谁来守护金融领域系统安全?

作者:中国电子银行网发布时间:2024-03-02

原标题:人工智能“燃冬”,谁来守护金融领域系统安全?

近日,在瑞士达沃斯举办的世界经济论坛2024年年会上,世界经济论坛创始人兼执行主席施瓦布在致辞中感慨道:2023年年初,生成式人工智能技术(AIGC)还只是个“婴孩”,不过一年时间竟已长成“少年”。

正因如此,“人工智能推动经济社会发展”成为今年世界经济论坛年会的四大关键议题之一,AI热度可谓点燃了这个以冰雪度假胜地闻名的小镇。业界普遍认为,人工智能技术在为人类社会发展提供机遇的同时,也在安全、治理、监管、版权、伦理等多个方面带来风险和挑战。

从技术角度来看,人工智能算法面临诸多涉及技术性攻击的安全风险。常见的人工智能算法攻击方法包括窃取攻击、药饵攻击、闪避攻击、逆向攻击、模仿攻击等。

近年来,借助人工智能迅猛发展的浪潮,银行业乘势推进数字化、智能化转型。国内部分商业银行积极布局AIGC以及其他人工智能技术相关的应用场景。

但是,人工智能算法的应用可能带来更多金融交易风险和数据泄露风险,给金融领域系统安全带来新的挑战。因此人工智能技术应用到金融领域,其安全性当为重中之重。

为保障人工智能金融应用健康发展,监管部门不断制定、完善相关法律法规与行业规范。2021年3月,中国人民银行发布《人工智能算法金融应用评价规范》(JR/T 0221—2021),为金融机构加强人工智能算法应用风险管理提供指引。

中国金融认证中心(CFCA)立足于金融行业,建立了涵盖安全性、可解释性、精准性和性能等方面的人工智能算法检测体系,可提供符合《人工智能算法金融应用评价规范》(JR/T 0221-2021)要求的人工智能算法金融应用评估服务。

2021年10月,CFCA作为试点检测机构参与了人工智能算法金融应用安全测评试点工作,对宁波银行“应用于快审快贷产品的LightGBM算法”进行了检测。检测结果显示,宁波银行送检的应用于快审快贷产品的LightGBM算法符合规范要求,具有较强的安全性保障。

近年来,CFCA在人工智能、多方安全计算、区块链、联邦学习等领域积极布局,参与各项技术标准和检测标准的制定,持续加大人工智能领域的投入,与产业各方广泛合作,为金融行业提供涵盖安全性、可解释性、精准性和性能等方面的人工智能算法检测服务,与各方携手共同推进人工智能技术在金融行业规范、健康发展。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1