“全球首要风险”已出现在零售金融行业

一个诈骗集团，在不到1年的时间里，盗用至少8名市民已报失的身份证，向20家银行及借贷公司递交共计90次贷款申请以及54次银行账户开户申请，绝大部分是通过网上申请。最终有4次贷款申请成功，涉及款项共计20万港元。

这是去年8月发生在香港的，一起利用人工智能换脸技术骗取金融机构贷款并开设银行账户的典型案例。

香港网络安全和技术犯罪局局长表示：“该诈骗团伙使用人工智能换脸程序，俗称 Deepfake 技术，向金融机构在线申请贷款。”

一般金融机构会要求贷款客户在申请贷款过程中进行实时自拍照，以证明自己的身份。在该案例中诈骗者使用人工智能改变他们的面孔，以匹配被盗身份证上的面孔。

诈骗集团还使用窃取的身份注册了数十张 SIM 卡，这些卡被用来发送未经请求的钓鱼信息，以获取信用卡详细信息和个人信息。

香港警方表示，这是首次发现嫌疑人使用人工智能换脸技术的犯罪手法。

该案件中提及的Deepfake 深度伪造技术，可能令人感觉陌生，但如果说“AI换 脸”，想必大家都能联想到一些社会事件。

不管是美国选民接到“美国总统拜登的电话”，还是前不久韩国爆发的Deepfake换脸不雅视频事件都令全世界感到惶恐。

深度伪造技术在最近几年常被非法用于经济、政治、社会等领域。

当然，金融行业也未能幸免。

据德勤最新报告，作为对抗性AI攻击的典型代表，深度伪造攻击仅去年一年就暴增了3000%。预计2024年深度伪造事件将增加50%至60%，今年全球将发生14-15万起深度伪造案件。

与深度伪造（Deepfake）相关的网络攻击损失预计将从2023年的123亿美元飙升至2027年的400亿美元，复合年增长率达到32%，银行和金融服务业将成为主要目标。

01 深度伪造对行业影响

马上消费人工智能研究院方案解决专家向「一只互金鹅」透露，早在2017年左右，以 deepfake为主的深度伪造技术就已经开始在包括金融行业的各个领域出现欺诈和侵犯隐私的案例。

随着人工智能技术，尤其是深度学习、生成式AI等技术的快速发展和成熟，以及开源工具和算法的普及，深度伪造技术门槛越来越低。

一个可怕的现象是——原来的AI换脸等深度伪造技术都是专业团队在做，需要一定编程能力。但现在，非专业人士就能快速利用一些API和APP工具快速合成换脸视频。例如美图秀秀、抖音等to C软件上也有AI换脸工具，导致整个网络上产生了严重的信息安全和真实性问题。

在国外，深度伪造技术也被用来伪造一些领导人发言，影响舆论。

在金融行业，黑产会利用客户身份证上面的照片做成伪造内容，尤其是在贷款申请、提现、转账等环节。

如果金融机构遇到此类黑产攻击，不仅会为机构带来直接的资金损失，造成不良率提升，品牌信誉受损，金融客户的权益受影响，甚至会影响市场走势，波及国家经济稳定。

02 金融机构如何防范深度伪造

近几年，针对此类黑产的伪造欺诈，马上消费研发了一系列拦截工具。

但随着伪造工具的下沉，现在使用deepfake深度伪造工具的人越来越多，对应的黑产攻击方式也更加多样化。

金融机构原来的小模型迭代速度跟不上攻击技术的发展，鲁棒性和泛化能力弱。在此背景下，马上消费开发了防伪大模型。

马上消费自研防伪大模型基于自身海量的业务数据以及首个金融行业规模最大的防伪检测数据集，经过不断的训练、迭代，可有效拦截市面上百种攻击类型，包括最具威胁的AI换脸、照片活化等攻击，同时利用超声建立跨模态信息机制有效拦截深度伪造的前置攻击，全面防御深度伪造攻击和注入攻击。

防伪大模型性能也大幅提升。迭代周期最快缩短至 1 天，真人通过率99%的情况下，防伪拦截率从 90.0% 提升到 98% 以上，实现人机协同的金融防伪新应用模式。

“相较于小模型而言，防伪大模型采用了transform深度编码方式，图像特征提取会更加详细有深度。比如，可以将活体照人脸细节特征以及域外上的一些细节特征都提取出来。除了输出真或假结果信息外，还可输出分类信息和防伪细节。

此外，大模型对于数据的容忍性更好，对于数据的吸收能力更强。” 马上消费人工智能研究院该专家透露，防伪大模型随着数据不断的增多，防伪大模型会产生知识的涌现能力，可拦截一些从未见过的攻击数据。

马上消费防伪大模型把原来通过模型迭代的方式变成了数据迭代，并不断扩充数据的多样性和体量。

此举从另一个层面也是提高模型的泛化能力，保证黑产在快速扩撒之前，短时间之内快速形成拦截能力，避免平台带来更大的损失。

都说数据是大模型的“粮食”，所以提及防伪大模型的难点就离不开“数据收集”。

该专家表示，马上消费大模型对应的数据都是在用户授权下才会使用，确保监管要求的数据合理性、合规性。

由于人脸信息数据属于个人隐私数据，所以在和深度伪造等黑产做斗争时，很难共享遇到的案例以及实践经验，机构和机构之间目前不会共享个人隐私数据。

马上消费人工智能研究院方案解决专家坦言，“每个金融机构有自己的黑产攻击数据库，我们也在考虑下一步能否通过隐私计算的方式，在保证数据合规和安全性的前提下，与行业共享相关案例。”

科技不断进步，黑产攻击也越来越复杂，金融机构只有不断更新安全策略和技术，以应对不断演变的黑产攻击手法。

本文来自微信公众号“一只互金鹅”，作者：小慧吖，36氪经授权发布。