眼见不一定为实的AI时代，企业如何炼出“火眼金睛”?

伴随着企业数智化转型升级，安全风险不断增加。近两年，生成式AI的发展让世界变得“耳听可能为虚，眼见不一定为实”，在线欺诈、深度伪造的手段也是魔高一丈，令消费者与企业感到担忧，甚至蒙受损失。

西行取经路上，猴哥的火眼金睛让一众妖魔鬼怪原形毕露。在AI时代，企业更需要“火眼金睛”勘破风险。

AI时代的欺诈风暴令人担忧

技术是把双刃剑，生成式AI带来了新一轮技术革命，为社会带来了效率、创造力的提升，也增加了网络欺诈等方面的风险。

身份验证、eKYC和合规解决方案提供商Jumio发布的《2023年在线身份研究》显示，67%的消费者意识到生成式AI工具可以制作伪造的视频、图像和音频等内容，将会为身份欺诈带来更大风险。假冒诈骗已经成为一个全球性问题，其影响深远且代价巨大。去年6月在内蒙古包头，骗子通过AI换脸和拟声技术佯装好友实施诈骗，导致被害人10分钟内被骗走430万元。

对于企业而言，以金融行业为例，尽管很多企业已经意识到KYC(了解您的客户)流程的重要性并开始部署，但在生成式AI的挑战下，这一流程正面临着前所未有的考验。例如，诈骗团伙利用生成式AI技术伪造身份证件和护照，通过线上银行进行诈骗活动，往往造成巨大的经济损失。

Jumio亚太区区域总监丁娜娜介绍，随着AI技术的发展，欺诈手段也在升级。常见的欺诈手段可以细分为呈现型攻击和注入式攻击两种。欺诈者使用图片、视频、面具等代替合法的自拍进行身份验证属于呈现型攻击，通过技术手段(使用虚拟摄像头、黑客攻击供应商的API或SDK、在传输过程中切换有效数据)将深度伪造的内容注入到数字流中属于注入式攻击，比如使用虚拟摄像头换脸，注入式攻击需要更多技术对抗。根据Gartner的数据，呈现型攻击比注入式攻击常见约10倍到100倍。

随着AI技术不断发展，未来注入式攻击的风险也会逐步提高，将为身份验证带来更大的挑战，实际上我们现在比较头痛的深度伪造依赖于摄像头注入攻击，很多人对此表示担忧。

《Jumio 2024在线身份研究报告》显示，近四分之三的消费者(72%)每天都担心被深度伪造欺骗，从而泄露敏感信息或被骗金钱。只有15%的全球消费者(新加坡只有7%)表示他们从未遇到过深度伪造的视频、音频或图像。

在企业方面，Jumio亚太区副总裁Frederic Ho介绍，受监管的行业(如银行等金融机构)、因欺诈会立即受到很严重的商业损失的企业、特别重视品牌声誉和品牌形象的企业会对深度伪造技术特别担忧。

何以解忧?唯有用AI打败AI。

让AI对抗AI，以魔法打败魔法

一些生成式AI生成的图片已经可以做到以假乱真，肉眼很难通过光影对比等常规手段进行分辨，而生成式AI是通过模型像素级拟合出来，一些实现细节只有通过另一个模型才有可能识别出来。面对新的AI技术所带来的欺诈风险，我们只有让AI对抗AI驱动的欺诈，以魔法打败魔法。

例如，AI可用于检测篡改迹象，如文字和照片篡改。采用基于面部的生物识别技术和先进的活体检测技术，可以检测到复杂的欺骗攻击，如人脸互换和人脸变形等。

事实上，越来越多的企业正在利用基于AI的生物识别和活体检测技术来加固其欺诈预防系统。Jumio数字身份调查表明，由于生成式AI的兴起和深度伪造图像的出现，54%的全球受访者认为面部识别技术在身份验证方面将发挥更大价值。

Jumio以创新的生物识别、活体检测、欺诈分析等技术，提供了一种有效的以AI对抗AI的策略。Jumio的流程简洁而高效，用户只需拍摄身份证照片，然后自拍，系统便会迅速完成身份验证。在这一过程中，Jumio运用AI技术进行实时分析，不仅验证身份证的真实性，还确保了验证过程的真实性。

Jumio亚太区副总裁Frederic Ho认为，生成式AI可以做好事，也可以做坏事，关键是做好事的一方要跑在前面。

Jumio也在不断利用生成式AI技术提升自己的系统能力，一方面，在身份提取场景，通过生成式AI提升机器提取身份证信息的准确性，当机器通过OCR提取身份证上的信息后，通过生成式AI进行检查，有助于扫描和提取数据的准确性。另一方面，利用生成式AI生成一些欺诈场景测试Jumio的识别系统，也就是让生成式AI当陪练，帮助提升Jumio系统模型的识别能力。

AI三要素模型(算法)、数据、算力，想要用AI打败AI，在应用层面，模型和数据最为关键。

模型和数据共同构筑起了Jumio的防护高墙和技术壁垒，自2010年成立以来，Jumio一直深耕AI技术，拥有40+深度学习模型，Jumio已在全球范围内处理了超过10亿笔身份验证的交易，业务覆盖200多个国家和地区，积累了全球第二大黑名单数据库。

Frederic Ho强调，构建系统安全性不能以牺牲用户体验为代价，Jumio始终会兼顾安全性与性能，确保最终用户体验。此外，Jumio会不断强化技术产品能力，同时也会采用机器+人工核验的方式不断提升风险识别能力。

实际上，一些行业可能因为监管原因，需要人工审核介入，但是随着技术不断发展，以及政府意识的转变，未来AI在身份核验、风险识别等方面的应用会越来越广泛。

小结：没有绝对的安全，要及时阻止进一步破坏

世上并不存在绝对的安全，安全是相对的。丁娜娜介绍，不同的企业有不同的应用场景，其风险度存在差异，不同的用户或者不同的行业的风险喜好度也不一样，Jumio可以通过数据分析为企业推荐适合的解决方案，提供企业所需要的验证服务。她建议企业使用在线解决方案，这样可以借助Jumio在全球网络的最新实践，及时发现最新的欺诈行为。

Frederic Ho指出，其实没有一家公司能够确保总是领先于破坏行为，“我们每天都要在不断地监测所有的这些数据，我们能做的是在第一时间发现这种新的欺诈模式，并且阻止它造成进一步的破坏，你要100%地预防所有的新的欺诈是不可能的。”

AI与AI的对抗，往往是道高一尺魔高一丈。像Jumio公司拥有海量的数据和先进的模型，能够让我们有机会第一个发现新出现的欺诈模式或方法，可以第一个做出反应，阻止破坏范围扩大。