生成式AI诈骗来袭，科技如何更好助力全民反诈
今年以来,人工智能得到了飞速发展,被广泛应用于各个领域,但与此同时,AI技术被黑产滥用的负面影响也逐步显现。今年的5月22日,“AI诈骗正在全国爆发”登上了微博热搜榜首。包头警方披露,不法分子利用AI换脸和仿声技术,在微信视频中进行冒充受害者朋友,10分钟内骗取430万元。
这只是AI技术滥用的冰山一角,类似事件正在世界各地频频发生,大量受害者遭受了金钱和精神上的双重损失。CBS在一档节目中警告老人:当接到子女打来电话要钱时,不要放松警惕,一定要问他们一个只有他们才能回答的问题。
同盾科技行业资深安全专家认为,当前黑灰产利用AI等技术升级攻击工具和策略的趋势越发明显。除了利用深度伪造技术进行语音或视频欺诈,其他诈骗手段同样值得警惕。
例如借助人工智能进行的电信“杀猪盘”诈骗。在某些海外社交平台上,已经有黑产团伙开始售卖利用逆向ChatGPT接口实现的聊天机器人,并宣称其可以用于电信诈骗活动。
过去,诈骗者使用的传统聊天机器人通常只能根据关键词与受害者对话,很容易被识破。然而,利用ChatGPT等工具构建的聊天机器人,可以结合对话的上下文和情感进行对话。普通人很难察觉其中的破绽。曾经有组织以“卖茶小妹”骗局进行测试,发现ChatGPT生成的话术与真实剧本几乎无法区分。
此外,ChatGPT强大的编程能力,也降低了很多底层黑产从业者使用高难度技术的门槛。此前,制作和使用免杀木马往往是高端黑客的专长,随着ChatGPT的出现,即便是技术能力较弱的黑产"新手"也能制作免杀代码和恶意载荷,发动网络攻击,从而控制用户的电脑终端并实现资金窃取。
在暗网上,已经有人在售卖类似代码。这种代码可以搜索受害者电脑中12种常见的文件,并将有价值的文件自动上传到黑产指定服务器。
同盾科技安全专家强调,尽管目前利用AI进行诈骗的手段较为粗糙,但是随着技术的发展,AI诈骗将变得更加难以识别。
对普通人来说,在日常生活中应当提高警惕,多关注媒体报道和网络曝光的诈骗案件,了解近期出现的作案手法,并及时提醒家人和亲友。同时,还应注意电信运营商发送的安全提示信息,公安机关发布的风险防范要点,以及金融机构通过各种渠道开展的知识宣教活动。
对银行等金融机构来说,这意味着未来面临的挑战更加艰巨。《反电信网络诈骗法》的出台,明确了金融机构的主体责任,也对银行的业务安全风控能力提出了更高要求。传统的反欺诈机制已经难以适应新的形势,金融机构同样需要借助人工智能等前沿科技的力量,精准打击各种新型电信诈骗。
总的来说,防范电信网络诈骗是一场需要旷日持久的斗争,需要政府、银行和企业共同努力,提升银行金融机构的风险防范能力。
面对这一挑战,同盾科技结合多年来积累的反电诈经验,提出“电信诈骗风险防御全场景解决方案”,为金融机构在应对电信诈骗挑战方面提供助力。
该方案从金融业受诈者及欺诈者双视角出发进行双轨识别,精准刻画电诈风险画像,围绕数据体系整合、平台体系规划、决策体系设计、运营体系建设四个方面,建立健全覆盖多层次的电信诈骗风险防控体系。方案覆盖了借记卡、贷记卡、信贷、对公、商户等多个业务场景,实现事前、事中、事后全生命周期风险识别、策略部署、账户管控、全流程风险核查、量化评估及运营、案件分析挖掘等。
例如在事中拦截阶段,通过丰富的反电诈策略、时序分析及实时反诈模型,全场景解决方案可以识别可疑交易,提升事中风险监测识别能力。对于高、中、低不同级别疑似欺诈风险,分别通过拦截或实时阻断、二次认证处置、电话银行外呼提醒客户等方式进行处置。这些技术的运用不仅可以保护消费者免受诈骗的侵害,还可以帮助金融机构提升防诈效能,从而降低整个社会的诈骗风险。
未来,同盾科技将继续深耕AI反诈领域,不断提升解决方案的效果,提供更多的防御机制,以期为网络安全环境的稳定做出更大的贡献。