犯罪分子使用人工智能的五种方式

人工智能极大地提高了犯罪分子的生产力。安全公司趋势科技的高级威胁研究员Vincenzo Ciancaglini表示，生成式AI提供了一个新而强大的工具包，使恶意行为者能够比以往更高效、更国际化地开展工作。钱卡利尼说，大多数犯罪分子“并不是生活在黑暗的巢穴里密谋行事”，他们大多是普通人，从事的日常活动也需要生产力。

去年见证了WormGPT的兴起和衰落。这是一种建立在开源模型之上的人工智能语言模型，接受了恶意软件相关数据的训练，旨在帮助黑客，没有道德规则或限制。但去年夏天，该模型的创建者在模型开始吸引媒体关注后宣布关闭。从那时起，网络犯罪分子大多停止开发自己的AI模型，转而使用现有工具来解决问题。

钱卡利尼解释说，犯罪分子想要轻松的生活和快速的收益。对于任何新技术来说，必须比他们目前使用的技术更好并带来更高的回报，才值得承担相关的未知风险。

犯罪分子使用人工智能的五种方式

网络钓鱼
苏黎世联邦理工学院的人工智能安全研究员米斯拉夫·巴卢诺维奇表示，生成式AI在犯罪分子中最大的用例是网络钓鱼，诱骗人们泄露敏感信息。研究人员发现，ChatGPT的兴起伴随着网络钓鱼邮件数量的大幅增加。

Ciancaglini表示，GoMail Pro等垃圾邮件生成服务已集成ChatGPT，使犯罪用户能够翻译或改进发送给受害者的消息。虽然OpenAI限制使用其产品进行非法活动，但监管起来很难，因为许多听起来无辜的提示也可能被用于恶意目的。OpenAI表示，他们通过人工审核和自动系统结合来识别和防止模型滥用，对违反公司政策的用户发出警告、暂停或禁令。

钱卡利尼说，以前所谓的尼日利亚王子骗局容易被发现，因为消息中的英文笨拙且充满语法错误。语言模型允许诈骗者生成听起来像母语人士所写的消息。现在，英语使用者也会受到非英语犯罪分子的威胁。借助更好的AI翻译，世界各地的犯罪集团可以更好地相互沟通，可能会协调跨国行动，针对其他国家的受害者。

Deepfake音频诈骗
生成式AI推动了深度伪造技术的发展，合成图像、视频和音频变得更加逼真，吸引了犯罪界的注意。今年早些时候，香港一名员工被骗走2500万美元，因为网络犯罪分子利用公司首席财务官的Deepfake音频说服该员工将钱转入诈骗者的账户。

深度伪造视频制作复杂且易被发现，但音频伪造成本低廉，只需几秒钟的声音样本即可生成令人信服的内容。在美国，有人接到使用深度伪造语音录音的骗子打来的绑架电话，要求赎金。钱卡利尼建议亲人之间商定定期更换的秘密安全词，以确认电话另一端的身份。

绕过身份检查
犯罪分子使用深度伪造绕过“了解你的客户”验证系统，银行和加密货币交易所使用这些系统来验证客户身份。犯罪分子通过提供虚假或被盗身份证件并将深度伪造图像强加在真人脸上，欺骗验证系统。Ciancaglini发现这些服务在Telegram等平台上以低至70美元的价格出售。

越狱即服务
大多数AI系统有使用规则，但越狱允许用户操纵系统生成违反政策的输出。EscapeGPT和BlackhatGPT等服务提供匿名访问语言模型API和越狱提示，帮助犯罪分子绕过安全机制。越狱服务为犯罪分子提供便利，他们不断设计新的越狱提示来突破AI公司的安全更新。

人肉搜索和监视
AI语言模型也是人肉搜索的完美工具，因为它们根据大量互联网数据训练，能够推断某人可能的位置等信息。Balunović表示，任何有权访问这些模型的人都可以以这种方式使用它们。

他建议公司加强数据保护和安全投资，个人应提高意识，慎重考虑在网上分享的内容。

通过这些手段，生成式人工智能正在改变犯罪分子的工作方式，使他们更加高效和难以防范