欧洲刑警组织：ChatGPT可为非法犯罪行为，提供3种便利
近日，欧洲刑警组织（Europol）创新实验室与刑警部门专家开展了一系列研讨会，主要围绕ChatGPT等大语言模型产品，如何帮助犯罪分子进行各种犯罪行为。以及调查员该如何监控、防范通过生成式AI产品进行犯罪。
欧洲刑警组织的创新实验室还发布了一份名为《ChatGPT大语言模型对执法的影响》的报告，深度揭示了通过ChatGPT可能进行的诸多犯罪行为，并对执法管理者提供了防范建议。（报告地址：https://www.europol.europa.eu/publications-events/publications/chatgpt-impact-of-large-language-models-law-enforcement）
欧洲刑警组织表示，之所以选择ChatGPT为研究对象，主要因为其影响力实在太大了，全球有数亿人在使用该产品。因此，随着AI技术的迭代和更多大语言模型的出现，如何监管这些产品防止被用于非法犯罪行为越来越重要。
欧洲刑警组织通过深度调查， ChatGPT可为非法犯罪行为提供以下3种便利：
1）欺诈文案：ChatGPT具有超强的文本起草能力，特别是在多层次对话指导下，其输出的内容与人工撰写的文案几乎无差别甚至超过。并且可以模仿特定的文笔类型，例如，可怜、严肃、欢快等，这为犯罪分子快速生成不同类型的欺诈文案提供了便利。
2）虚假信息：ChatGPT有仿写的能力，可以模仿特定人、团队、事件快速生成虚假信息，并且内容所提供的佐证让人难辨真假，例如，编造历史人物、事件，模仿有影响力人物的演讲稿进行虚假宣传等。
3）网络犯罪：ChatGPT具备自动生成不同类型程序代码的能力，如果犯罪分子不懂专业代码开发，但通过简单的对话就能快速生成网络钓鱼页面、恶意脚本等病毒代码，从而用于网络犯罪行为。
GPT-4是Open AI最新发布的大语言模型，在功能上实现了大幅度提升，同时降低了有害内容输出。但欧洲刑警组织指出，在对GPT-4进行有害问题测试时，在某种特定情况下其有害内容输出甚至超过了GPT-3.5。
如果犯罪分子在某个特定犯罪领域一无所知，例如，如何快速炼制有毒物质，如何打开防盗门等，通过ChatGPT可轻松获取大量有利研究信息，将加速犯罪流程和扩大犯罪范围。
欧洲刑警组织强调，针对ChatGPT的犯罪行为研究不是打击该产品的发展，相反，是在陈述客观存在的危险事实。让技术开发商、日常使用人员知道这些潜在危害的存在，并呼吁不要用于犯罪行为。
面对利用ChatGPT的犯罪行为将不断增加，欧洲刑警组织对执法界提供了以下建议：
1）提升对大语言模型产品的关注度，当发现潜在威胁和漏洞时应积极联系技术开发商并采取有效补救措施。
2）大语言模型的影响力正在逐渐扩大，应该研究、预测可能通过该产品实施的犯罪行为。
3）执法人员本身需要掌握ChatGPT等大语言模型产品的技术热性，这有助于快速评估生成恶意、偏见、犯罪信息。
4）随着技术不断的迭代和资金的投入，应与相关部门进行定期的会谈，了解他们的产品研发情况并给出优化建议。
5）执法人员在使用大语言模型产品时，可以针对自己特定的领域数据进行训练、微调，这有助于解决偏见问题。在使用时，需要选择适当业务流程和保护措施，防止泄露保密信息。
事实上，欧洲刑警组织的担心不无道理。今年3月24日，美国得克萨斯州休斯敦的一对老年夫妇被犯罪分子骗取了5000美元，从而推迟了癌症治疗。
该罪犯通过生成式AI产品模拟了其儿子的声音，并声称，“自己出了一场严重车祸，撞了一名孕妇将面临牢狱之灾，急需钱进行保释。”该夫妇接到电话后，听到声音确信那就是他的“儿子”，将钱打给对方后发现被骗了。
被骗老夫妇讲解事件经过此外，国外也有很多用户通过AI合成视频进行恶搞，例如，将某著名影星放在不雅视频中。严格意义上来说，这已经触犯了肖像权法律。相信随着生成式AI的快速发展，未来监管机构会制定详细的使用规范。
关于欧洲刑警组织
欧洲刑警组织创立于1970年，是欧盟的联合执法机构，以打击一切犯罪行为实现安全欧洲为目标。
本文素材来源欧洲刑警组织官网，如有侵权请联系删除