人工智能之“恶”

技术是中立的，本质无善恶

只是当工具落入“恶人”之手

便会造成伤害

生成式AI带来的挑战

今年，生成式人工智能热潮席卷全球。将引发新一轮人工智能革命，人类与机器、技术与产业、虚拟与现实之间的关系正在发生广泛而深刻的变化，同时，技术创新给人类社会秩序，尤其是网络安全治理带来了新的挑战。

在个人层面，人工智能降低个人网络犯罪门槛。暗网上有很多暗黑版的GPT，价格低廉，容易获取，这些暗黑版的GPT不但能写钓鱼邮件，还能编写恶意程序代码。这意味着，一个技术“小白”也可以通过问答方式来实施黑客攻击，让不动代码、不懂技术的普通人成为威胁网安的黑客。

此外，近期，通过AI换脸和拟声技术获取信任进行诈骗的案例屡见不鲜。AI只需要几秒钟的语音样本或者一些视频，就可以假乱真，利用人工智能诈骗，人们很难辨别。

在社会层面，人工智能伪造虚假信息会误导社会公众。人工智能深度伪造软件简单易用，能轻松将面部表情、技术动作和声音三者融为一体，这种平民化和社会娱乐化的工具，使得大规模、低成本的针对个人的恶搞乃至污蔑成为可能。从娱乐到工作，从新闻到科普，无处不见人工智能的身影，它们以惊人的速度和数量回答问题、发布文章、制作图片，但往往缺乏真实性、准确性，给社会造成不良引导、影响社会认知，甚至扰乱社会秩序。

如何应对？

面对人工智能时代，网络安全领域的新情况、新问题、新挑战，首先，建立纵深防御体系解决勒索病毒攻击的行为。以人工智能技术为核心，持续对抗未知的样本攻击。用“魔法”对抗“魔法”。

其次，建设一体化网络安全运营中心。要配合安全体系从管理、技术、运营三个角度开展安全运营治理和防护工作，建立“人+数据+智能”的运营体系，让安全能力真正活起来。

此外，还应深化国际交流，推进网络安全技术新发展。网络安全是开放的而不是封闭的，只有立足开放环境，加强交流合作，吸收借鉴先进技术，网络安全水平才会不断提高。

最后，我们从事人工智能的小伙伴们，也要守住职业道德哦~用技术来做正派的事！