如何监控、破局ChatGPT引发的网络安全问题？深信服用AI赋能网络安全

原标题：如何监控、破局ChatGPT引发的网络安全问题？深信服用AI赋能网络安全

6月7日,荷兰数据保护局(DPA)表示,正寻求了解有关OpenAI如何收集用于创建ChatGPT的数据,以及如何存储从用户问题中收集的信息数据。据悉,DPA已致函美国科技公司OpenAI,要求该公司提供更多信息。此前意大利数据保护局(Garante)以涉嫌违反数据收集规则为由,对OpenAI展开监控调查,并屏蔽了ChatGPT,还限制OpenAI处理意大利用户数据。

ChatGPT是OpenAI研发的聊天机器人程序,其背后的算法基于Transformer架构,使用自注意力机制处理输入数据的深度神经网络,Transformer架构广泛应用于语言翻译、文本摘要、问答等自然语言处理任务。ChatGPT使用了GPT-3.5大规模语言模型,并在该模型的基础上引入强化学习来微调(fine-turn)预训练的语言模型。这里的强化学习采用的是RLHF,即采用人工标注的方式。目的是通过其奖励惩罚机制(reward)让LLM模型学会理解各种NLP任务并学会判断什么样的答案是优质的。

ChatGPT技术的发展,极快带动了各行业的智能化提速,但带来的安全风险正在引发新的担忧。ChatGPT可以帮助网络犯罪集团更便捷、更快速地生成攻击工具、混淆攻击代码等,针对性地构造未知、高级的攻击,降低了网络犯罪门槛,加剧了企业数据遭遇外部攻击的风险。但从另一方面来看,ChatGPT也可以和安全领域的众多场景结合起来,提升安全防护能力及运营效率。

当攻防对抗持续升级,以智能对抗智能,才是未来的发展方向。深信服基于“大模型算法+威胁情报+安全知识”训练,自研出安全垂直领域的大模型“安全GPT”,未来将持续赋能安全产品和服务。经5000万样本数据测试,相较传统检测引擎,赋能安全GPT技术的深信服XDR对攻击绕过手法的检测率高达95.7%,误报率(安全告警里判错的比例)仅4.3%,大幅提升对高级威胁的监控检测能力。

在复杂攻击成为新常态的背景下,深信服以GPT技术构筑安全建设全新范式,在更精准监控、检测、防御高级威胁的同时,为安全运营工作降本增效,提升各行业用户安全基准线。