大模型如何重塑安全行业？360发布安全大模型3.0，多个专业任务效果超GPT-4
出品 | 搜狐科技
作者 | 梁昌均
大模型将重塑每一个行业，安全领域也不例外。3月20日，360正式推出安全大模型3.0，意图用大模型解决更多的安全问题。
“大模型会对数字安全行业带来很多影响，可以说正在加速重构未来安全行业的格局。”360集团首席科学家兼360数字安全集团CTO潘剑锋表示。
他提到，360安全大模型3.0框架参考了人类大脑的运行逻辑，在实际应用中的多个专业任务效果上超过GPT-4。同时，对于大模型本身的安全问题，360也提出了解决思路。
安全行业必须用大模型重塑，场景是决定因素
潘剑锋认为，当前安全行业存在产品协同困难、安全能力不足、运营效率低下、安全专家缺乏等问题。
不过，传统安全和现有安全大模型都存在短板，安全大模型处于初级应用，还无法应用于高价值场景，也就无法很好地解决这些痛点。“安全大模型需要走一条新的道路，也就是需要一套全新的作战方法。”
为此，360从数据、场景、大模型和智能体四个方面研究方法论，总结了新一代安全大模型的核心战法：数据制胜、小切口大纵深、类脑分区协同（CoE）和工具增强（TAG）。
具体来看，要训练出高水平的安全大模型，需要有高质量的安全专业数据和事件数据作为语料，并配合专业的技术手段进行训练。小切口大纵深则是立足安全业务场景，对任务进行分解，从而做深做透，把安全和大模型的能力深度融合。
类脑协同分区则是在大模型设计上，参考大脑多功能区协同工作的特征，去解决高难度安全问题。工具增强指以安全智能体为基础，通过调度各种安全产品与工具，为大模型提供纠错反馈机制，持续增强大模型安全能力。
据介绍，360安全大模型3.0框架在构建时充分参考人类大脑的运行逻辑，基于数据、知识、算力优势，训练语言、规划、判别、道德、记忆五大功能中枢。
潘剑锋表示，基于类脑分区协同设计的安全大模型框架，不仅可以解决任务冲突问题，达到多任务最优性能，而且实现了能力突破，在多个专业任务效果上超过了GPT4。他在现场以海莲花APT攻击为例，展示了360安全大模型如何在实战中智能化猎杀APT。
360数字安全集团副总裁张锦章认为，安全行业所有做的产品都都值得，也必须用安全大模型重新做一遍。“安全大模型在安全领域最后能够胜出的决定性因素，肯定是场景，而不是大模型本身，拥有场景的公司才能在未来的大模型的产业中占据领先的地位。”
目前，360安全大模型已赋能360全线产品矩阵，而360安全云在安全大模型加持下，形成公有云和私有化两大场景。在公有云场景下，打造安全云服务，充分利用AI提升运营效率；在私有化场景下，深度优化安全大脑+安全大模型+探针的能力落地。
大模型存在五大安全问题，不做大模型很难解决
不过，在大模型在带来生产力的同时，也带来前所未有的安全挑战。360安全集团副总裁李博表示，大模型具体的安全挑战主要体现有五个方面。
第一就是传统的网络与数据安全问题在大模型里面依然存在，而且变得更加严重。其次，就是大模型生成的内容安全，是否合规，是否准确，是否有虚假信息，也就是幻觉。第三个就是大模型被恶意使用的问题，使用它的人可以把它当做生产力工具来用，也可以把它当做破坏生产力的工具来用，比如黑客用大模型生成勒索软件、AI换脸诈骗等。
第四，大模型本身面临失控的问题，比如大模型在完成某个任务时，有着多步骤的调度，如果某一步被恶意控制，那人就可能失去对大模型的决策权。最后一个就是大模型对人类本身的冲击和威胁，它到底能不能控制人类。
“我觉得现在思考这个问题是可以的，但时间点还比较早，起码我们在短时间内或中期内，还看不到大模型能达到这样的能力。”李博说。
李博认为，要解决大模型内部的安全问题，首先要非常了解大模型才可以。“只有躬身入局大模型的研发，去做大模型，才真正有能力去解决大模型的安全问题。同时，不做大模型的传统安全企业，无法实现原生的大模型的安全能力。”
对此，李博解释称，大模型80%的安全问题都需要再大模型内部很深的去嵌入，去耦合，甚至需要原生的关键机制。如果不做大模型，没有往里放这些安全机制，那就无法阻断训练阶段攻击，无法避免生成恶意内容，无法纠正错误内容，无法控内部工作过程回路。
“所以今天必须要用创新的手段，深度结合大模型，才能解决大部分安全问题。”他认为，解决大模型的安全问题需要建立可靠、可信、可控、向善的原则和理念。
为此360提出“双轮驱动”的大模型安全体系架构，即针对可靠构建传统的网络与数据安全能力，针对可信、可控、向善构建内容为本的大模型原生安全能力，实现两条腿走路，通过以模制模，即小模型技术去保障大模型的安全的方法，去进行安全实战和效果评估。
“大模型本身在不断发展，模型在不断的训练，新的内容不断加入，新的安全问题也在不断的产生，所以大模型的安全还需要持续进行运营和治理。”李博表示。