奇安信董事长齐向东：AI在安全领域的应用是全面且彻底的

ChatGPT带来的新一轮AI浪潮正在对各行各业进行重塑，相关从业者看待AI对各行业的影响也出乎预料的一致——AI将重塑所有行业，所有软件、应用都值得被AI重新打造一遍。

在这些行业重塑的过程中，安全必然是一个绕不开的话题，如何在确保安全的前提下，拥抱AI的红利，已经成为当下所有行业需要面临的共同的问题。

6月5日，在2024全球数字经济大会数字安全高层论坛暨北京网络安全大会战略峰会上，钛媒体APP深度对话了奇安信集团董事长齐向东。

AI带来更多风险

AI为各行业带来了更多的便利，这其中当然也包括网络攻击者这个黑产行业，AI落地过程中企业将面临很多安全问题。

“AI在学习各行业知识的同时，尤其是企业内部数据时，也带来了数据泄露的风险，”齐向东告诉钛媒体APP，“可能企业训练或者向AI提问的数据涉及到知识产权、发明专利和商业机密等数据，AI学习以后，如何确保这些数据和方案不被竞争对手获取，成为当下各行业企业关注的焦点。”

奇安信集团董事长齐向东

不仅于此，对于大部分公司而言，都是采用外部采购的方式，拥抱AI大模型带来的便利，在齐向东看来，外部采购的AI大模型是否留了“后门”，是否会被“投毒”，以目前企业的安全能力，绝大多数企业都无法发现，而这些操作，一方面有可能导致企业内部数据泄露的风险。

另一方面，如果AI大模型被人“投毒”，在帮助企业做决策的时候，可能是“高级黑、低级红”的方式，长期使用AI辅助决策的话，可能会被AI“带到沟里”，从而直接影响企业发展。

AI铸就安全新范式

上述这些企业需要面对的问题，以当下企业的安全能力来看，并不具备完善的解决能力，据奇安信对大约100家万人规模以上企业的告警处置情况调查显示，86%的企业，网络安全运营人员不到10人，对网络告警的研判比例不足5%；13%的企业，网络安全运营人员约为10-30人，对网络告警的研判比例约5%-10%；仅有1%的企业，网络安全运营人员超过30人，对网络告警的研判比例达到10%以上。

“解决有限的安全资源和100%的安全追求之间的矛盾，要靠AI驱动安全。”齐向东认为，人工智能已带来破解网络安全主要矛盾、实现网络安全防护能力飞跃的“核弹级”技术。

从网络攻击者攻击习惯来看，攻击者会先突破单点设备，进而突破整体防护体系，在被发现后，还要想办法隐匿痕迹。而在齐向东看来，以攻击者的攻击习惯反推，这几个攻击阶段，AI都可以有用武之地。

首先，在单点设备的检测上，AI可以带来安全能力十倍级的提升。通过人工来综合分析研判设备产生的海量告警，很容易遭遇人员、精力短缺问题。这导致安全专家只能研判少量关键告警，超90%的告警被迫放弃，其中隐藏的大量真实威胁被忽略，攻击者趁虚而入。人工智能依托算力资源和持续训练后的研判能力，打破了人力资源和效率边界，能减少90%的漏报，实现安全能力10倍级提升。

其次，在体系化防御上，AI赋能综合分析和全局联动，带来安全能力百倍级提升。体系化防御的核心，是多种网络安全设备的有机结合。由于不同产品之间的数据传输共享、相互访问、远程操作非常频繁,漏报和误报问题在这一阶段呈现指数级增长。AI不仅可以知道在什么场景下、去调哪个接口、取什么数据，还能根据实际变化进行动态调整，瞬时激发各个设备的安全能力，将遗漏的威胁从10%降低到千分之一，达到安全能力百倍级提升。

其三，在溯源和反制上，AI依凭智能化、自动化，可实现响应能力的千倍级提升。单设备检测叠加体系化防御，仍无法保证万无一失，可能有千分之一的几率漏掉单个威胁，让攻击者得逞。AI的逻辑推理、自我决策能力，可以帮助实现安全体系中不同产品的互操作,实现事件溯源和处置的高度智能化和自动化，处理时间从此前的一天缩短到分钟级甚至秒级，实现响应能力的千倍级提升。

为了更好地阐述网络安全人员对于网络社会的意义，齐向东举例称网络安全的核心其实与公安干警一样，都是识别、判断和执行三个阶段。“AI的能力在网络攻击识别、对威胁溯源和取证和阻断威胁源头等企业网络安全防护全流程都能有用武之地。就如同公安干警发现犯罪行为、进行取证、拘捕/判刑等操作一样。AI赋能的安全产品将成为网络社会中的警察，对网络攻击者饿不法行为，进行打击。”

齐向东认为，专业的事，还是交给专业的人，“企业在面临安全挑战的时候，纯自建安全团队显然是一个性价比比较低的选择，而交给专业的、可靠的安全公司进行防护，对无论是大型企业，还是中小型企业而言，显然是一个更具性价比的方式。”

三大要素，决定AI是否能赋能

众所周知，AI快速发展的三大核心要素是数据、算力和算法。在齐向东看来，AI在网络安全领域释放强大潜能也有三大必要条件——高质量数据、完善的安全体系和统一的标准。

具体来说，企业首先需要具有全而新的高质量数据，为AI训练和应用提供基础支撑。一方面，要有足够多的基础安全数据用于训练安全大模型。另一方面，要有足够贴近实战的一手原始语料用于大模型推理。基于这种全而新的高质量数据训练出来的大模型，精确性和实用性才能远超未优化的通用模型。

其次，企业需要建设完善的网络安全体系，为AI发挥效率创造平台。网络安全防护有赖于体系化协同

第三，在齐向东看来需要标准的统一，为AI驱动安全效能发挥扫除障碍。训练好的安全大模型，能否取得好效果取决于设备和体系是否有统一的标准。

齐向东告诉钛媒体APP，标准的统一至少包括两个方面：一方面，数据输入标准的统一，让AI能通过标准系统读懂“多国语言”，完成体系化分析；另一方面，指令输出标准的统一，让AI实现跨设备、跨系统的能力协同和全局联动。

与此同时，齐向东对钛媒体APP明确表示，“未来网络安全产业的发展趋势已经明确：得AI者得安全。AI能否真正驱动安全，则取决于数据、体系和标准。”

展望未来，齐向东认为，AI不会取代网络安全专家，而是成为网络安全专家的得力助手，提高企业网络安全事件处理效率。（本文首发于钛媒体APP，作者｜张申宇，编辑丨盖虹达）