2024世界人工智能大会|齐向东：用好“AI+安全” 促进数字化转型与可持续发展

7月6日，在2024世界人工智能大会（WAIC 2024）AI重塑通信未来与可持续发展论坛上，来自海内外的行业机构代表、专家院士、产业代表齐聚，共同探讨前沿人工智能与可持续发展相结合的机遇和挑战，加快“AI+”数字化转型，推进人工智能与实体经济深度融合。全国政协委员、全国工商联副主席、奇安信集团董事长齐向东在主题演讲中表示，AI与安全，是数字化转型与可持续发展的必修课，我国的广大数字经济建设力量，要积极构建高可靠人工智能安全体系，着力为用户提供有效的安全防护，既要用AI去驱动安全，又要做好AI自身安全，护航数字化转型与可持续发展。

AI与安全是数字化转型与可持续发展的必修课

人工智能是引领新一轮科技革命和产业变革的核心技术，为各行各业带来了全新赋能和全新机遇。但在享受人工智能技术红利的同时，也不能忽略随之而来的安全风险。齐向东总结，AI的安全风险主要来自三个方面。

一是AI本身存在安全风险，数据污染和投毒轻而易举。一方面，数据污染会破坏人工智能系统的稳定性和可靠性，引发合规风险和科技伦理问题；另一方面，数据“投毒”将威胁大模型自身安全。

二是AI应用存在安全风险，数据泄露和数据滥用防不胜防。当员工向人工智能工具“投喂”数据时，极易造成敏感信息、核心机密和其他数据泄露风险；更可怕的是，不法分子还能利用所掌握的信息和数据，通过AI深度伪造技术创建虚假身份，进行换脸、换声，达到不可告人的目的。

三是AI被黑客利用加剧安全风险，饱和式攻击猖獗。生成式AI可以生成恶意软件、钓鱼邮件，也可以快速发现目标系统中的漏洞，从而加速和扩大攻击规模，这大幅降低了网络攻击门槛，网络攻击数量大幅增加。今年3月，有研究人员开发出全球首个AI蠕虫，这些蠕虫能在不同的AI系统中自动传播，甚至部署恶意软件，极大冲击了现有的网络安全防线。

“AI+安全”将带来指数级的能力跃升

AI引发的安全风险固然不容忽视，但同时，当AI在网络安全领域被正确使用，也能够进步提升安全能力，更加高效、智能地对抗网络威胁。齐向东表示，针对攻击者突破单点设备、突破防护体系、隐藏踪迹的三个进攻阶段，AI能给安全防护带来十倍、百倍乃至千倍的效率跃升，将攻击扼杀在事发之前。

其一是AI提升研判能力，实现安全能力十倍级提升。当人类安全专家受精力限制，导致超90%的告警被抛弃、大量隐藏的真实威胁被忽略的时候，AI能依托强大的算力资源和持续训练后的研判能力，极大提升安全工程师的效率，减少90%的漏报，实现安全能力的10倍提升。

其二是AI提升体系化防御能力，实现安全能力百倍级提升。在AI赋能下，单个安全设备虽然可减少90%的漏报，但剩下10%的威胁会进入系统当中。此时，就需要体系化的防御。体系化防御的核心，是多种网络安全设备的有机结合。借助AI可瞬时激发各个设备的安全能力，将遗漏的威胁从10%降低到千分之一，达到安全能力百倍级提升的目标。

其三是AI提升溯源反制能力，实现安全能力千倍级提升。AI的逻辑推理、自我决策能力，可以实现安全体系中不同产品的互操作，实现事件溯源和处置的高度智能化和自动化，处理时间可能从过去的一天，缩短到分钟级甚至秒级，实现响应能力千倍提升。

用好“AI＋安全”促进数字化转型与可持续发展

如何用好“AI+安全”，为数字化转型提供助力？齐向东提出，要积极构建高可靠人工智能安全体系，着力为用户提供有效的安全防护，既要用AI去驱动安全，又要做好AI自身安全。

在AI驱动安全方面，奇安信已进行了大量的探索和实践，并总结出了三个必要条件。

第一，高质量的数据是高水平AI的基础。齐向东介绍，高质量的数据需要具备“全”和“新”两个特点。奇安信安全数据规模位居全国首位，能够用于安全大模型的训练；近千场攻防演习活动、87次圆满完成国家重保任务积累的安全知识和经验能够用于大模型推理。利用这些高质量数据，奇安信创新研发首个工业级大模型安全人工智能产品QAX-GPT安全机器人，把告警研判效率提到了人工研判的60多倍，研判能力接近中级安全专家，漏报率仅是人的5%。

第二，体系化的网络安全建设是AI发挥效率的平台。2019年，奇安信提出内生安全体系，可以把网络安全设备和业务流转、不同层次的信息系统有机结合起来，感知、响应对业务系统和数据的任何破坏行为。如果政企机构网络安全防护不成体系，那么AI驱动安全的效果非常有限；而内生安全体系和AI的结合，不仅可以完美融合客户业务，更能实现网络安全响应从滞后到实时的大跃升，全时段瞬时响应成为可能。

第三，统一的标准能为AI驱动安全的体系化落地扫除障碍。一方面，统一的数据输入标准，能让AI读懂“多国语言”，完成体系化分析；另一方面，要统一指令输出标准，让AI实现跨设备、跨系统的能力协同和全局联动。

不仅如此，还要做好AI自身的安全防护，让安全合规贯穿全生命周期，确保AI在需求侧落地应用。2023，年，奇安信创新打造了大模型卫士，能解决使用过程中的安全问题；2024年，正式发布了一套AI安全整体应对方案，包括AI安全框架，以及基于安全框架下的AI安全解决方案、AI评估服务和安全检测工具等，可以帮助政企机构踏实地向人工智能要生产力。

齐向东表示，奇安信将用好“AI＋安全”这个重要法宝，为千行百业筑牢安全底板，坚决护航数字化转型与可持续发展，努力营造更加和谐繁荣的未来。

来源：金融界