当前位置:首页|资讯|人工智能|生成式AI|编程

奇安信董事长建议:探索“AI+安全”创新应用,提高应对网络安全风险能力

作者:澎湃新闻发布时间:2024-03-05

原标题:奇安信董事长建议:探索“AI+安全”创新应用,提高应对网络安全风险能力

“AI(人工智能)的快速发展正在加剧安全威胁,如数据泄露、欺诈攻击、社会治理安全等。以生成式AI能快速生成钓鱼邮件、编写恶意软件与代码等,导致攻击数量增加,AI欺诈事件频发。”

全国政协委员、全国工商联副主席、奇安信集团董事长齐向东

澎湃新闻记者获悉,在2024年全国两会上,全国政协委员、全国工商联副主席、奇安信集团董事长齐向东带来两份提案,高度关注AI技术的快速发展所带来的安全挑战。

数据显示,生成式AI导致网络钓鱼邮件攻击增长135%。此外,AI还带来数据非法获取、数据泄露及恶意滥用等数据安全问题,如ChatGPT在对话交互过程中能获取用户数据,加剧数据泄露风险。不法分子还能利用“深度伪造”换脸变声、伪造视频,“眼见未必为实”将成为常态。

齐向东表示,人工智能大幅降低网络攻击门槛,不懂代码、不懂技术的普通人也能成为黑客,增加网络攻击数量,专业的黑客组织可以利用人工智能对网络攻击进行改造升级,利用AI制作恶意软件、生成规避杀毒软件检测的代码等,网络攻击能力将出现跃升。

在AI算法攻击方面,机器视觉攻击、数据源污染等攻击频发,攻击者能通过对抗样本、数据投毒、模型窃取等方式对AI算法进行攻击,使其产生错误判断,同时由于算法黑箱和算法漏洞的存在,这些攻击往往难以检测和防范。

对此,齐向东建议,要大力探索“AI+安全”创新应用,提高应对网络空间安全风险与不确定性的能力,抢占国家安全的人工智能战略制高点,护航中国式现代化。

要开展联合创新,围绕攻防实战和应用场景实现“AI+安全”尖端技术研发突破。建议鼓励各行业头部企业与专业安全厂商结成创新联合体,在关键行业选取典型场景开展联合创新,共同探索大模型安全创新产品在威胁检测、漏洞挖掘、指挥研判等方面的应用,在实战中推动“AI+安全”进入越用越强的良性循环。

要强化政策牵引,推动“AI+安全”技术创新产品在各行业落地应用。建议像支持新能源汽车的发展一样,支持“AI+安全”发展,设置专项基金,对研发创新“AI+安全”产品的企业,给予政府基金、贴息贷款或科研项目等支持。

从人才方面来看,要壮大“AI+安全”领域的实战型、复合型人才队伍。随着AI技术的普及和应用领域的不断扩展,国内AI人才严重短缺。工信部数据显示,人工智能不同技术方向岗位的人才供需比均低于0.4,其中智能语音和计算机视觉的岗位人才供需比分别为0.08、0.09,相关人才极度稀缺。建议充分发挥民营企业在人才培养上的优势,鼓励成立校企共同体,在实践中培养更多大数据、人工智能、网络安全等新兴产业领军人才。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1