大模型时代的网络安全：百模大战背后的“隐忧”

原标题：大模型时代的网络安全：百模大战背后的“隐忧”

21世纪经济报道记者张梓桐 上海报道

AI大模型时代下，我国网络安全产业变革正在驶入“深水区”。

自去年OpenAI掀起AI大模型风潮后，各家跨国巨头争相入局，从ChatGPT到Sora，全球的AI应用“卷出花”。与此同时，AI大模型的数据安全与法律伦理问题也引发业内的高度关注。

从政策方面来看，当前我国网络安全领域的“四梁八柱”已经形成。过去几年内，《网络安全法》《数据安全法》《个人信息保护法》《关键信息基础设施安全保护条例》等法律法规先后诞生，《网络安全审查办法》《云计算服务安全评估办法》《汽车数据安全管理若干规定（试行）》《生成式人工智能服务管理暂行办法》等政策文件也随之出炉，这意味着我国关键信息基础设施安全保护、网络安全审查、云计算服务安全评估、数据出境安全管理、网络安全服务认证等一系列重要制度已基本建立。

但在新的技术背景下，网络安全的治理逻辑也在发生着根本性的变化。

“大模型本身是一个双刃剑，它既可以引起很多行业问题，同时又可以帮你解决很多问题。因此大模型在赋能各个产业的过程中会引起新的问题，这其中就包含关键的网络安全与适配问题。”近日，中国信通院华东分院院长廖运发在2024上海网络安全产业创新大会上对21世纪经济报道记者表示，AI在落地过程中，需要特别要注意特定领域内的标准问题，同时要满足特定场景的要求。因此行业亟需建立相关标准来进行规范，以此确保应用落地时候的安全与稳定。

AI时代的数据安全

大模型究竟会带来哪些数字化领域的安全隐患？

廖运发对记者指出，围绕B端场景，行业尤其要特别关注AI标准适配问题以及大模型本身引起的商业机密数据、客户数据利益的挑战。而在C端场景中，则需要更关注用户体验。在这其中，用户是否会发生延迟、卡顿问题，登录是否困难，另外用户隐私数据会不会被窃取，都是行业关心的重点所在。“当前很多人利用大模型和人工智能方式生成很多虚假视频，伪造人脸进行诈骗，这需要格外注意。”

上海交通大学网络安全学院教授王士林则分析了大模型与网络安全的关系，在他看来，大模型可能带来的新威胁，如内容安全问题、功能安全问题、数据安全和部署问题等。他从学术研究的角度，分析了AI和网络空间安全之间的关系。他强调，大模型的生成能力增强，使得内容安全监测变得复杂。与此同时如何监测和评估生成内容的安全性，是当前研究的重点。

但他同时指出，数据安全和网络安全差别很大，工信部牵头联合八个部委发布了数据安全产业高质量发展三年行动计划，其中数据安全与网络安全最大的核心差别就是数据安全需要对客户业务和场景有着透彻理解。 “如何通过有效的手段针对分类分级的标准，动态识别每个数据的分类和分级级别标签，这个难度很大，因为一方面数据类型特别多，另一方面数据是变化的，数据在使用过程中会变形和排列组合。”

因此，在他看来，在具体解决路径方面，网络安全与数据安全的技术手段和保护措施也是不同的，数据安全最关键的就是在数据采集阶段对数据进行有效分级分类的定义，同时有相应的工具对敏感数据重要数据进行标签定义级别。

从数据分类来看，当前主要存在以下几类数据：首先是个人隐私数据，第二类是政府和国家核心敏感数据，第三个是训练级的训练数据，因为行业都投入大模型和算法的研究，因此训练数据本身价值也很高，同时这也是黑灰产业比较关注的领域。

数字化的内外部风险

事实上，自数字化诞生的那一天开始，其内部就伴随着安全挑战，二者也意味着数字化内在的脆弱性是不可避免的，与生俱来的。

360集团副总裁李博在现场对记者总结称，这些安全挑战主要来自于四个方面：首先，数字化的本质是一切皆可编程，而在这一过程中就不可避免出现一些安全漏洞，这是程序自身禀赋的特点，无法避免，只能进行及早的发现控制。

其次，在数字化到来后，万物互联成为可能，过去的信息化阶段是系统和系统之间的互联与数据的流动，而数字化阶段中物与物之间已经产生了强连接，而这就对物理世界带来了严峻的安全问题。

与此同时，数字化进程加速时使得数据要素重要性急剧提升，在这种背景下，数据安全显得前所未有的重要，因此数据安全保障怎也成为行业面临的共同挑战。最后，数字化发展的本质就是不断的AI智能化，而AI提高生产力的同时也面临大量的安全问题。

而除了数字化演进过程中内部的风险，全球同样面临着严峻的外部攻击和威胁。“传统意义上以追求炫技为主的‘黑客’已经成为犯罪团伙组织，其背后有大量武装到牙齿的专业化黑客组织在网络上进行犯罪活动。这就导致外部的威胁已经从单个的黑客变成了团体化的组织。”李博说道。

在这些问题的驱动下，传统的安全体系出现了“看不见的难题”。换言之，网络上存在的很多安全问题与安全事件变得不可见。传统的网络安全技术手段、体系框架在面对数字安全新的形势下，已经在逐渐失效。

李博表示，黑客组织或国际的APT组织主要的攻击目的已经不再是为了让系统崩溃，而是窃取核心和敏感数据。在未来，这一问题也是全球从业者需要解决的难题。

更多内容请下载21财经APP