生成式AI时代中的安全攻防战

原标题：生成式AI时代中的安全攻防战

本报记者 曲忠芳 北京报道

“大语言模型最后要变成应用来提供服务，怎么样让大语言模型为企业内不同的人提供不同的API（应用程序编程接口），以前是靠应用程序和网络边界来隔离的，现在网络边界已经不足够了，网络边界只是用户认证的基础条件，大语言模型的出现加速了零信任在企业中的落地。”近日，亚马逊云科技大中华区解决方案架构部总监代闻如是表示。

《中国经营报》记者了解到，今年以来，生成式AI及AI大模型大爆发，各个行业领域的企业在业务催生旺盛需求的同时，技术部门也面临着前所未有的挑战。据国际开源安全组织OWASP报告，大语言模型面临十大威胁，包括数据泄露、训练数据污染、人工智能调整能力不足、错误处理不当、访问控制不足等等。就在今年年初，接连出现生成式AI应用的数据泄露事件，泄露的内容涵盖产品的良品率、代码、会议内容等。另据最新的《人工智能在电子邮件安全中的作用》报告，网络罪犯正在迅速采用AI工具以推动其利益，有91.1%的受访组织称已遭受到被AI增强的电子邮件攻击。

不难看出，生成式AI所带来的安全问题已刻不容缓。全球网络安全巨头派拓网络（Palo Alto Networks）大中华区技术总监董春涛在接受记者采访时指出，生成式AI技术发展在安全领域催生了新的变化与思考，这表现在三个方面：一是数据的价值凸显，数据是AI最核心的因素，拥有高质量的数据才能更好地利用AI新技术；二是在公有云开展安全解决方案，对AI能力的赋能提供了便利条件；三是企业的安全防护需求，已从原先的碎片化转向平台化、系统化。

“关注海面下的冰川”

“生成式AI应用就像是海面上的冰川，我们想要在企业里安全地驾驭这项新技术，还需要关注海面下的冰川。”代闻解释道，从构建生成式AI开始，就需要把安全作为企业AI战略发展中的核心环节。那么应该从哪里开始？依靠一个什么样的框架？“这要求我们不能只是关注AI应用本身，而是要从一个全栈的角度，去全面审视应用、模型、数据、基础架构的安全规范、技术策略和平台工具。”

对此，亚马逊云科技建立了零信任体系，包括身份认证、可信网络，以及高颗粒度的权限管理以及审计。

需要指出的是，“零信任”理念在当前网络安全领域非常热门和流行。传统安全防护是基于边界的“看大门式”防护，即在网络边界部署防火墙、IPS（入侵防御系统）等安全设备，也就是说“门口看得紧，进门随便玩”，一次验证后再不过问，然而随着业务上云、远程办公、智能物联网及数字化转型等趋势，网络边界被打破，内外部威胁加剧，这样以往那种“大门口一次验证”的方式已完全不够，由此零信任应运而生。在亚马逊云科技看来，在大模型时代中，需要将零信任与网络控制结合起来，零信任能够实现按需的授权和认证，与网络控制结合才能够实现企业端到端的应用安全。

对于构建AI应用来说，数据和模型安全是关键。为了给生成式AI提供高质量的数据支持，亚马逊云科技提供了贯穿生成式AI全周期的数据治理——从数据源的获取到数据的存储和查询，再到将数据传输给 AI平台进行模型的训练、调优和推理，以及全面实施数据分类和治理。针对高质量的数据，亚马逊云科技有两个保护重点，即防止数据泄露和防止数据篡改，推出了敏感数据保护解决方案，利用机器学习、模式匹配的方式自动识别敏感数据，并提供可视化面板，帮助客户对敏感数据进行管理和保护。

IDC中国研究总监王军民指出，IDC 在调研中发现企业组织在整个的数字化转型过程中，对于网络安全的担忧是最大的。“安全是全球最高管理层数字化举措面临的最大障碍，因此安全也是最高管理层技术投资的关键任务，尤其是云计算市场在全球的快速发展极大推动了客户对IT安全软件及服务的需求。亚马逊云科技用高标准的安全理念，不断提升安全合规能力及标准。”

“安全与AI驱动的业务发展是伴生关系”

“近年来能够看到，当经济下行时，安全领域的企业往往在向上发展，这是一个趋势。”董春涛向记者表示，从企业IT支出中，安全常年以来都属于一个小众的组成部分——附着在IT部门里，大部分的组织结构采取的是CEO（首席执行官）—CIO（首席信息官）—CISO（首席信息安全官）的模式。而现在，生成式AI的出现改变了IT组织结构，对于企业数字化起到了催化剂的作用。在生成式AI主导的业务促进过程中，安全会是一个伴生关系，突破了原来的传统IT范畴。与此同时，这一趋势对于整个安全从业及服务人员来说也将是一个促进因素，因为他们可能会更多地与业务负责人谈论安全的复杂性。

IDC数据显示，今年全球安全解决方案和服务支出预计将达到2190亿美元，相比去年增长12.1%。在网络攻击的持续威胁、提供安全混合工作环境的需求以及满足数据隐私和治理要求的需求的推动下，与网络安全相关的硬件、软件和服务的投资预计到 2026年将达到近3000亿美元。

董春涛介绍，派拓网络自2018年开始全面拥抱云，通过与亚马逊云科技的合作，将单一产品扩展至平台化产品，涵盖网络安全、云原生安全、运营安全，威胁情报和咨询，提供完善的综合安全解决方案。在亚马逊云科技中国区域落地的Prisma Cloud和Prisma SASE，为中国企业带来更多元化的安全解决方案；让跨国企业使用中国区域时能够保持全球一致的安全体验，高效植根中国。以某跨国制造业公司为例，通过采用Prisma Cloud获得与亚马逊云科技的安全日志和服务实现整合和统一的安全可视性，覆盖所有云上资源，在6个月内将警报数量从1.5万个减少到 2500个，将欧盟《通用数据保护条例》（GDPR）、PCI合规报告等简化为一键式，在 30 秒或更短的时间内加入新的云账户以支持业务快速扩张。

“AI触动了企业管理者的思想转变，AI是以多项技术为支撑的，不是一个简单的东西。所以在这个过程中，安全从业者就会逐渐把每一个技术领域里面的安全技术融进去，因此不再是一个‘头痛医头，脚痛医脚’的过程了。”董春涛指出，“安全项目原来就是一个防火墙，或者是几个终端方的证书，而现在已经变成了一个大型的项目、一个自上而下的场景了。”

（编辑：吴清 校对：翟军）