AIGC井喷时代，企业应该如何保障安全？

生成式AI与大语言模型迎来了井喷时代，但是同时也给企业带来了更多的安全隐患。

生成式AI应用井喷时代的安全隐患

随着云计算、大数据、机器学习等新兴技术的高速发展，曾经困扰人工智能技术的数据、算力、算法等瓶颈被不断打破，于是在近几年里，我们亲眼目睹了AI人工智能技术的飞跃式进展。从轻松击败世界围棋冠军的阿尔法狗，到让全世界为之惊艳的ChatGPT，在短短数年时间里，AI实在给我们带来了太多的惊喜。智能客服、机器人、低代码、文字转图片甚至视频、各种创意制作……2023年火爆异常的生成式AI与大语言模型，在全球引发了AIGC应用场景的井喷，并且从真正意义上改变了各行各业的游戏规则。诸多行业巨头和科技企业更是纷纷下场，在业界掀起了一场前所未有的“百模大战”。

然而在AIGC热潮席卷全球的同时，许多企业的技术部门也迎来了前所未有的严峻挑战。不久前，国际开源安全组织发布了2023年针对大语言模型应用的十大安全威胁，其中一个范例就是某大型国际企业在采用了某个基于大语言模型的聊天应用服务之后，在短短20天里连续出现了3起数据泄露事件。AIGC时代企业面临的安全隐患与挑战，也引发了众多企业的警觉与担忧。

“生成式AI应用就像是海面上的冰山，我们想要在企业里安全地驾驭这项新技术，还需要关注海面下的冰川。”在近日召开的2023亚马逊云科技re:Inforce中国站活动上，亚马逊云科技大中华区解决方案架构部总监代闻在主题演讲中如是表示。

代闻指出，从定位上来讲，安全是构建生成式AI应用不可回避的一个议题。从构建开始，企业就需要把安全作为企业AI战略发展的一个核心环节。但是应该从哪里开始？依靠一个什么样的框架？这就要求企业不能只是关注AI应用本身，而是应该从一个全栈的角度，去全面审视应用、模型、数据、基础架构的安全规范、技术策略和平台工具。而这一问题可以分别从数据和模型安全、应用安全、全球合规等三个方面进行讨论。

数据和模型安全是构建AI应用的关键

在数据安全方面，从数据源的获取，到数据的存储和查询，再到将数据传输给AI平台进行模型的训练、调优和推理，以及全面实施数据分类和治理，亚马逊云科技提供了贯穿生成式AI全周期的数据治理。其整套的解决方案、产品服务和最佳实践，能够帮助企业加速落地端到端的云原生数据战略，为生成式AI提供高质量的数据支持。

如何保护存储中的数据？大多数企业会使用一些开源或者商用的大语言模型，这就需要有一个很好的行业化、场景化的数据进行微调。而这部分高质量的数据有两个保护重点：一是防止数据泄露；二是防止数据篡改。通过实施安全密钥管理、静态数据加密、强制实施访问控制、利用机制限制数据访问，亚马逊云科技可以很好地保护存储中的数据，并且还在2023 亚马逊云科技re:Inforce中国站上推出了敏感数据保护解决方案，可实现对企业敏感数据的自动化发现并在统一平台管理数据资产。

如何保护传输中的数据？亚马逊云科技能够从实施安全密钥和证书管理、执行传输中加密、自动检测意外数据访问、对网络通信进行身份验证四个方面，对传输中的数据进行保护。针对多层次保护传输中的数据，亚马逊云科技通过跨区域之间的数据传输、VPC内部以及VPC之间的传输、迁移上云的过程中、以及TLS1.2+AES256从整个的基础架构上实现应用层的加密和传输的保护。

如何保护使用中的数据？亚马逊云科技可以从身份认证、隔离环境、多方协作、数据共享等四个方面，对企业使用中的数据进行保护。

而在模型安全方面，亚马逊云科技则推出了Amazon Bedrock和多种生成式AI服务和功能，以帮助客户构建和扩展自己的生成式AI应用程序。

Amazon Bedrock提供了广泛的基础模型，譬如Amazon Bedrock后面接入了基础模型，为客户提供了一个API可以使用大模型加速生成式AI的应用程序和开发，无须管理底层的基础设施；Amazon Bedrock会负责任地选取一些合作伙伴以及自己的基础模型，以方便客户最快速地找到最合适的、能力最强的基础模型；Amazon Bedrock使用组织内部的数据来训练大模型，同时又保证大模型的私有拷贝只是给客户服务，而不会再跟其他任何大模型共享，同时训练数据只是在客户账户里来帮助工作，而不会拿任何用户的数据来增进自己的模型；Amazon Bedrock还能全面使用亚马逊云科技提供的安全功能，与Amazon KMS、Amazon IAM等完善集成，集成后还可以很好地管理加密、权限控制和所有行为的日志。

值得一提的是，亚马逊云科技还提供了自己的大模型Amazon Titan给客户使用。Amazon Titan有两个基础模型，一个是能够执行文本类任务的Titan Text，另一个是能执行个性化推荐任务的Titan Embeddings。另外在负责任的AI方面，亚马逊云科技致力于开发公平且准确的AI和机器学习服务，并为客户提供负责任地构建相关应用程序所需的工具和指导。

应用安全是实现AI价值的保障

代闻指出，应用是来创造价值的，因此应用安全也是实现AI价值的保障。应用安全的防护主要包括两个阶段：

1、开发流程中的安全（DevSecOps）

亚马逊云科技将AI防护应用到软件开发的全生命周期，而该阶段的安全也贯穿了从开发到持续集成、持续部署再到投产、监控以及整个反馈的过程。亚马逊云科技近期发布的AI开发安全能力包括有Amazon CodeWhisperer和Amazon CodeGuru Security。其中Amazon CodeWhisperer是亚马逊云科技推出的AI编程助手，内置了代码安全扫描功能，可根据开发者指令利用内嵌的基础模型实时生成代码建议，以及查找难以检测的漏洞并提出补救建议；Amazon CodeGuru Security则可以寻找代码中的漏洞，还能够在CICD通过AI和机器学习的方式自动降低误报率，同时能够非常方便地集成到开发工作流里，实现集中化和扩展性。

2、运行中的安全

最近几年，零信任常被作为新技术提出，但是在亚马逊云科技看来，零信任并不是一个标准的工具或者解决方案，而是一套机制，需要经过不断的演练和考验。针对应用的安全访问，企业可构建零信任的应用安全访问策略。我们需要对访问大模型的应用进行权限管理，确保只有在拥有特定权限的应用，才能访问或者调用大模型里的制定API。

为了帮助客户在亚马逊云科技环境下构建这套机制，亚马逊云科技推出了几款工具：首先需要建立一个可信任的网络通道，Amazon Verified Access能够搭建一套无需VPN的网络验证系统，可以使用Amazon IAM或是客户自己的用户认证系统来完成认证程序，并且还支持规则设置；Amazon Verified Permissions可以为用户构建的应用程序提供细粒度授权和权限管理，让用户管理其应用程序的角色和属性的访问控制；为了方便用户来书写所有的授权规则，亚马逊云科技还发布了一个新的开源语言CEDAR，可用于编写和执行授权策略的开源的语言，让用户更加轻松、快速地创建访问控制权限。

代闻表示，在大模型时代，零信任和网络控制并不是一个二选一的关系，而是应该把这两个概念加起来，才能实现企业端到端的应用安全。

其中针对网络防护，Amazon Shield用于防DDos攻击，Amazon WAF提供防火墙支撑，Amazon Firewall Manager可以轻松管制防火墙策略。根据数据统计，每年亚马逊云科技防护的DDos攻击就高达70万件，Amazon WAF上每天托管规则请求超过3500亿条。而针对威胁识别，Amazon GuardDuty使用了基于AI和机器学习的技术，使安全事件的误报率减少了50%。除了能够实现初期的检测之外，它还可以做持续分析，包括使用机器学习技术来检测所有威胁，以智能化的手段给予采取行动的建议。

利用AI提升安全合规效率

在当前的全球环境下，安全合规正在变得越来越重要，已经有超过130多个国家和地区制定和颁布了数据保护和隐私安全相关的法律法规。同时由于云计算的大规模普及，越来越多的重要数据正在加速上云，而且数量和种类也在不断增加。业务的持续变化也给安全合规带来了新的挑战。

代闻指出，截至目前为止，亚马逊云科技已经在全球获得了140多个安全标准和合规认证，并将AI技术应用到其安全及合规服务中，能够为大规模批量审查提供安全控制，利用自动化减少手工操作以降低错误，利用AI提供一致性判断，利用AI/ML技术实现自动审查，全面提升合规效率。在其500多项自身合规审计控制项中，亚马逊云科技通过使用AI技术，将审计时间节约了53%，节约了超过3300个小时。

在保护用户安全合规的同时，亚马逊云科技及其合作伙伴也在积极使用AI技术来提升自己安全合规的能力。亚马逊云科技APN合作伙伴网络可以提供数百种行业领先的安全解决方案，多层保护客户的应用和数据安全。通过全球安全伙伴提供的解决方案，达到1+1＞2的实施效果。在技术方面，亚马逊云科技合作伙伴可以提供网络安全、主机安全、应用安全、身份认证、威胁检测和事件分析、数据治理、安全自动化运维等服务。另外一块很大的咨询业务，则可以提供方案建议、合规建议以及全面的安全咨询服务和合规服务。

在IDC近期发布的《2023中国公有云托管安全服务能力报告》中，亚马逊云科技不仅是获得满分最多的厂商之一，而且还是“生态建设”评估维度中唯一的一家获得满分的厂商。对此IDC中国研究总监王军民认为：“IDC通过调研，看到企业组织在整个的数字化转型过程中，对于网络安全的担忧是最大的。安全是全球最高管理层数字化举措面临的最大障碍，因此安全也是最高管理层技术投资的关键任务，尤其是云计算市场在全球的快速发展极大推动了客户对IT安全软件及服务的需求。亚马逊云科技用高标准的安全理念，不断提升安全合规能力及标准。”

“安全始终是亚马逊云科技的首要任务，是我们的首要优先级。我也希望大家能够让安全变成我们共同的首要优先级。让我们共同构建一个安全、智能的未来。”代闻说道。