re:Inforce 2023大会观察：生成式AI落地，安全先行
作为全球规模最大的公有云厂商，亚马逊云科技拥有两个业界闻名的大会。第一个就是被誉为云计算发展风向标的re:Invent大会，另一个就是聚焦安全领域动向的re:Inforce大会。
今年，亚马逊云科技re:Inforce大会首次登陆中国，亚马逊云科技带来了云安全领域的前瞻性思考和敏锐洞察，中国用户全面感受到云安全领域的最新趋势，以及亚马逊云科技security of the cloud & security in the cloud核心理念在数智化时代的重要价值。
尤其是从去年兴起的生成式AI浪潮，正在极大改变安全领域。随着人工智能技术的飞速发展，安全已经成为生成式AI应用落地过程中不可回避的一个议题。只有做好数据、模型和应用的安全防护，生成式AI才能在各行各业中落地开花。正如亚马逊云科技全球安全副总裁Paul Vixie向大家介绍了亚马逊云科技在安全合规方面的成熟经验，以助力用户在AI时代共启全面智能的安全。
安全已成不可回避的挑战
今年以来，随着生成式AI浪潮的到来，生成式AI应用在金融、教育、交通等多个行业走向落地，与之相关的安全与风险话题也开始涌现。例如，芯片企业使用ChatGPT导致芯片机密泄露、AI过渡采集用户信息、人工智能应用泄露隐私数据、黑客利用AI导致攻击武器滥用……IDC调研数据也显示，生成式AI的兴起，企业组织在整个的数字化转型过程中对于网络安全的担忧最大。
本质上，生成式AI等人工智能趋势的崛起，本身就对数据有着极强的依赖性，巨大参数量的大模型+海量数据+庞大的终端用户群，任何一个环节的安全疏漏，都可能会导致企业自身数据及隐私的泄露，或者产生不准确甚至错误的结果。全球性安全组织OWASP指出，在大语言模型的应用过程中，当企业没有规定好数据边界、权限、应用的API控制，就有可能成为新的数据泄露途径。
显然，生成式AI应用已成为一把双刃剑，既带来了生产力的飞跃提升，又对数字安全产业将产生重大影响，攻击侧、防守侧乃至监管侧都需要思考与应对生成式AI等新技术趋势带来各种风险。
亚马逊云科技强调，安全体系的建设需要跳出传统框架，从应用、数据、框架、基础设施以及合规体系全栈视角来思考应该如何建设好安全、合规的AI应用。
“云计算大大地助力了大量激增的数据和大规模可用的计算资源的实现，住退了人工智能高速迅速。现在，安全已是企业AI战略中的核心环节。”亚马逊云科技大中华区解决方案架构部总监代闻直言道。
数据和模型安全是关键
众所周知，生成式AI应用背后是大语言模型。一个成功的大语言模型需要不断的“投喂”海量非结构化数据，并且在应用中不断进行微调、优化。
在亚马逊云科技看来，数据和模型安全是构建AI应用的关键基础。代闻介绍：“无论是一开始的训练，还是后续的微调与优化，静态数据和动态数据的存储、传输以及使用都需要比之前更高的安全保护措施。”
具体来看，亚马逊云科技的思路是以端到端的云原生数据战略来为生成式AI 提供高质量的数据支持，从数据源的获取到数据的存储和查询，再到将数据传输给 AI平台进行模型的训练、调优和推理，以及全面实施数据分类和治理。
比如，针对存储中的数据，亚马逊云科技实施安全密钥管理、静态数据加密、强制实施访问控制、利用机制限制数据访问，为存储中的数据带来全面的数据保护。
再如，大语言模型涉及到大量数据的传输。为此，亚马逊云科技从实施安全密钥和证书管理、执行传输中加密、自动检测意外数据访问、对网络通信进行身份验证四个方面对传输中的数据进行多层次保护。
还有，亚马逊云科技从身份认证、隔离环境、多方协作以及数据共享四个方面，进行使用中的数据保护。
除了数据安全之外，模型本身的安全也非常重要。亚马逊云科技认为，模型访问策略是动态和多次性的，需要不断迭代与调优，才能保证访问控制策略的有效。“相比于传统机器学习模型，大语言模型的内容更加不确定，准确性不好把控。”代闻补充道。
为了方便企业构建和扩展自己的生成式AI应用程序，并且安全、高效地使用。亚马逊云科技打造了Amazon Bedrock和多种生成式AI服务和功能。例如，Amazon Bedrock后面接入了基础模型，通过API即可使用大模型加速生成式AI的应用程序和开发，无须管理底层的基础设施；另外，Amazon Bedrock还与AI21Labs、Anthropic、Stability AI等合作，方便企业选择最合适的基础模型；Amazon Bedrock不会拿任何用户的数据来训练自身。
代闻介绍，当前已经有超过130多个国家和地区制定和颁布了数据保护和隐私安全相关的法律法规，未来安全合规一定会越来越严格，包括大语言模型应用带来的安全挑战。
应用安全同样不能忽视
在代闻看来，应用可以用来创造价值，而应用安全是实现AI价值的保障。
首先是开发流程中的安全（DevSecOps）。亚马逊云科技认为，安全应该贯穿到从开发到持续集成、持续部署再到投产、监控以及整个反馈的过程。在这方面，亚马逊云科技积累了丰富的经验，将AI防护应用到软件开发的全生命周期。
例如，亚马逊云科技的AI编程助手Amazon CodeWhisperer ，可根据开发者指令利用内嵌的基础模型实时生成代码建议，该服务内置了代码安全扫描功能，可帮助开发者查找难以检测的漏洞并提出补救建议。另外，亚马逊云科技的Amazon CodeGuru Security则通过扫描代码寻找漏洞，它基于API设计，非常方便地集成到开发工作流里边去，实现集中化和扩展性。
其次，针对运行中的安全。亚马逊云科技的思路是采取零信任的应用安全访问机制，对访问大模型的应用进行权限管理，确保只有在拥有特定权限的应用。为此，亚马逊云科技打造出Amazon Verified Access、Amazon Verified Permissions、Amazon Shield、Amazon GuardDuty等一系列工具，方便用户建立起零信任的应用安全机制。
显然，亚马逊云科技的应用安全策略非常及时的。当前，诸多行业用户均渴望将大语言模型和生成式AI融入到业务场景之中，但又缺乏完善的AI应用安全策略，亚马逊云科技全面的产品、服务和方案可以很好地满足行业用户的需求。
AI让合规让无忧
众所周知，大语言模型和生成式AI提供了横向能力，最终会把能力辐射到很多不同的应用中，过程会越来越复杂。亚马逊云科技提供了一系列的技术、服务和工具，确保生成式AI技术应用于其安全及合规服务中，从而以更智能的安全、合规服务应对复杂的安全威胁、提高合规效率。
为此，亚马逊云科技做好了充足准备，不仅在全球获得140多个安全标准和合规认证，并将AI技术应用到其安全及合规服务中；还打造出敏感数据保护解决方案，可实现对企业敏感数据的自动化发现并在统一平台管理数据资产。同时，亚马逊云科技通过在其 500 多项自身合规审计控制项中使用 AI 技术，大幅提升了自身的合规效率，将审计时间节约了 53%。
显然，亚马逊云科技是业界率先采用人工智能技术融入到审查安全机制的厂商之一。这种好处就是，大幅减少手动操作，降低人为错误。另外，AI提供一个一致性判断，同时人工智能和机器学习技术能够预测和提供自动审查。
IDC《2023中国公有云托管安全服务能力报告》显示，亚马逊云科技是获得满分最多的厂商之一，其中“生态建设”评估维度是唯一获得满分的厂商。可以看出，security of the cloud & security in the cloud核心理念绝非虚言，而是亚马逊云科技一直在恪守的第一准则。面向未来，随着生成式AI和大语言模型在更多场景中落地，亚马逊云科技的一些工具、服务和解决方案也必然会发挥出更大价值。