亚马逊云科技：企业该如何安全驾驭生成式AI？
“生成式AI应用就像是海面上的冰山，我们想要在企业里安全地驾驭这项新技术，还需要关注海面下的冰川。”在日前召开的亚马逊云科技re:Inforce 2023中国站上，亚马逊云科技大中华区解决方案架构部总监代闻如是说。
事实上，安全是构建生成式AI不可回避的重要议题，企业只有在AI旅程中做好数据、模型和应用的安全防护，才能更好地借助AI加速业务创新。“从构建开始，我们就需要把安全作为企业AI战略发展中的核心环节。”代闻表示，“不过，我们不能只是关注AI应用本身，而是要从全栈的角度，去全面审视应用、模型、数据、基础架构的安全规范、技术策略和平台工具。”
为此，亚马逊云科技一方面与涂鸦智能这样的生态伙伴，开展在机密计算及数据隐私、Matter技术合作及体系建设、生成式AI在IoT领域的安全实践等方面的联合共创；另一方面也在与德勤企业咨询为中国出海企业解读相应的法律法规，分析面临的问题和挑战，并提出应对策略提升出海企业数据安全。与此同时，亚马逊云科技也在通过推出“敏感数据保护解决方案”以及多项安全新服务及功能，帮助客户构建应用程序的零信任管理，提升漏洞发现及响应的智能化。
从自身打造基于云计算的相关安全产品和服务，到与合作伙伴联合创新，并为企业提供安全策略咨询，亚马逊云科技正在以安全为切入点，帮助企业更顺利地拥抱生成式AI新时代。
生成式AI应用加速普及，保证安全成为首要问题
随着人工智能技术的飞速发展，生成式AI正展现出前所未有的影响力和发展潜力，在这一趋势下，各行各业的企业都希望能抓住生成式AI带来的机遇开展业务创新。企业纷纷根据自身场景，在云平台的支持下，可选择适合的基础模型，或利用自身数据基于基础模型构建定制化的模型，或直接使用开箱即用的生成式AI应用。
在企业借助生成式AI、大语言模型等前沿技术开始业务创新的过程中，如何让生成式AI更安全、更值得信赖，日益成为企业关注的焦点。对于企业来说，生成式AI的安全包括数据、模型、应用等。
生成式AI需要依赖大量的数据和模型，任何一个环节的安全疏漏，如使用不安全的模型训练及微调、模型的泄露、不安全的应用、不安全的应用访问等等，都可能会导致企业自身数据及隐私的泄露，或者产生不准确甚至错误的结果。企业只有确保应用AI各个环节的安全合规，才能更好地助力业务开展创新。
为了帮助企业安全驾驭生成式AI，亚马逊云科技不仅提供了一系列的技术、服务和工具帮助更多企业充分释放生成式AI的潜力，同时确保安全合规是开展一切业务的基础，包括其生成式AI的各种工具，涵盖数据、模型以及应用各个环节。同时，亚马逊云科技还将AI以及生成式AI技术应用于其安全及合规服务中，以更智能的安全、合规服务应对复杂的安全威胁、提高合规效率。
在IDC近期发布的《2023中国公有云托管安全服务能力报告》中，亚马逊云科技在专家能力、漏洞及威胁检测、威胁情报等7项目评估维度上是获得满分最多的厂商之一，其中“生态建设”评估维度是唯一获得满分的厂商。
企业驾驭生成式AI之道：聚焦数据、模型和应用安全
在亚马逊云科技看来，数据和模型安全是构建AI应用的关键，而应用安全则是实现AI价值的保障。企业若想安全驾驭生成式AI，就必须从数据、模型和应用安全入手。
数据是企业使用AI进行业务创新的基础，企业在使用高价值的业务数据进行模型训练及微调，释放数据价值之前，要确保数据在存储、传输、使用、治理等各个环节的安全性。因此，企业为构建生成式AI应用，首先应在数据流动的过程中确保端到端的数据安全，为生成式AI应用提供安全和有价值的数据输入。
为了保障数据安全，亚马逊云科技提供了贯穿生成式AI全周期的数据治理，覆盖从数据源的获取到数据的存储和查询，再到将数据传输给 AI平台进行模型的训练、调优和推理，以及全面实施数据分类和治理。
模型训练后进入生产环境的安全防护同样重要，在模型安全方面，企业需要防止出现对抗性攻击、泛化能力不足等问题。针对模型安全，亚马逊云科技已经推出Amazon Bedrock和多种生成式AI服务和功能，以帮助客户构建和扩展自己的生成式AI应用程序；同时，Amazon Bedrock能全面地使用亚马逊云科技提供的安全功能，从而很好地管理加密、权限控制和所有行为的日志。
在应用安全层面，首先是要确保开发流程中的安全，从开发到持续集成、持续部署再到投产、监控以及整个反馈的整个过程中，安全应该贯穿始终。为此，亚马逊云科技已经将AI防护应用到软件开发的全生命周期，让开发更便捷，更安全。
其次要确保运行中的安全。针对应用的安全访问，企业可构建零信任的应用安全访问策略。正如代闻所说，大语言模型最后要变成应用来提供服务，怎么样让大语言模型为企业内不同的人提供不同的API，以前是靠应用程序和网络边界来隔离的，现在网络边界已经不足够了，网络边界只是用户认证的基础条件，大语言模型的出现加速了零信任在企业中的落地。
如今，亚马逊云科技所构建的零信任体系，已经包括身份认证、可信网络、以及高颗粒度的权限管理以及审计。在亚马逊云科技看来，零信任和网络控制并不是一个二选一的关系，零信任能够实现按需的授权和认证，而网络控制同样非常需要，只有把零信任和网络控制结合起来，才能够在大模型时代实现企业端到端的应用安全。
IDC中国研究总监王军民认为，IDC通过调研，看到企业组织在整个的数字化转型过程中，对于网络安全的担忧是最大的。安全是全球最高管理层数字化举措面临的最大障碍，因此安全也是最高管理层技术投资的关键任务，尤其是云计算市场在全球的快速发展极大推动了客户对IT安全软件及服务的需求。亚马逊云科技用高标准的安全理念，不断提升安全合规能力及标准。