亚马逊云科技 re:Inforce 2023中国站 解读生成式 AI 的安全挑战及对策
在2023年，生成式AI技术经过持续的完善和迭代，终于如同蜕变后的蝴蝶，彻底展翅飞翔，引领了一次AI时代的盛大变革。目前，这项技术已经成功跨越了多个领域的界限。无论是医疗、金融、制造业、教育，还是科研领域，生成式AI都显示出了令人震惊的创造能力和巨大的应用前景。
然而，正如许多技术都带有双面性，生成式AI也不例外。它在助力企业解决实际问题、提高工作效率的同时，也伴随着数据安全和隐私泄露的巨大隐患。
不幸的是，就在今年初，一个跨国大型企业在进行大规模的AI模型训练时，不慎泄露了其数据库中的敏感信息，这不仅对企业的声誉造成了重大打击，更让全球对于生成式AI技术的数据安全问题产生了深深的担忧。这样的事例并不是孤立的，而是在业界中频繁发生。
事实上，生成式AI在其训练和应用的各个环节都可能存在数据泄露的风险。从数据的采集、处理，到模型的训练、部署，再到最终的输出和反馈，每一个环节都需要严格的安全措施来防止任何可能的数据泄露。这引发了一个亟待解答的问题：如何确保生成式AI在带给我们便利和创新的同时，不牺牲我们的数据安全和隐私权益呢？亚马逊云科技的探索，给了我们一个答案。
8月31日，亚马逊云科技re:Inforce 2023中国站正式开启，此次大会以“AI时代 全面智能的安全”为主题，目标就是帮助企业解决生成式AI在全部流程环节中的安全挑战。
安全是构建生成式AI应用之根本
亚马逊云科技大中华区解决方案架构总监代闻表示：安全是构建生成式AI应用不可回避的重要议题。从全栈角度出发，应该从数据、传输、应用到基础设施整体构建出可靠的合规体系，这样才能真正保障AI应用的安全。
代闻 亚马逊云科技大中华区解决方案架构总监
亚马逊云科技一直严格遵从客户拥有和控制数据的理念，提供了行业领先的技术和物理措施来防止未经授权的访问，为数据提供涵盖存储、传输、使用、治理等各个环节的加密及保护服务。
举例而言，企业在训练AI模型过程中首先要访问数据库，现代企业的业务数据是创新的基础，也是“命脉”，一旦数据泄露就将带来不可逆的恶劣影响。同时，在数据传输、使用、治理、访问等各个环节，也会面临泄露风险。
因此，安全是构建生成式AI应用不可回避的议题！
针对生成式AI，亚马逊云科技将安全防护划分为三个阶段，分别为：数据和模型安全、应用安全和全球合规，并基于此提供了更为系统化的安全防护工具。
数据安全，从存储和传输开始
在数据保护方面，亚马逊云科技重点推荐的第一项服务就是Amazon KMS。其全称为Amazon Key Management Service，是一项通过硬件安全模块来保护用户密钥的云端安全服务。借助Amazon KMS，用户可以创建和管理加密密钥，并控制相关权限。这些密钥可用于跨各种亚马逊云科技服务和用户应用程序访问加密数据。
同样地，数据传输也是安全防护的重要阶段，此环节可通过Amazon Nitro来构建独立的安全传输通道。Amazon Nitro是一种虚拟化基础设施，Amazon Nitro安全芯片可用于加密和验证虚拟机的访问，并可检测未经授权的硬件修改和恶意软件的植入。依托于虚拟化技术，Amazon Nitro系统还能够提供更好的网络和存储性能。
有了安全的存储和传输，针对计算环节亚马逊云科技则有Amazon Nitro Enclaves计算加密。它可将计算实例进行隔离，并控制应用互访vCPU和内存，可帮助用户减少用于处理最敏感数据的应用程序的攻击面，从而保护计算安全。
涂鸦信息技术有限公司安全总监刘龙威表示：涂鸦智能是一家全球化的物联网解决方案商，以亚马逊云科技Amazon Nitro为安全的云基础，通过硬件隔离的方式保障了整个用户数据体系的可信。与Amazon KMS联动实现了更高基本的安全管理，从而服务于78万的开发者及海量的IoT设备，并使其牢不可破。
在re:Inforce 2023大会上，亚马逊云科技与涂鸦智能成立“联合安全实验室”，双方将在智能家居、数据安全、安全文化建设、海外合规等领域，重点就机密计算及数据隐私、Matter技术合作及体系建设、生成式AI在IoT领域等安全实践展开联合共创。
此外，亚马逊云科技中国方案开发中心还正式发布了敏感数据保护解决方案，可实现自动发现企业敏感数据，并在统一平台管理数据资产。例如在Amazon S3存储中，允许用户创建数据目录、使用内置或定制数据识别规则定义敏感数据类型，以机器学习方式来匹配并识别敏感信息，并做出警告。以可视化方式进行管理，进而帮助用户实现对敏感数据的管理与保护。目前该解决方案已经可以提供下载。
训练安全，Amazon SageMaker的模型三剑客
数据在存储、传输及计算环节的安全得到了保障，接下来需要关注的自然就是模型的构建环节了。
代闻表示：Amazon IAM API每秒调用次数超过10亿，其为大模型的构建提供了强大的源动力。Amazon SageMaker正在为设置、授权、验证、调优等环节提供针对模型的访问策略，并通过Amazon Model Cards、Amazon Model Monitor及Amazon Model Registry等工具全方位地监控模型的运行。
在AI大模型的初始爆发期，很多企业的模型训练环节都处于“裸奔”状态，即原始数据与模型未加防护，此时的数据泄露风险也是最高。
针对这些痛点，模型三剑客之一的Amazon SageMaker Model Cards问世了，它是一套文档化机器学习模型的规范格式工具，可实现对模型信息的统一管理，包括模型的描述、功能、性能等信息。通过使用Amazon Model Cards，用户可以更好地了解和评估机器学习模型，以选择最适合其需求的模型，并为下一步监测与管理做好准备。
Amazon SageMaker Model Monitor提供的就是自动化监控与检测服务，可以帮助用户在生产环境中监控模型的性能、数据质量和数据偏差，以确保模型的准确性和稳定性。
功能方面Amazon Model Monitor提供了数据捕获、数据分析、数据报告和数据警报，可生成详细的报告和警报通知用户，有利于促进模型的持续改进和优化。
Amazon Model Registry则是Amazon SageMaker提供的一个功能强大的工具，用于管理和跟踪机器学习模型的版本和元数据。它提供了版本控制、回滚、元数据管理和集成功能，使用户能够更好地管理和部署模型。
在Amazon SageMaker这三套工具的帮助下，能够让用户实现模型管理自动化，极大提升了工作效率。
大模型之潮已经势不可挡，如果企业级用户自身技术能力较弱，是否可以尝试构建大模型呢？
别急，这就安排！
就在今年4月，亚马逊云科技发布了完全托管的基础模型服务Amazon Bedrock，可让用户根据需求通过API访问及使用其中的基础模型。Amazon Bedrock可使用用户自己的数据私下自定义FM，并使用相关工具和功能将它们无缝集成和部署到应用程序中，无需管理任何基础设施。
举例而言，用户希望在零基础的情况下构建一套文本生成大模型，那么就可以通过简单的操作在亚马逊云端自定义出模型需求，并通过各种模型工具将其集成并部署到应用之中，就像拼装乐高一样简单，极大降低了模型构建的门槛。
开发安全，利用AI取长补短
度过了激动人心的模型构建环节，接下来是开发。很多企业级用户对开发戏称是：人多手杂，容易出错，同时还经常出现安全性问题。
针对这些痛点，亚马逊云科技展示了两套自动化工具服务，能够帮助用户排忧解难。
Amazon CodeWhisperer 可以看作是AI编程助手，经过数十亿行代码的训练，可以根据用户需求和现有代码实时生成从代码片段到全函数的代码建议。Amazon CodeWhisperer支持主流编程语言和IDE，还可以为用户提供有关 API 安全性、性能和最佳实践的建议。
融合机器学习和自动化分析就有了Amazon CodeGuru Security，它是一套强大的代码漏洞扫描工具，可提供漏洞修补建议，并解决检测配置错误、权限问题和敏感数据的泄露等安全问题。有效提升代码的安全性和可靠性。
运行安全，来自云端的保障
当生成式AI大模型经历开发后就迎来上线运行，而在该阶段的安全防护也不能掉以轻心。因为在实际操作过程中，有很多安全事件都出在运行环节。此时，应用程序需要保护模型本身、数据及用户隐私等来自多方面的安全，而最有效的方式就是：验证。
Amazon Verified Permissions是亚马逊云科技向开发者提供的一种验证用户访问权限的机制。通过该服务，开发者可以确保用户只能访问其应用程序需要的有效权限，以保护用户的隐私和数据安全。
当用户向应用程序授权时，亚马逊会验证并返回一个访问令牌，该令牌包含用户已授权的权限。开发者可以使用这个令牌来验证用户的权限，并根据需要执行相应的操作。
通过令牌式验证，开发者可以确保用户数据的安全性，并且遵守隐私法规和规定。同时也通过访问权限控制来保障应用程序的数据安全。
构建全球化安全合规
在全球安全合规方面，亚马逊云科技的全球化基础设施包括超过200大类广泛而深入的云服务和解决方案，包括覆盖全球的安全合规、高速稳定的云基础设施，以及来自亚马逊的全球资源和创新文化。
据了解，亚马逊云科技现已在全球获得超过140个安全标准和合规认证。并进一步通过在其500多项自身合规审计控制项中使用 AI 技术，大幅提升了自身的合规效率，将审计时间节约了53%。
此外，亚马逊云科技还通过零信任架构，来帮助用户增强安全性、灵活性、扩展性并有效降低来自安全方面的成本，帮助企业构建更安全、高效和可靠的云安全体系。
生成式AI，作为人工智能技术的前沿领域，正对我们的创作、个性化服务、用户交互以及创新研究带来前所未有的突破和机会。这不仅为我们打开了一个新维度的工具和平台，拓宽人类创造力和智慧的边界，而且预示着一个数字化、高度智能化的未来。
在近期，尤其是在中国市场，这种技术的影响力不容小觑。不经意间，它引发了一场盛大的“百模大战”，几乎每一个行业都在试图利用这个技术，希望借助其强大的生成能力实现行业的创新与突破，多家顶级企业纷纷投入资源进行深入探索和实践。
但与此同时，这种创新的浪潮也带来了一系列复杂且尖锐的安全性挑战。当企业试图利用生成式AI去为客户提供独特的价值和服务时，它们也必须面对这些技术可能带来的潜在威胁和风险。在这种背景下，一个强大且可靠的合作伙伴变得尤为重要。
亚马逊云科技，凭借其深厚的技术积累、持续的创新能力以及对AI领域的深入洞见，毫不犹豫地投身于这场竞赛中。为了应对日益复杂的安全挑战，亚马逊云科技专注于开发一系列面向生成式AI全流程的安全服务。这些服务不仅针对AI技术本身，还涵盖了与其相关的数据、算法和应用等各个环节，旨在为企业提供全方位的保护。
实际上，安全并不仅仅是防止潜在的威胁或攻击，它还涉及到如何确保技术的可靠性、透明性和公正性。对于任何一家企业，特别是在数字化和高度互联的时代，安全已经成为了其成功与否的关键因素。
代闻的观点同样强调了这一点：“从我们投身AI技术的第一天起，安全就应当被视为首要和最高的优先级。”这不仅仅是一个技术或策略问题，更是关乎企业和客户利益、声誉和未来发展的核心问题。
在此次大会上，亚马逊云科技与其合作伙伴共同呼吁，必须将客户放在中心位置，深入到应用AI的每一个环节，不遗余力地加强安全性。通过与合作伙伴的紧密协作，亚马逊云科技希望能共同打造一个更加安全、可靠和有益的AI未来。