在亚马逊云科技上实现生成式AI的安全与隐私
关键词: [Amazon Web Services生成式AI Campaign， Bedrock， 生成式AI， 隐私和安全， 数据保留政策， 模型评估， 人工标注， 道德AI开发， 可信环境， SageMaker Ground Truth， Bedrock模型评估， AI服务整合]
导读
演讲者在亚马逊网络服务公司的活动中介绍了”通过亚马逊云科技生成式AI实现安全和隐私”。在这个演讲中，演讲者讨论了如何通过生成式AI管理风险，需要亚马逊云科技和用户共同努力来保护AI系统的安全;具体解释了亚马逊云科技提供了工具和安全环境，而用户则负责AI的道德开发和部署。演讲重点介绍了亚马逊云科技如何通过SageMaker Ground Truth Plus、Bedrock模型评估等服务，实现生成式AI的隐私保护、偏差检测、模型鲁棒性评估等，从而确保生成式AI的安全可靠部署，为客户带来便利、效率和创新。这个演讲由亚马逊网络服务公司提供。
精彩内容
以下是小编为您整理的本次演讲的精华，共1100字，阅读时间大约是6分钟。如果您想进一步了解演讲内容或者观看演讲全文，请观看演讲完整视频或者下面的演讲原文。
随着生成式AI的出现，它带来了前所未有的机遇，但同时也蕴藏着许多隐私和安全方面的未知风险。在这片未知领域，我们需要管理与生成式AI相关的风险，这不仅需要尖端技术，更重要的是亚马逊云科技与用户之间的紧密合作。因此，亚马逊云科技提出了”评估、分享和响应”(ASR)框架，明确了亚马逊云科技和用户在保护AI系统安全方面的角色和责任。
ASR框架体现了亚马逊云科技和用户之间的共同努力。亚马逊云科技提供了工具和安全环境，而用户则被赋予了权力和责任去负责任地开发和部署AI。这种合作的根源在于亚马逊云科技对信任的不懈追求，这是亚马逊云科技的核心价值观之一。爱因斯坦信任层正是这一企业价值观的自然延伸，反映了亚马逊云科技在维护最高信任和安全标准方面的决心。
爱因斯坦信任层的关键支柱之一是与所有模型供应商实施零数据保留政策。这一政策确保用户数据保持安全并且位于可信边界内，解决了客户担心私人或可识别个人数据可能被外部模型供应商获取的重大隐患。为了进一步增强信任，亚马逊云科技采用了隔离和掩码机制，从发送给客户的提示中删除可识别个人信息(PII)，确保敏感数据得到保护。
作为亚马逊云科技的客户，Automation Anywhere公司正体现了这种对数据隐私的承诺。该公司强调，他们从不在平台上储存任何客户数据、信息或文档，即使是在跨应用程序处理数据的过程中。这种对数据隐私的保证是他们与客户关系的基石，彰显了在生成式AI领域信任的重要性。Automation Anywhere在亚马逊云科技上运行其自动化工作流，处理跨应用程序的客户数据，但从不储存，数据一直保留在交易过程中。
亚马逊云科技尽可能地保护隐私、从一开始就将隐私设计纳入系统、并允许运营透明化的原则进一步加强了他们对负责任AI开发的承诺。随着亚马逊Bedrock计划的推进，亚马逊云科技可以利用与亚马逊公司的关系来解决生成式AI带来的挑战，确保这项技术成为有益的辅助工具，而非有害工具。
为此，亚马逊云科技开发了一套工具，支持生成式AI的安全、负责任的部署。例如SageMaker Ground Truth Plus提供了人工和自动化数据标注的强大结合，确保用于训练AI模型的数据是准确无偏的。亚马逊云科技另一个关键工具是Bedrock及其模型评估功能，为评估AI模型提供了稳健的框架，确保它们符合严格的性能标准。
Bedrock模型评估功能包括测试偏差、不一致性和鲁棒性，确保这些模型生成的输出是可靠和可信的。这一严格的审查过程是确保AI模型安全部署的关键步骤，因为它减轻了有偏差或不可靠的输出带来的风险，这些输出可能会产生现实世界的后果。
亚马逊云科技在数据和AI服务方面确实拥有广泛而深厚的实力。从生成式AI的角度来看，亚马逊云科技利用SageMaker等服务来托管模型，并与Bedrock集成以访问平台上的各种模型。这种集成允许客户使用自己的模型、使用Bedrock模型、对其进行调优，并与Salesforce等其他平台集成，展现了亚马逊云科技生态系统的强大功能和灵活性。作为亚马逊云科技的客户，Salesforce利用了亚马逊云科技提供的各种数据和AI服务，包括SageMaker用于托管模型、Bedrock用于访问各种模型，让他们能够使用自己的模型、使用Bedrock模型、对其进行调优，并与其平台集成。
像Automation Anywhere这样的公司非常依赖SageMaker和Bedrock等服务来高效地提供服务。这些服务支持快速测试，让公司能够确定实现预期结果所需的最佳训练数据组合，并在出现问题时进行必要的改进。这种迭代过程对于确保部署的AI模型准确、可靠且达到预期目标至关重要。Automation Anywhere依赖SageMaker和Bedrock等服务来确定如何最佳使用模型、训练自己的模型、快速测试、确定实现预期结果所需的最佳训练数据组合，并在出现问题时进行必要的改进。
Automation Anywhere与亚马逊云科技的合作关系远不止限于生成式AI领域。作为亚马逊云科技的一个主要工厂提供商，许多客户已经在亚马逊云科技平台上使用Automation Anywhere，熟悉其数据保留和安全政策。Automation Anywhere在亚马逊云科技上运行的过程建立了现有的信任和熟悉度，为公司走向生成式AI奠定了坚实基础。世界上一些最大的公司已经信任Automation Anywhere在亚马逊云科技上进行自动化，获益数百万美元，这也证明了该公司的可靠性和专业性。
尽管引入生成式AI需要向客户传播宣传和教育这项新技术，但Automation Anywhere在亚马逊云科技上的已有存在和在自动化流程方面的良好记录为客户提供了一定保证。该公司对数据隐私和安全的承诺，加上与亚马逊云科技长期合作伙伴关系，为负责任和道德的AI开发和部署奠定了坚实的基础。
通过SageMaker Ground Truth Plus和Bedrock等工具，亚马逊云科技展现了对安全和负责任AI的承诺，与最高道德和负责任使用标准保持一致。亚马逊云科技及其合作伙伴通过强有力的框架、工具和原则，将信任、隐私和安全放在首位，正在探索生成式AI这片未知水域，充分利用其优势的同时，缓解其风险和未知挑战。
在生成式AI时代，“评估、分享和响应”(ASR)框架，加上亚马逊云科技一系列工具和服务，为负责任和道德的AI开发和部署提供了路线图。通过明确职责分工、提供安全环境、以及对AI模型进行严格评估，亚马逊云科技致力于释放生成式AI的全部潜力，同时确保其成为有益的辅助工具，而非有害的力量。
下面是一些演讲现场的精彩瞬间：
生成式人工智能就像航行在未知的水域，充满了机遇，但也存在隐私和安全方面的未知风险。
亚马逊云科技的”评估、分享和响应”(ASR)框架明确了亚马逊云科技和用户在确保人工智能系统安全方面的角色和责任，共同努力确保在亚马逊云科技提供工具和安全环境的同时，用户也能够负责任地进行人工智能的开发和部署。
爱因斯坦信任层通过零数据保留政策、数据安全性和隐私保护机制来确保客户数据的安全和隐私，从而增强客户对自动化任务的信任。
亚马逊云科技 开发了一些工具，如 SageMaker Ground Truth Plus 和 Bedrock，确保生成式人工智能技术成为有益的辅助工具，而非有害工具，通过人工和自动化数据标注、模型评估和偏差测试等功能，确保模型输出可靠且安全部署。
亚马逊云科技提供了广泛的数据和AI服务，包括SageMaker用于托管模型，并与Bedrock集成以访问各种模型，客户可以使用自己的模型或Bedrock提供的模型，并与Salesforce集成，展现了亚马逊云科技平台的强大功能和灵活性。
总结
生成式人工智能的出现既带来了巨大的潜力，也带来了复杂的挑战，特别是在隐私和安全方面。亚马逊云科技意识到需要采取协作方法，引入了评估、共享和响应（ASR）框架，以界定亚马逊云科技和其用户之间的责任。该框架确保亚马逊云科技提供安全的工具和环境，同时赋予用户发展和部署道德人工智能的权力和责任。
亚马逊云科技优先考虑信任和隐私，实施诸如与模型供应商的零数据保留政策、数据剥离机制以及隐私设计原则等措施。像 SageMaker Ground Truth Plus 和 Bedrock 的模型评估能力这样的关键工具，使得人工参与的数据标记、对偏见和不一致性的严格模型测试以及在实际部署前的彻底审查成为可能。
亚马逊云科技提供了一整套全面的人工智能服务，包括用于模型托管的 SageMaker，用于访问和调整模型的 Bedrock，以及集成自定义模型的灵活性。这个强大的生态系统允许快速测试、数据混合和迭代精炼，以实现期望的结果，同时解决潜在问题。
自动化公司 Automation Anywhere 是亚马逊云科技的一个主要客户，它利用亚马逊云科技的数据保留和安全政策，使客户能够信任扩展到生成式人工智能的治理和数据安全实践。亚马逊云科技致力于安全和负责任的人工智能，符合最高的道德标准，培养信任并使生成式人工智能的变革潜力得到负责任的利用。