亚马逊云科技Amazon Bedrock助力安全构建和规模化生成式AI应用
企业希望在各种场景中应用生成式AI，例如提高生产效率，创新用户体验和开启全新工作方式。然而，生成式AI技术正快速发展，每天都有新的服务和创新发生。在日新月异的当下，客户的适应能力至关重要。企业需要能够使用最新、最好的可用模型进行试验、部署、迭代和调整，并时刻准备好迎接变化。
为了应对这些挑战，亚马逊云科技开发了Amazon Bedrock，使一系列模型的构建和移动就像API调用一样简单，让所有开发人员都可以获得模型定制的最新技术，并确保客户的安全和数据隐私。包括Alida、Automation Anywhere、Blueshift、宝马集团、Clariant、Coinbase、Cox Automotive、dentsu、Druva、Genesys、Gilead、GoDaddy、Hellmann Worldwide Logistics、INRIX、KONE、LexisNexis Legal&Professional、Lonely Planet、NatWest、Nexxiot、OfferUp、宏盟集团、The PGA Tour、Proofpoint、Salesforce、西门子、竹中公司和Verint在内的众多企业已率先采用Amazon Bedrock应用生成式AI。此次发布引入了新的模型和功能，使客户能够更轻松地构建和规模化生成式AI应用。
扩展的全新模型定制功能可帮助客户在亚马逊云科技上
私密且安全地释放数据价值
企业希望最大限度地释放数据价值，以大规模提供卓越的用户体验，这些体验经过独特定制，能够反映公司的风格、声音和服务。Amazon Bedrock中提供的新的专门构建的功能可帮助客户使用自己的数据私密且安全地定制模型，以构建差异化的生成式AI驱动的应用程序。
- Amazon Bedrock知识库功能使用上下文和相关公司数据定制模型响应：
组织希望使用专有数据补充现有模型，以获得更相关和更准确的响应。为了给模型配备最新信息，组织转向RAG，这种技术通过从多个来源（例如资源池、数据库和API）获取数据，将数据与提示词结合。Amazon Bedrock知识库功能现已全面可用，可将模型安全地连接到公司内部数据源用于RAG，以便为聊天机器人和问答系统等用例提供更准确、针对特定上下文的响应。
知识库是完全托管的，因此客户只需指明数据位置，然后知识库就会获取文本文档，并将数据保存到向量数据库或代表客户设置一个向量数据库。当用户进行查询时，Amazon Bedrock会自动编排RAG，通过模型获取相关文本来增强提示词，将提示词发给模型，最终返回响应。Amazon Bedrock知识库支持数据库用于向量功能，包括Amazon OpenSearch、Pinecone和Redis Enterprise Cloud的向量引擎，Amazon Aurora和MongoDB也即将推出。
- Cohere Command、Meta Llama 2和Amazon Titan模型现在可以在Amazon Bedrock上进行微调，并且即将推出对Anthropic Claude 2的支持：
除了RAG之外，企业还可以利用微调功能在具体任务（例如，文本生成）中进一步训练模型，使用标记数据集调整模型参数，使其适合业务需求，将掌握的知识扩展到组织和终端用户使用的词汇库。例如，零售客户可以在产品描述数据集上微调模型，以帮助其了解品牌风格，从而为网站生成更准确的描述。Amazon Bedrock现在支持对Cohere Command和Meta Llama 2，以及Amazon Titan Text Express、Amazon Titan Text Lite、Amazon Titan Multimodal Embeddings和Amazon Titan Image Generator（预览版）的完全托管微调，因此客户可以使用带标签的数据集提高特定任务的模型准确性。
此外，亚马逊云科技客户很快就能够利用自己的数据源微调Anthropic Claude 2的性能。要微调模型，客户可以选择模型，使用Amazon Bedrock制作副本。之后，客户可以在Amazon Simple Storage Service（Amazon S3）中的标记示例。Amazon Bedrock（利用新信息增强复制模型）对其进行训练，在保证隐私的情况下返回结果。模型越是经过精准调优，返回的结果越是相关且定制化。客户数据在传输过程中和静态时都经过加密，因此所有有价值的客户数据都是始终安全且私密的。亚马逊云科技和第三方模型提供商不会使用Amazon Bedrock的任何输入或输出来训练其基本模型。
借助Agents for Amazon Bedrock，
生成式AI应用程序可以使用公司系统和数据源执行多步骤任务
虽然模型能够有效地进行对话和创建新内容，但如果能够执行复杂的操作，例如解决问题以及与公司系统交互以完成任务（例如，旅行预定或订购替换零件），它们可以提供更多价值。然而，这需要定制化地将模型与公司数据源、API以及内部和外部系统集成起来。开发人员必须编写代码来协调模型、系统和用户之间的交互，以便应用程序可以按逻辑顺序执行一系列API调用。为了将模型与数据源连接起来，开发人员必须部署RAG，以便模型可以根据任务调整其响应。最后，开发人员必须配置和管理必要的基础设施，并制定数据安全和隐私策略。这些步骤非常耗时且需要专业知识，从而减慢了生成式AI应用程序的开发速度。
现在正式可用、完全托管的Agents for Amazon Bedrock功能使生成式AI应用程序能够跨公司系统和数据源执行多步骤任务。Agents可以计划和执行大多数业务任务，例如回答有关产品可用性的问题或接受订单。客户可以使用简单的设置过程创建Agents——首先选择所需的模型，用自然语言编写一些说明（例如，“你是一位友好的客户服务Agents”，和“在库存系统中检查产品库存情况”），并开放其对公司企业系统和知识库的访问；Agents自动分析请求并将其分解为逻辑序列，使用模型的Agents功能来确定所需的信息；然后，Agents通过识别要调用的API并决定何时调用它们来采取行动、满足请求。Agents还可以从专有数据源检索所需信息，以提供准确且相关的响应。Agents每次都会在后台安全、私密地执行此过程，使客户无需设计提示、管理会话上下文或手动编排系统。借助Agents for Amazon Bedrock，客户可以提升准确性，加速生成式AI应用程序的开发。
借助Amazon Bedrock的Guardrails功能，
客户可以根据应用程序要求和负责任的AI策略跨模型实施保护措施
企业认识到需要管理生成式AI应用程序中的交互，以提供所答即所问的用户体验并确保安全。虽然许多模型使用内置控件来过滤不良和有害内容，但企业希望进一步定制交互，以保证话题始终与业务相关，符合公司政策，并遵守“负责任的AI”的原则。
例如，银行可能希望这样设置其在线助手：避免查询竞争对手、避免提供投资建议、以及限制有害内容。此外，应用户要求，可能要变换或隐去用户的个人身份信息（PII）以保证安全。企业可能需要更改模型、使用多个模型或跨应用程序复制策略，他们需要一种简单的方法来同时在所有这些领域一致地部署他们的要求。这需要深厚的专业知识来构建具有此类保护措施的定制保护系统并将其集成到应用程序中，并且该过程可能需要数月时间。企业希望以一种简化的方式在生成AI应用程序中强化关键策略和规则，以提供所答即所问的用户体验并支持更安全地使用该技术。
Amazon Bedrock的Guardrails功能现已推出预览版，使客户能够为生成式AI应用程序实施保护措施。这些应用程序根据客户应用场景和“负责任的AI”原则进行定制，因此这一功能可以增强用户交互的安全性和隐私性。Guardrails功能可以提高Amazon Bedrock上的模型对应用程序中不良和有害内容的响应方式的一致性。客户可以将Guardrails功能应用于Amazon Bedrock上的所有大型语言模型，以及微调模型并与Agents for Amazon Bedrock功能结合使用。
要在Amazon Bedrock控制台中创建一个Guardrail，客户首先使用自然语言描述来定义其应用程序中需要被拒绝的话题。客户还可以配置仇恨言论、侮辱、性语言和暴力的阈值，以将有害内容过滤到他们想要的水平。在2024年初，客户还可以设定模型响应中的个人身份信息（PII）的变换方法以保证安全、设置脏话过滤器，并提供自定义单词列表来阻止用户和模型之间的交互。Guardrails自动评估用户查询和模型响应，以检测并防止出现属于受限类别的内容。客户可以创建多个Guardrails来支持不同的用例，也可以在多个模型中应用相同的Guardrail。Amazon Bedrock的Guardrails功能通过提供一致的用户体验并标准化生成型AI应用程序的安全和隐私控制，使客户能够安全地进行创新。
电通是全球最大的整合营销和技术服务提供商之一。电通创新与新兴技术执行副总裁Brian Klochkoff表示：“我们致力于将营销、技术和咨询整合起来，助力那些希望造福社会的品牌实现以人为本的转型。生成式AI能够让我们以更大规模、更快速地为客户提供服务。这项技术不会取代我们的员工，而是为我们全球72000名员工提供助力。具体来说，Amazon Bedrock为我们提供了企业级的控制能力和便捷部署第三方模型的能力，以便我们的产品和技术团队能够跨团队分散使用。这让团队能够在一个安全和负责任的环境下，借助最新、最前沿的生成式AI技术进行革新，为客户打造创新机遇。”
MongoDB的使命是通过释放软件和数据的力量，帮助创新者创造、变革和颠覆行业。MongoDB首席产品官Sahir Azam表示：“各行各业越来越多的客户希望利用生成式AI来构建下一代应用程序，但许多人担心数据隐私以及人工智能驱动的系统输出的准确性。为了满足客户的需求，我们将MongoDB Atlas作为Amazon Bedrock的知识库，以便我们的共同客户可以利用其运营数据安全地构建生成式AI应用程序，以符合最终用户期望的信任度和准确性来创建个性化体验。通过这种集成，客户可以访问行业领先的基础模型，并使用MongoDB Atlas Vector Search处理过的数据来创建应用程序，在正确的上下文中提供更多相关的输出。利用Amazon Bedrock知识库中内置的数据隐私最佳实践，客户可以节省在生成式AI运营上花费的时间，从而更专注于技术部署，以在亚马逊云科技上提供更有吸引力的最终用户体验。”
Salesforce是领先的AI客户关系管理（CRM）平台，通过AI、CRM和数据的力量实现高效和可信赖的客户体验。Salesforce产品高级副总裁Kaushal Kurapati表示：“我们致力于帮助企业以全新、个性化的方式与客户建立连接，AI对实现这一承诺来说不可或缺。Amazon Bedrock是我们开放模型生态战略的重要组成部分，能够将模型与客户的数据无缝整合，并集成到Salesforce工作流程当中。新增的评估能力可以从多维度对比基础模型，包括从友好性、风格和品牌相关性等定性方面进行比较，从而让模型落地变得前所未有的简单、快捷。”