关键字: [亚马逊云科技中国峰会2024, Bedrock, 生成式Ai时代, 角色扮演应用, 应用架构演进, 单模型到多模型, 规则到数据驱动]

本文字数: 1300, 阅读完需: 6 分钟

导读

在”生成式AI时代角色扮演(Roleplay)应用的架构”的演讲中,演讲者讨论了在生成式AI时代构建角色扮演应用的架构和演进路径。他解释了角色扮演应用的特点和挑战,包括高实时性要求、长对话时长和高复购率等。演讲重点介绍了从单一模型到多模型、从规则驱动到数据驱动、从单模态到多模态的演进过程。亚马逊云科技提供了Bedrock模型中心、SageMaker等工具和解决方案,帮助企业快速构建和演进角色扮演应用,实现高性能、低成本和多模态交互等目标。

演讲精华

以下是小编为您整理的本次演讲的精华，共1000字，阅读时间大约是5分钟。

在当今生成式人工智能(Generative AI)时代,角色扮演应用程序正在兴起,成为一种新兴的交互方式。这类应用通过扮演特定角色,为用户提供身临其境的体验,可应用于陪伴、占卜、心理咨询、教育、游戏和交友等多种场景。角色扮演应用具有独特的特点,在整个生成式AI时代中,它对实时性要求最高、用户使用时长最长、对话轮次最多,可谓是一个典型的终端应用场景。

据统计显示,虽然ChatGPT是目前规模最大的应用,但它通常是一种短频次应用,用户提问后很快结束。然而,像Character AI这样的角色扮演应用,其平均使用时长可达20多分钟,去年甚至高达30多分钟,对话轮次远远超过ChatGPT,通常能够达到50轮甚至100轮。此外,这类应用的用户复购率和7日留存率都非常高,表明用户粘性强。因此,对于这种典型的终端应用,企业在构建过程中会面临诸多挑战,包括高纯度、低成本的要求,以及需要快速响应和支持大量对话轮次的能力。另外,由于大多数角色扮演应用采用订阅模式获利,因此需要模型具备强大的多语言支持能力,以满足不同用户的需求。

为了应对这些挑战,亚马逊云科技提出了一个分两个阶段的架构构建过程。第一阶段从0到1,关注核心模型能力和Prompt的优化;第二阶段从1到10,则关注从单个模型演进到多个模型、从规则驱动流量到数据驱动流量,以及从文字到多模态的演进,最终将应用向平台化方向发展。

在第一阶段,亚马逊云科技提供了一个快捷的开箱即用解决方案,包括Bedrock模型中心、SentenceEmbedding Select Event界面和AI Character Editor角色编辑器。其中,Bedrock是亚马逊提供的模型中心,用户可以在其中调试各种大模型;SentenceEmbedding Select Event则提供了简单的UI界面;而AI Character Editor用于编辑各种角色卡。通过CloudFormation一键部署,用户就可以快速拉起整个环境,并在re:Invent的展区现场体验这一套架构。

进入第二阶段,企业需要从单模型架构演进到多模型架构,以满足不同用户的需求并优化成本结构。亚马逊推荐使用SageMaker进行自主模型训练和微调,同时也可利用Bedrock上的商用和开源模型。几乎所有做这类应用的企业都在往多模型架构的方向转变,原因在于单个模型无法满足用户的多样化需求,而不同模型的价格也不尽相同,多模型架构有助于优化成本结构。

另一个重要方向是从规则驱动流量到数据驱动流量。在这一过程中,用户交互数据和流量转化数据扮演着关键作用。用户交互数据之所以重要,是因为构建独特的应用和模型,必然需要走自有模型的路线。这个模型可能基于一个8B的小模型,然后在上面不断微调,而微调的核心就是利用用户与应用交互过程中积累的数据。亚马逊的数据湖方案可以帮助企业从数据收集、清洗到模型训练和应用上线的全流程。除此之外,流量转化数据平台同样重要,它可以分析什么样的用户访问什么样的模型、什么样的角色卡适合用什么样的模型,从而让平台实现最高的ROI。亚马逊云科技提供了基于点击流的分析方案,助力企业构建这样的数据分析体系。

此外,从单模态向多模态的演进也是一个大趋势,包括数字形象、图像、声音和动作等多模态能力正在成为角色扮演应用的重要组成部分。据CharacterAI的老板Lomen认为,用户在决策选择一个平台时,至少有15%的因素是由多模态能力决定的。国内头部企业的同类型应用中,多模态能力也纷纷涌现。为帮助企业快速构建多模态能力,亚马逊提供了StableDiffusion生成图像解决方案、数字人解决方案以及Transcribe和Poly语音解决方案,在峰会的展区也有相应展示。

总的来说,亚马逊云科技为角色扮演应用提供了一个端到端的架构解决方案,包括应用体系、数据体系和模型体系,形成一个闭环的生态系统。在这一架构下,应用体系负责与用户交互,并将交互数据馈送至数据体系;数据体系则对数据进行清洗、分析,输出给模型体系;模型体系基于数据训练出新模型,应用于应用体系,完成一个闭环。该架构有助于企业在生成式AI时代构建创新的、多模态的角色扮演应用,提供身临其境的交互体验。

下面是一些演讲现场的精彩瞬间：

亚马逊云科技中国峰会2024上,演讲者介绍了角色扮演AI应用的多种用途,包括陪伴、占卜、心理咨询、教育、游戏和交友等。

亚马逊云科技中国峰会2024上,演讲者阐述了人工智能模型从单一到多模型、从规则驱动到数据驱动、从文本到多模态的演进过程,以及将应用平台化的发展方向。

亚马逊云科技在2024年中国峰会上展示了Bedrock模型中心和AI Characters角色编辑功能,为开发者提供了强大的大模型调试和应用创建能力。

在亚马逊云科技中国峰会2024上,演讲者介绍了SageMaker和Bedrock等解决方案,可以自主构建和微调模型,并提供了丰富的开源和商用模型供体验。

亚马逊云科技中国峰会2024:从规则到数据驱动,用户交互数据是构建独特应用模型的关键

亚马逊云科技中国峰会2024:多模态能力在用户决策平台时占有15% 的影响因素,亚马逊云科技提供Stable Diffusion等解决方案助力企业快速构建多模态能力。

亚马逊云科技中国峰会2024上展示了一个基于最佳实践的总体架构,可以形成应用、数据和模型三位一体的闭环体系。

总结

在生成式AI时代,角色扮演应用(如Character AI)正成为一种新兴且广受欢迎的应用形式。这类应用具有高实时性、长使用时长和高对话轮次等特点,对企业而言构建过程充满挑战。亚马逊云科技提供了一套从0到1和从1到10的演进架构,帮助企业快速构建和优化这类应用。

从0到1阶段,亚马逊提供了Bedrock模型中心、SentenceEmbedding Select界面和AI Character Editor等工具,可快速构建开箱即用的角色扮演应用。从1到10阶段,企业需要从单模型向多模型、从规则驱动向数据驱动、从单模态向多模态等方向演进,以满足用户多样化需求、优化成本结构和提升用户体验。

亚马逊云科技提供了SageMaker自建模型、Bedrock托管模型、数据湖和分析平台等全方位解决方案,帮助企业构建独特的角色扮演应用,实现高ROI。此外,亚马逊还提供了StableDiffusion生成图像、数字人和语音解决方案等多模态能力,助力企业打造沉浸式的角色扮演体验。总的来说,亚马逊云科技为企业提供了一套端到端的架构和工具,支持角色扮演应用的快速构建和持续优化。

2024年5月29日，亚马逊云科技中国峰会在上海召开。峰会期间，亚马逊全球副总裁、亚马逊云科技大中华区总裁储瑞松全面阐述了亚马逊云科技如何利用在算力、模型、以及应用层面丰富的产品和服务，成为企业构建和应用生成式 AI 的首选。此外，活动还详细介绍了亚马逊云科技秉承客户至尚的原则，通过与本地合作伙伴一起支持行业客户数字化转型和创新，提供安全、稳定、可信赖的服务，以及持续深耕本地、链接全球，助力客户在中国和全球化发展的道路上取得成功。