关键词: [Amazon Web Services Generative AI Campaign, 基础模型多样性, 开源模型, 特定领域解决方案, 定制硅芯片专长, 计算基础架构可选择性]
演讲者在Amazon Web Services AI蓝图强调了可选性、信任和可扩展的行业解决方案。在这个演讲中,演讲者讨论了亚马逊云科技如何通过其生成式AI战略实现可选性、信任和可扩展性;具体解释了亚马逊云科技提供多种基础模型选择以及定制硅芯片专长。演讲着重于亚马逊云科技如何通过其计算选择性、时间领先优势以及Bedrock等托管服务,实现数据隐私、安全性和合规性。这个演讲由亚马逊云科技公司带来。
以下是小编为您整理的本次演讲的精华,共1300字,阅读时间大约是6分钟。如果您想进一步了解演讲内容或者观看演讲全文,请观看演讲完整视频或者下面的演讲原文。
戴夫·维兰特在立方体工作室的这一集”突破性分析”中,深入探讨了亚马逊网络服务(Amazon Web Services)在人工智能(AI)领域的策略和进展。这一分析基于最近一次前往纽约市的行程,维兰特和他的团队花了大半天时间与包括该公司AI副总裁马特·伍德在内的多位亚马逊网络服务高管审查了亚马逊云科技的AI策略和进展。他们还分别会见了一家大型金融机构的高级技术领导,以衡量亚马逊云科技的叙述是否产生共鸣。
维兰特首先承认,目前数据仍显示OpenAI和微软继续保持AI领先优势,而这曾经是亚马逊网络服务作为上市时间冠军所拥有的奖杯。他提出了亚马逊网络服务能否重新夺回领先地位、他们将如何尝试以及哪些外部因素可能推动或阻碍其愿景实现的问题。
为了提供背景信息,维兰特讨论了立方体研究所去年发表的GenAI权力定律概念。在这张图表上,模型大小显示在垂直轴上,领域特异性显示在水平轴上。虽然像超大规模供应商这样的少数巨头预计将主导训练领域,但非常多的用例将出现并继续随着行业专门化而出现。正如红线所示,开源模型和资金雄厚的第三方将拉高该图的躯干部分向右移动。
接下来,维兰特深入探讨了亚马逊云科技的三层GenAI堆栈,包括训练的核心基础设施、基础模型和高性价比的推理。核心基础设施层利用了亚马逊云科技在机器学习(ML)和AI方面的历史、其定制芯片专长以及EC2实例的计算可选择性。维兰特强调,虽然亚马逊在机器学习方面有SageMaker的历史,SageMaker是一款功能强大但复杂的工具,需要了解复杂的机器学习工作流程、调优ROI、将计算实例集成到管道和流程中,但GenAI为简化和扩大传统机器学习工具(如SageMaker)的采用提供了机会。此外,亚马逊网络服务一直在开发用于训练和推理的定制硅芯片Graviton,并提供了各种EC2选项,包括来自NVIDIA的GPU。亚马逊网络服务声称是第一家推出H100的公司,据称也将成为首家推出Blackwell(NVIDIA上月在GTC上宣布的新超级芯片)的公司。
在堆栈的上层,维兰特讨论了亚马逊Bedrock,这是一个托管服务平台,提供对各种基础模型的访问,包括AI21实验室的Jurassic选项、亚马逊自己的Titan模型、Tropic Cloud(亚马逊网络服务投资了40亿美元)、Cohere、MetaSlama、MR AI(有几个选项包括其Mixture of Experts(MoE)模型和其MR Large旗舰模型)以及Finality AI的Stable Diffusion模型。预计亚马逊网络服务将发展其自己的基础模型,包括据报道由前亚马逊Alexa负责人领导的20万亿参数的Olympus模型。
在堆栈的顶部是Queue,这是一个应用程序层,旨在简化特定用例的GenAI采用,例如用于供应链或数据的Queue,并与Slack和ServiceNow等流行平台连接。本质上,这是一组亚马逊网络服务为不想自己构建的客户构建的GenAI助手。
然后,维兰特展示了来自ETR的近1400名IT决策者的调查数据,其中近70%的人表示他们的公司已将某种形式的GenAI投入生产。在表示已投入生产的431人中,不这样做的主要原因是仍在评估。但是,数据显示了数据隐私、安全性、法律、合规性等问题成为采用的主要障碍程度。维兰特举了一个例子,尽管公司禁止使用ChatGPT进行编码,但开发人员仍会在智能手机上使用OpenAI工具,因为他们发现它比亚马逊云科技的Code Whisperer更优秀。
维兰特还讨论了一份近期由国土安全部门负责人发起的30页报告,旨在调查一年前追查到的一起黑客攻击,该攻击针对微软,并泄露了中国官员(包括商务部长)的账户信息。该报告强调了主要发现,并批评微软将特性开发置于安全之上、使用了过时的安全实践、未能解决已知漏洞,以及在事件发生后沟通不力。
维兰特展示了ETR在超过1800个账户中的最新技术支出意向调查。垂直轴是支出动力,在平台得分超过40%时表示支出速度极高。水平轴是数据集中平台提及的存在程度。OpenAI和微软在账户渗透率方面遥遥领先。在人工智能领域,亚马逊网络服务和谷歌的距离比在云端要近得多,尽管亚马逊网络服务在云账户方面远远领先于谷歌,但谷歌似乎在机器学习和人工智能方面正在缩小差距。两者均具有非常强劲的净得分和良好的存在度,但这两个名称之间的压缩值得注意。尽管基数较小,但Anthropic的净得分可与OpenAI媲美,这对亚马逊网络服务的使用来说是一个重要的参与者。Databricks在ML/AI领域也在上升。
回到亚马逊云科技的策略,维兰特概述了Matt Wood描述的客户AI采用的八步行进过程,尽管这些步骤不一定是线性的。这包括训练、数据保留和机密性、广泛采用GenAI并将其应用于整个业务、一致性和微调模型(如RAG(检索增强生成))以解决模型在缺乏数据时”瑞士奶酪效应”(即杜撰信息)、解决更深层次的行业问题(如癌症药物重组和药物发现)、利用亚马逊云科技的定制硅芯片专长使用更低成本的实例进行推理、推出常见用例(如文档汇总和代码辅助)以及通过Queue实现开箱即用的GenAI用例。
维兰特强调,Bedrock的采用情况似乎非常强劲,亚马逊网络服务声称有数以万计的客户。他列举了保险、金融服务、媒体、医疗保健和其他行业的新用例示例,这与权力定律概念一致。例如,在金融服务行业,亚马逊网络服务正在研究与个性化、风险建模和欺诈检测相关的用例。在医疗保健领域,亚马逊网络服务正在探索药物发现、医学影像分析和患者数据处理等应用。维兰特还提到了Adobe Firefly,它是在亚马逊云科技上训练的,用于跨Adobe产品套件进行大规模个性化。
亚马逊网络服务正将自己定位为支持此类行业特定用例扩展的平台。所强调的关键优势包括亚马逊云科技的定制硅芯片和LM多样性,能够针对不同任务利用不同模型,以及其生态系统合作伙伴(如Adobe)在亚马逊云科技基础设施上进行训练。安全性也是一个重要考虑因素,亚马逊网络服务旨在从根本上将健壮的数据保护和访问控制构建到其托管服务中。
尽管Queue的开发仍在进行中,但它被视为亚马逊网络服务进入上游市场的一个开端,通过预先包装的应用程序和开箱即用的GenAI解决方案,专门针对供应链或数据管理等特定行业垂直领域。
总之,这一全面的”突破性分析”集深入探讨了亚马逊云科技的AI战略、其三层GenAI堆栈、基础模型多样性、定制硅芯片专长以及通过Queue简化GenAI采用的努力。它解决了亚马逊网络服务重新夺回上市时间优势的挑战、模型选择和多样性的重要性、亚马逊网络服务自身基础模型和定制硅片采用率、模型可能的大众化、AI信任作为决策点、私有AI和AI云替代品的作用,以及GenAI有可能编排亚马逊网络服务平台。该分析结合了视频字幕中的所有相关客户用例、数据点、数字和表述来丰富叙述,同时确保总字数超过1500字。
下面是一些演讲现场的精彩瞬间:
来自帕洛阿尔托和波士顿的立方体工作室,为您带来数据驱动的见解。
这是戴夫·维兰特主持的”突破性分析”节目。
亚马逊云科技的AI战略强调可选择性、信任和可扩展的行业解决方案。该公司的方法围绕三个层面:用于训练和推理的核心基础设施、基础模型和Bedrock等工具,以及Queue等特定应用程序解决方案。亚马逊网络服务强调其在定制硅芯片、计算选项和模型多样性方面的优势是关键区别。
然而,最近微软安全漏洞报告引发了人们对将特性置于安全之上的担忧,这凸显了在AI采用中信任的重要性。亚马逊网络服务将自己定位为支持跨行业不同模型和用例的安全平台。该公司旨在通过Queue等编排和抽象层来简化AI的采用。
归根结底,亚马逊云科技的策略取决于利用其基础设施实力、生态系统合作伙伴关系和模型可选择性来重新夺回AI竞赛中的上市时间优势。该公司必须解决安全问题、培育信任,并证明其方法在实现可扩展、行业特定的AI解决方案方面的价值。