当前位置:首页|资讯|亚马逊|英伟达|AI芯片|生成式AI

亚马逊云科技的AI新版图:升级自研CPU和AI芯片,强化与英伟达合作

作者:21世纪经济报道发布时间:2023-11-29

原标题:亚马逊云科技的AI新版图:升级自研CPU和AI芯片,强化与英伟达合作

21世纪经济报道记者倪雨晴 拉斯维加斯报道

2023年,生成式AI成为科技巨头们年度峰会的第一关键词。

美国当地时间11月28日,亚马逊云科技(AWS)在re:Invent全球大会上开启一系列产品更新,既有芯片、存储等基础设施,也有大模型服务平台和AI助手。同时,亚马逊云科技还和英伟达进一步强化合作,大会首日的焦点几乎都和生成式AI相关。

亚马逊云科技CEO Adam Selipsky在现场展示了AWS的生成式人工智能堆栈图(Generative AI Stack),一共分为三层,首先是基础设施,AI需要巨大的算力,其中就包括GPU、自研的Trainium等芯片;中间是AI大模型服务Amazon Bedrock,为开发者提供大模型支持、构建自己的应用;上层则是应用,比如新推出的AI助手Amazon Q。

(图片:倪雨晴摄)

大会上,AWS也在以上三个方面层层升级。而在战况激烈的云赛场上,微软云、谷歌云等也在系统性布局,从芯片、大模型再到应用,其都已入场。随着生成式AI进化迭代,云计算也将迎来新的战事。

左手自研芯片,右手结盟英伟达

AWS的自研芯片有多个产品,包括通用服务器芯片Graviton、用于机器学习的训练和推理的芯片Inferentia和Trainium等。此次大会上AWS更新了两个系列,分别是Amazon Graviton4和Amazon Trainium2。

Graviton系列是基于Arm架构的服务器CPU,首款产品在2018年发布,近5年间一共更迭了四代。

据介绍,Graviton4与Graviton3处理器相比,性能提升高达30%,独立核心增加50%以上,内存带宽提升75%以上,为在Amazon EC2上运行的工作负载提供更优的性能和能效。

Trainium2芯片则专为生成式AI而来,日益增加的生成式 AI 应用背后是基础模型和大语言模型的支持,而这些大模型都需要使用海量数据集进行训练。如今最先进大模型通常包含数千亿甚至数万亿个参数或变量,需要更强大的“暴力计算”。

AWS表示,Trainium2与第一代Trainium芯片相比训练速度提升多达4倍,并能在EC2 UltraClusters中部署多达100000个芯片,可以在极短的时间训练基础模型(FMs)和大语言模型(LLMs),同时能效提升多达2倍。

而在自研芯片领域,谷歌推出TPU多年,近期微软刚发布两款芯片用于Azure云服务,云厂商的芯片竞争也愈演愈烈,但在GPU领域,各家都离不开英伟达。

此次,AWS就和英伟达进一步合作,英伟达创始人黄仁勋也来到现场,共同讨论围绕生成式AI的开发。一方面,黄仁勋宣布部署全新的GPU系列 ,包括最新的GH200,而AWS将是第一家在云端配备具有多节点NVLink技术的NVIDIA GH200 Grace Hopper Superchips的云厂商。

(图片:倪雨晴摄)

另一方面,NVIDIA DGX Cloud 也将登陆 AWS。黄仁勋表示,DGX Cloud是英伟达的人工智能工厂,可让企业和软件开发人员通过浏览器登入,即可获得英伟达的超级计算机DGX的AI算力。这是英伟达提供的训练“云服务”,此前英伟达与微软Azure、谷歌OCP、Oracle OCI等其他云厂商一起托管DGX Cloud基础设施。如今,AWS也加入合作,在AWS上运行的DGX Cloud将加速训练含有超过1兆参数的生成式AI与大型语言模型。

同时,英伟达还与AWS合作推动Ceiba项目,该超级计算机将配置16384颗NVIDIA GH200超级芯片,能处理高达65 exaflops速度等级的AI运算,从而推动生成式AI的创新。

推AI助手Amazon Q ,大模型应用赛跑

基础设施之外,AWS也在大模型相关产品上迭代。Selipsky指出,客户经常对如何最好地实施和使用人工智能有许多相关问题,AWS希望通过其Bedrock平台提供帮助。

Bedrock平台是中间的工具层,Bedrock能够让用户使用大语言模型和其他基础模型构建生成式AI的应用。Selipsky表示,Bedrock具有定制和安全优势,目前已经有超过一万名客户在使用Bedrock,未来还会不断扩大。

“(生成式AI)现在还处于早期阶段,”Selipsky谈道,不同模型通常会在不同的适用场景中表现更好,适应能力非常重要。

因此,Bedrock提供了对大量模型的访问支持,包括Anthropic的Claude模型。Anthropic被认为是OpenAI的劲敌,今年亚马逊向Anthropic投资了40亿美元,随后Anthropic的模型也成为了AWS服务中的一部分。目前,亚马逊已经推出自研的Amazon Titan AI大模型,据悉更多模型也即将推出。

同时,Bedrock也推出新功能,包括新的fine tuning(微调)工具、新的检索增强生成(RAG)技术、新的Agents使模型能够针对特定用例进行更加定制和优化。

此外,AWS还在会上推出了生成式AI驱动的助手Amazon Q,它主要用于工作场景中,比如辅助员工完成日常工作、总结文件、回答公司政策等。此前,OpenAI推出了火爆的ChatGPT,谷歌推出了Bard智能聊天机器人,如今亚马逊也与之展开竞争。

目前,Amazon Q的预览版本已上线,部分功能可免费使用,正式版本中企业用户的费用为每人每月20美元,具备额外功能的版本费用为每人每月25美元。对比来看,Microsoft 365的Copilot和 Google Workspace的Duet AI均需支付每人每月30美元。

Selipsky指出,很多公司表示由于安全和隐私的担忧,已经禁止了企业使用这些人工智能助手。对此,亚马逊设计Amazon Q时更注重安全性和隐私性。

可以看到,当前的云计算跑道上,单点竞争的时代已过,对大厂而言基础设施、大模型、应用服务都逐步成为标配要素。尤其是生成式AI时代来临,大而全的竞争正在开启,眼下微软云继续下注加码,AWS也在加速奔跑。

更多内容请下载21财经APP


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1