当前位置:首页|资讯|亚马逊|生成式AI

亚马逊云科技公布多项战略 生成式AI赋能数字创新

作者:科技视讯发布时间:2023-07-06

原标题:亚马逊云科技公布多项战略 生成式AI赋能数字创新

2023年6月28日,亚马逊云科技中国峰会在上海浦东世博中心继续举行,围绕“因构建 而可见”主题,亚马逊云科技全球产品副总裁 Matt Wood、亚马逊云科技大中华区产品部总经理 陈晓建、全面阐述生成式AI将迎来新的机遇。

如今生成式AI在搜索、创意、交互三大领域展现出广阔的应用前景,面对算力需求井喷式的增长,陈晓建在峰会上表示亚马逊云科技通过自研芯片方式为客户提供更高性价比的服务,并且在算力、网络、存储等产品提供组合产品应对突发的算力需求,以简化算力使用的方式来降低运维难度,满足用户多样化的算力需求。

目前全球智能化的转型已经成为一种全新的浪潮,其中大语言模型成为了热度最高的焦段话题,如何将生成式AI与大语言模型的运营存在较高的技术门槛。

亚马逊云科技的Amazon Bedrock提供了众多基础的模型访问,允许新用户通过API访问亚马逊的基础模型。用户在Amazon Bedrock上可以自行拓展可靠、安全的亚马逊云科技托管服务,自由访问图文、图形等一系列的基础模型。目前Amazon Bedrock已经成为用户使用、构建基础模型和扩展生成式AI的极简方案,降低了开发者的使用门槛。

随着生成式AI的广泛运用,生成代码以简化、高效率的编码的特点,逐渐受到开发者的青睐,在会上亚马逊云科技发布了基于机器学习的Amazon CodeWhisperer服务,该服务主要为开发者提供代码生成服务,进一步改善和提高生产力,目前支持包Java、JavaScript和Python共有15种不同的编程语言,未来将支持更多的编程语言加入该项目,极大提升用户的编码体验,让开发者享受编码的自由。目前Amazon CodeWhisperer服务针对个人用户完全免费,只需完成注册,就能生成基础版个人用的代码。

Amazon CodeWhisperer不只使用开发者的注释语句,还会自行查看可用信息,生成个性化、更相关、更可接受的响应,了解开发者的开发思路。亚马逊云科技在该服务中提供了超过50种安全检查,实时对代码进行安全审核、向上溯源,提前排除问题隐患。

经过测试对比,使用Amazon CodeWhisperer与未使用Amazon CodeWhisperer的开发者相比,任务完成速度快出57%,代码的运行效率提高了27%,极大地提高了开发的时间成本和工作效率,对于开发者团队的开发效率将是一个重大的改变。

数据对于生成式AI而言更是所有一切的起点,其根本在于数据。为此,亚马逊云科技推出云原生数据战略,以庞大的数据湖,帮助企业实现更高的效率的提升。

该项战略通过提供合适的工具集、连接所有数据、端到端的数据治理为不同业务场景找到“理想”的数据库,在系统、键值、文档、内存、图、时间序列、宽列和分类账八大数据库类型,为企业数据库提供极致的性能。

经过多年的战略发展,亚马逊云科技的分析服务已全面实现Serverless化,包括交互式查询服务、大数据服务、实时分析服务、数据仓库服务、数据集成服务商业智能服务以及运营分析服务,这些服务方便企业进行扩展,实现降低成本,以组合工具的形式让用户享受简单易用的服务。

对数据进行高度整合,亚马逊云科技将所有的数据服务方面有非常深度的连接和整合,在不同地区实现快速连接和访问,全新推出的Amazon Aurora服务,能够与Amazon Redshift进行Zero-ETL集成,允许使用 Amazon Redshift对来自Aurora的PB级事务数据进行实时分析和机器学习,不必构建和维护复杂的数据管道来执行提取、转换和加载。

关于端到端的数据治理,亚马逊以Amazon DataZone,数据管理为服务蓝本,为所有数据制作目录,不仅在亚马逊云科技,所有的SaaS应用中都可以进行访问和分享,加速数据的使用速度。在高速发展的情况下,利用数据是实现转型的巨大机会。这些数据也将推动生成式AI的广泛应用。

高品质的服务除了高品质的软件服务外,同样需要高性能硬件的助力,在过去十余年时间里,亚马逊云科技在芯片领域持续投入,并针对算力紧缺问题,亚马逊云科技也提供深入的基础设施。会上,陈晓建回顾了亚马逊的自研硬件之路,通过在硬件领域的持续投入,让亚马逊能够应对算力需求的井喷式增长。

早在2013年,亚马逊云科技就推出了云服务器虚拟化引擎 Amazon Nitro系统,这也是亚马逊云科技自主研发的第一款芯片。经过十余年的迭代,在本次峰会上亚马逊云科技推出了第五代Nitro V5芯片。和之前的芯片产品相比性能有了大幅度提升,拥有更快的转发率和更低的延迟,每瓦的功耗有40%的提升,在数据防烦扰方面层面实现了网络和存储的硬件级隔离机制,完全隔断数据和网络通信,避免造成互相干扰。

在加密方面任何进出 Nitro的数据包都会进行硬件级别的加密,最大限度保证用户数据通信的安全。

在机器学习领域,亚马逊云科技认为,没有专门针对机器学习优化的GPU在未来将难以胜任机器学习的任务,为此,针对机器学习,亚马逊云科技分别推出了训练用芯片Amazon Trainium和推理芯Amazon Inferentia。

基于机器学习训练芯片 Trainium在训练吞吐率上单节点的吞吐率可以提升 1.2倍,而多节点集群的吞吐率可以提升 1.5倍,并且能够降低1.8倍的单点成本和2.3倍的集群成本。

新一代的推理芯片Amazon Inferentia,基于通用 GPU的 EC2实例相比,带来了70%成本的降低;2022年又推出了第二代推理芯片Inferentia2,进一步提升了 4倍吞吐量,延迟降低至10%,通过优化,可部署更加复杂的大语言模型和Diffusion类模型。另外,Inferentia在设计的时候就考虑到去实现吞吐率和延迟的双重优化,以实现"鱼与熊掌,两者兼得 "。

亚马逊云科技提供600多种不同的计算实例,从处理器、网络和存储等各种服务都能够与计算进行很好的结合,以积木的方式搭建出一个丰富灵活的计算实例的资源,满足多种不同算力的要求。

未来亚马逊云科技将继续推动云服务的全面Serverless化,从而开启云服务的Serverless时代,让用户无须管理设施,也能运行任何程序和后代服务,帮助客户减轻运维工作,更好的应对各种业务。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1