当前位置:首页|资讯|亚马逊|生成式AI|机器学习

驾驭大模型,亚马逊云科技将生成式AI技术提交给每一个用户

作者:数字化前哨战发布时间:2023-07-03

原标题:驾驭大模型,亚马逊云科技将生成式AI技术提交给每一个用户

生成式AI将是未来几年最重要的生产力工具,突破以前无法突破的极限,重塑各行各业。

随着数据爆炸、高度可扩展的计算能力的可用性,以及机器学习技术的不断进步,生成式AI登上了时代的舞台。那么企业如何开启GenAI的新征程呢?

科幻作家威廉·吉布森说“未来已至,只是还没有均匀分布”。亚马逊云科技全球产品副总裁Matt Wood认为,亚马逊云科技始终希望将拥有广阔前景且令人兴奋的GenAI技术提供给每个人、每一个构建者和每一个商业用户的手中!

亚马逊云科技大中华区产品部总经理陈晓建则表示,亚马逊云科技广泛和深入的服务可以让客户摆脱基础架构的束缚,专注于创新。而亚马逊云科技提供从中心到边缘的多种产品的解决方案,都将成为用户创造坚实底层架构的基石。

1.释放生成式AI的价值

亚马逊云科技全球产品副总裁 Matt Wood

如何来解锁生成式AI的价值呢?Matt Wood认为,首先要提供对一流的基础模型的访问,以便您可以构建最好的生成式AI应用。

第二,能够提供一个安全和私密的环境,完成对模型的定制。

第三,能够通过在定制芯片等算力上的投入,提供低成本和低延迟访问,以进行相关基础模型的训练和推理。

第四,系统性地发现机会,用生成式AI提升客户使用的体验,如使用“专业编程助手”快速轻松地编写源代码等。

为此,亚马逊云科技提供了众多相应的工具与服务。

如Amazon Bedrock提供对一流的基础模型的访问。这项新服务允许用户通过API访问来自AI21 Labs、Anthropic、Stability AI和亚马逊等的基础模型。使用Amazon Bedrock,用户可以通过可扩展、可靠且安全的亚马逊云科技托管服务,访问从文本到图像的一系列强大的基础模型。

借助Amazon Titan模型库实现安全且私密的模型调优。Amazon Titan是一系列不同的模型的库,可实现文本归纳总结、搜索结果嵌入、有害内容删减等,用户可以安全、隐私地对模型做优化和微调。

另外借助Amazon CodeWhisperer,改善应用体验。这是亚马逊云科技基于机器学习为开发人员提供的一个代码生成的服务,支持包括Java、JavaScript和Python等在内的15种不同的编程语言,个人用户可免费使用。

2.低成本、低延迟算力是生成式AI的基础

围绕生成式AI,无论是训练还是推理端,算力需求都将有望爆发式增长。目前AI所需算力需求井喷,并呈现三个特点:需要更高性价比的软硬件解决方案,以应对算力资源紧缺;云服务需要提供快速高效的弹性资源供给,以应对生成式AI的迅速发展和快速变化的业务需求;云服务需要进一步降低使用门槛,让客户能快速上手等。

亚马逊云科技大中华区产品部总经理陈晓建

陈晓建说,针对算力需求井喷,亚马逊云科技通过自研芯片创新、弹性的计算存储组合以及Serverless架构,帮助客户简化运维,以更高性价比满足多样算力需求。

针对算力需求紧缺,亚马逊云科技提供全面深入的基础设施能力,包括Intel、AMD、英伟达和自研的CPU及加速芯片产品。

其中,Nitro是亚马逊云科技的第一款自研芯片产品,实现了非常轻量级的虚拟化与网络、存储在硬件级别的隔离机制,在硬件层面实现了硬件的加密。去年推出的第五代Nitro将每瓦性能提高了40%。

Arm架构的通用处理器Graviton 3与上一代产品相比,计算性能提高多达25%,浮点性能提高多达2倍,加密工作负载性能最多加快2倍。第四代产品Gravtion3E则在针对高性能计算应用场景的向量计算性能再提升了35%。

机器学习训练芯片Trainium的增强型Trn1n实例的网络带宽跃升至1.6Tbps,可将万余个Trainium芯片构建在一个超大规模集群上,实现对超大模型的并行训练。

机器学习推理芯片Inferentia在设计的时候就考虑到了吞吐率和延迟的优化,使得用户两者可以兼得。

针对弹性资源供给,亚马逊云科技提供600多种不同的计算实例,包括处理器、网络和存储等各种服务,都能够与计算进完美结合,以积木的方式搭建出一个丰富灵活的计算实例的资源,满足多种不同算力的要求。

以存储为例,数据规模到达PB级别时存储方式变得非常重要,“热、温、冷、冻”不同类型的存储方式、成本和性能都有很大差别。Amazon S3对象存储提供8种存储层级,同时提供智能分层,自动选择最适合的存储层级。

而亚马逊云科技推动云服务全面迈向Serverless,让客户无需预置或管理基础设施,就可以运行几乎任何类型的应用或后端服务代码,帮助客户最大限度减轻运维工作,并增加业务敏捷性,更好地应对业务的各种不确定性。

3.云原生数据战略是生成式AI的起点

数据对于生成式AI而言更是一个起点。亚马逊云科技提出了云原生的数据战略,实现更高的效率提升。

Matt Wood说,亚马逊云科技通过提供适合任何用例的全面工具集与服务,满足用户的需要;轻松集成,连接所有数据;实现端到端的数据治理,解放团队,更快处理数据。

具体而言,亚马逊云科技推出15种专门构建的云上托管数据库服务,为各类用户的应用场景提供更契合的数据服务;亚马逊云科技的分析服务已全面实现Serverless化,包括交互式查询服务Amazon Athena、大数据处理服务Amazon Managed Streaming for Apache Kafka (Amazon MSK)、实时分析服务Amazon Kinesis、数据仓库服务Amazon Redshift、数据集成服务Amazon Glue、商业智能服务Amazon QuickSight以及运营分析服务Amazon OpenSearch Service。

亚马逊云科技最近推出的Aurora新的服务——Amazon Aurora,可以与Amazon Redshift进行Zero-ETL集成,允许使用Amazon Redshift对来自Aurora的PB级事务数据进行近实时分析和机器学习 (ML)。事务数据在被写入Aurora后的几秒钟内,即可用在Amazon Redshift中,因此用户不必构建和维护复杂的数据管道来执行提取、转换和加载 (ETL) 操作。

最后,通过数据治理,加速并保障数据流通。亚马逊云科技去年推出的数据管理服务Amazon DataZone,可以让客户更快、更轻松地对存储在亚马逊云科技、客户本地和第三方来源的数据进行编目、发现、共享和治理。借助Amazon DataZone,管理员和数据资产管理者可以使用精细的控制工具管理和治理数据访问权限,确保数据访问发生在正确的权限和正确的情境之下。

4.打造全球化的企业对IT架构,构建生成式AI应用

Matt Wood为企业开启生成式AI征程提出了5个具体建议,包括:基于企业现有的数据战略去做构建;在组织内实现更广泛、更安全的生成式AI实验;为需求场景定制化模型;携手亚马逊云科技,探索无限可能;选择场景,即刻启程,构建未来。

陈晓建说,在国内,无论是AI创新风潮带来的算力资源需求爆发,还是中国企业创新出海新格局下普遍的“全球化”需求,亚马逊云科技都能为企业提供助力。

越来越多的中国企业在全球大展拳脚,打造全球化的企业,对IT架构提出更高要求。亚马逊云科技提供从中心到边缘的多种产品的解决方案,包括覆盖全球的基础架构,以及快速部署稳定系统的能力,还有全面支持全球各个国家和地区业务合规能力,成为用户创造坚实底层架构的基石。

亚马逊云科技提供的高度安全可靠的云基础架构,让创新能够快速抵达每一个角落,为客户提供支持业务创新的算力,并能很好地支持客户的全球化布局战略。客户无论何时何地,都可以使用相同的基础设施、服务、API和工具。如今,亚马逊云科技全球31个区域的99个可用区,可以覆盖245个国家和地区。

亚马逊云科技通过区域隔离、多可用区设计、控制面和数据面解耦、蜂窝架构、随机分片、服务责任模型、运营就绪审查、安全的持续部署、COE纠错流程等,把风险降到最低。

亚马逊云科技几乎满足全球所有监管机构的合规性要求,支持143项安全标准与合规认证,有超过300种安全合规服务,帮助各行各业的客户能够更方便地搭建满足全球各地安全和合规要求的架构。

而众多成功的案例,续写着亚马逊云科技“走出去,请进来”计划的辉煌。在使用亚马逊云科技的CloudWAN广域网服务之后,OPPO 可通过本地网络提供商,连接到亚马逊云科技,通过中央控制面板和网络策略在几分钟就可以建立起一个覆盖全球的自己的专用网。借助完整的网络视图,可以直观地了解整个网络的运行状况、安全和性能。

中集集团拥有300多家成员企业和四家上市公司,在全球100多个国家和地区拥有客户和销售网络。亚马逊云科技的云方案能够从效率、性能、管理成本各方面很好的满足中集集团业务的发展需求。以物流板块为例,中集这几年大量布局海外,在东非的筹备小组在仅仅两周之内就完成了当地业务所需要的IT基础设施和算力。中集集团先后上线了82个企业级应用,包括像SAP、仓储系统、CRM、SCM、费控系统等等,利用亚马逊云科技服务达到了更高的效率,以及高达20%成本的节约。

面对生成式AI等前沿科技带来的新挑战和新机遇,亚马逊云科技大中华区执行董事张文翊建言,企业需要“面向未来不断构建”,做到高瞻远瞩,积极拥抱技术革新,以具有创造性的方式想象未来的可能性,重塑企业及行业的未来;应放眼乾坤,瞄准全球用户,在一个更加广阔的天地里求变求发展;同时要做到未雨绸缪,夯实地基,打造业务韧性,为挑战和不确定性提前筹备。


Copyright © 2026 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1