当前位置:首页|资讯|生成式AI|亚马逊

2023 re:Invent,生成式AI挑大梁

作者:计算杂谈发布时间:2024-01-11

原标题:2023 re:Invent,生成式AI挑大梁

近日,被誉为云计算领域风向标的亚马逊云科技在2023 re:Invent全球大会开幕,会上,基于AI的相关产品占据了绝对主力,“创新、生成式AI、重塑未来、安全构建”等成为大会的热门词汇。

12月12日,2023 re:Invent中国行城市巡展在北京正式开启,亚马逊云科技刚刚推出的众多新服务加速落地,中国市场迎来了新一轮的技术创新和业务拓展机遇。

亚马逊云科技大中华区产品部总经理陈晓建表示:亚马逊云科技推出如此多的服务中,大语言模型是最为重要的一部分,我们做了大量工程化的工作,能够帮助用户真正把大语言模型的能力和业务相结合。像Guardrails、模型选择等很多的工作,都是用户在真正做工程化时所需要的,这些都为用户带来了非常重要的价值。

Amazon Q:企业用户的强力AI助手

陈晓建所提到的“重要价值”之一,就是Amazon Q。亚马逊云科技对其的定义为:企业级生成式AI助手!

Amazon Q自诞生之初就是面向企业级的设计。据了解,Amazon Q基于亚马逊云科技17年来积累的知识和经验训练而成,用户可通过多种方式访问Amazon Q,包括亚马逊云科技管理控制台、文档页面、IDE、Slack或其他第三方对话应用程序的聊天界面。这使得用户能够更轻松地获取问题答案、解决问题和生成内容等。它可帮助用户轻松探索新服务、学习技术、构建解决方案、发现问题和升级应用,上手更快。

备受程序员们关注的能力就是辅助“写代码”,Amazon Q可以在Amazon CodeWhisperer中回答开发人员的各种代码相关的问题并附上可一键实施的代码,以确保代码的正确性和效率。此外,它还提供了代码转换功能,可以将应用维护和升级时的代码转换所需时间从几天缩短至几分钟,从而大大提高了开发效率。

通过使用Amazon Q和Amazon CodeWhisperer,开发人员可以更加高效地解决代码相关问题,并快速转换代码,以适应不断变化的需求。这种结合了人工智能和机器学习技术的解决方案,可以帮助开发团队更快速、更准确地完成工作。

陈晓建在演讲中也曾介绍道:在短短两天内,Amazon Q就成功地将1000个应用程序从Java 8升级到Java 17。这对于传统人工手动的升级方式,是远远无法企及的。

在商业应用方面,Amazon Q已经被引入到Amazon QuickSight中,这是Amazon QuickSight的一项新功能。它允许用户使用日常语言询问与业务相关的问题,并能迅速以可视化形式提供精准的回答。这个功能的预览版现已推出。

Amazon QuickSight在实际操作中,利用机器学习技术对业务数据进行预训练,因此能够理解用户在描述业务问题时所使用的行业术语和用语。这意味着用户无需进行复杂的数据准备,就可以通过自然语言查询获取相关的可视化结果。

此外,引入Amazon Q的Amazon QuickSight还具备高级分析功能,可以发现数据的隐藏洞察,执行准确的预测和分析。同时,这个功能还可以轻松嵌入到应用程序中,为用户带来出色的体验并解锁新的盈利机会。

通过使用Amazon Q和Amazon Connect的结合,企业可以为客户提供更加高效、个性化的服务。在实时对话中,Amazon Q可以自动检测客户的问题,并给出相应的建议和解决方案。同时,它还可以提供相关的资料和信息,以帮助客户更好地理解和解决问题。因此,更加智能化的云联络中心问世,可进一步帮助企业完善服务,并降低成本。

谈到Amazon Q的特别之处,陈晓建表示:亚马逊云科技会最大限度地保证安全,严格遵守用户的角色、权限方面的设定。同时,Amazon Q所有使用的用户数据和业务都不会被用于任何底层模型的训练。进而充分保证Amazon Q所提供的服务是负责任的AI,也不会产生有害的内容。

构建完善的数据基石

亚马逊云科技引以为傲的全球基础设施依然在不断拓展中,目前已经横跨世界32个地理区域,并计划新增5个左右区域。可提供全球一致的体验及高可用和灾难恢复能力。

而作为云计算“上天”的重要一环,Amazon Kuiper已经将首批两颗原型卫星送入了轨道。Kuiper是亚马逊云科技正在建造一个由数千颗近地轨道卫星组成的卫星⽹络,未来可通过专用、安全的连接从任何地方移动数据,以及连接访问亚马逊云科技的云中的数据。

此外,在陈晓建的演讲中有一项重要的发布,就是Amazon S3 Express One Zone。它是Amazon S3家族中最新的存储类别。这款服务专为需要高速数据访问和低延迟的应用程序设计,并针对这些需求进行了专门的软硬件优化。相比于标准的Amazon S3存储,S3 Express One Zone的性能提高了10倍,它能够以一致的毫秒级延迟处理每分钟数百万次的请求。

除性能上的优势之外,Amazon S3 Express One Zone在成本效益上也表现出色,其请求成本相较于S3标准存储降低了50%。同时,该项服务还被设计为能够提供99.95%的可用性,及99.9%的SLA。

在实际使用中,Pinterest已经成功地利用了Amazon S3 Express One Zone的优势,在写入速度提升10倍的同时,还将机器学习驱动的视觉灵感引擎的总成本降低了40%。对企业而言,Amazon S3 Express One Zone更高效、更具成本效益。

在硬件方面,亚马逊云科技还推出了Graviton4处理器,与前一代Graviton3相比,其性能提升高达30%,独立核心增加50%以上,内存带宽提升75%。

加速芯片方面,Amazon Trainium2也同步问世,拥有65 exaflops的计算性能,较上代产品有4倍性能提升,主要用于生成式 AI 和机器学习训练的专用芯片,针对训练具有数千亿至数万亿参数的基础模型进行优化。

生成式AI的挑战

随着技术的不断发展,可以看到越来越多的应用开始与AI密切结合,构建起一套全新的智能化方案,帮助企业迅速提高生产效率。

不过从表面上看生成式AI应用起来似乎比较简单,但对于大多数企业而言其依然是一项新技术,还处于探索阶段,因此同样面临着一些挑战。

陈晓建认为,生成式AI目前所遇到的最大挑战主要有两个,第一是关于模型本身的能力和使用方面;第二是数据基石方面。这也是亚马逊云科技一直以来高度重视的两个部分。

在模型方面,亚马逊云科技一直倡导负责任AI,保障数据和业务不外泄,企业可以快速把内部数据安全、放心地集成到Amazon Bedrock和Amazon SageMaker的服务之中来。并在用户使用生成式AI模型的环境下,构建一个安全、私密、隔离的环境,所有数据传输过程中都进行了加密,最大限度保障安全。

数据基石方面,亚马逊云科技也做了很多工作,例如像Amazon DataZone,通过定义不同数据的访问权限和数据本身的内容,能够保证数据在企业内部不同部门之间流通的时候,在一个安全、有效的管理框架下进行数据共享,同时还解决了数据孤岛等问题。

为了解决用户在数据编目过程中遇到的性能和效率问题,亚马逊云科技推出了AI描述建议功能预览版(AI recommendations)。AI描述建议功能利用生成式AI的能力,将其嵌入到数据指令中,使Amazon DataZone更加智能化。这将帮助用户在使用Amazon DataZone时减少简单人力的工作,提高工作效率。

亚马逊云科技所提供的不仅仅是一套产品或服务,而是一个拥有完整生命周期的方案,这也是其最大的优势所在。

此次亚马逊云科技re:Invent全球大会上,我们共同见证了亚马逊云科技在创新、实用性和安全性等方面的巨大突破。无论是为了提升效率,优化资源管理,还是推进人工智能和机器学习的边界,亚马逊云科技都展示了其强大的技术实力。

AI的时代已至,算力将引领未来!


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1