当前位置:首页|资讯|亚马逊|生成式AI|ChatGPT

亚马逊云科技的「Q」,到底是什么?

作者:极客公园发布时间:2023-12-01

原标题:亚马逊云科技的「Q」,到底是什么?

面向企业用户的生成式 AI 助手 Amazon Q,和 ChatGPT 很不一样。

作者 | 北方

北京时间 11 月 28 日凌晨,亚马逊云科技的 re: Invent 2023 大会在拉斯维加斯召开。

这个被称为「云计算春晚」的盛会,今年很不一样。不一样的原因,当然近来生成式 AI 的爆火——从 ChatGPT 问世到现在,已经整整一年;以 ChatGPT、Stable Diffusion、Runway 等等为代表的生成式 AI 应用掀起狂潮,裹挟世界进入新时代。我们都已经看到了生成式 AI 的巨大潜力,它将会重塑人们的一切行为方式,无论是信息获取,还是生产内容和产品。

对企业中如何应用生成式 AI,亚马逊云科技做了一些研究。研究结果表明,有 75% 的应用集中在四个方面:市场,客户,软件工程和研发。而那些尝试把生成式 AI 引入工作场景的企业,往往发现效果并不尽如人意。现有的生成式 AI 产品面向个人用户,基于大量来自互联网、书籍数据库和维基百科的数据训练而成,无法对于企业的特定业务问题给出有针对性的建议;而若是给这些 AI 工具提供企业内部知识,又可能会导致隐私和数据安全问题。

具体而言,这些通用的生成式 AI 应用不了解企业的业务、数据、客户、运营或者员工;它不知道使用者的具体工作,不知道当前任务的信息环境,不知道可用的数据源。这大大限制了生成式 AI 应用的能力。而且,目前这些面向个人用户的产品也没有配备企业所需的安全和隐私功能,无法保障员工在日常工作中的数据和信息安全。最近这类信息泄露事件层出不穷,不少企业都禁止员工在工作中使用 ChatGPT——包括 OpenAI 的最大投资方之一的微软公司在内。

而要是企业开发属于自己的 AI 应用,则不仅需要大量时间和投入,还难以随着业务进展持续更新。企业的 AI 应用,应该和企业的信息资源管理一样分级分层、设置权限;应该能够和其他工具配合,融入企业工作流中;应该能根据公司的信息政策和可信信息源审查,以及应该能够保证隐私和数据安全。

显然,这并不容易。这个困境和云服务出现之前的 IT 基础设施建设困境,在本质上有些相似之处。而解法,也许异曲同工。

亚马逊云科技 CEO Adam Selipsky 在今年的主题演讲中说:「围绕生成式 AI 的创新是爆炸性的。我们相信,生成式 AI 应该帮助工作中的每个人。」

这就是亚马逊云科技发布 Amazon Q 的原因:一个面向企业的、为工作而设计的生成式 AI 助手。它可以利用企业私有知识完成任务,也可以和亚马逊云科技的诸多产品配合使用,帮助企业提升运营与开发效率。它是一个通用性产品,客户可以根据自身情况灵活配置,从而让客户企业的每位员工都能充分发挥生成式 AI 的优势——自然语言理解、信息提取、生成内容,这些都是生成式 AI 的长项。

「拥有最广泛和最深入的能力很重要,」Selipsky 说。「我们开始利用亚马逊云科技提供的服务彻底重新思考 IT 基础设施。」

这可能是今年亚马逊云科技最重要的发布。在面向企业的生成式 AI 应用上,亚马逊云科技率先交出了答卷。毕竟,面向个人和面向企业的生成式 AI 区别巨大,企业若想借助 AI 提升效率,还得靠擅长服务企业的资深专家。

那么,Amazon Q 是什么?

01

Q 来自问题

Amazon Q 这个名字结合最近的火热新闻,给人们留下了不少猜测空间。其中最主流的,是认为「Q」来自问题。

这很合理。毕竟无论是企业还是企业的员工,都是通过解决问题来创造价值。面向企业用户的生成式 AI 应用,应该能解决哪些问题?

在企业语境下的生成式 AI 应该擅长准确回答与企业内部知识有关的问题;能够从大量文档和数据源中提取高价值信息,辅助做出决策;可以从多个数据源获取数据产生内容,无论是撰写营销文案还是编写业务代码。

如果打开配置好的 Amazon Q,会发现它的界面和市面上的其它生成式 AI 聊天应用区别不大。如果让它「写一篇关于专业人士如何在时间管理方面出类拔萃的引人注目的文章,并将文章字数控制在 500 字以内」,或者「为这份可持续设计办公空间的报告创建一份格式精美的摘要」,它也都能完成相应任务。

但是,最重要的地方是看不见的:它的数据和信息来源,是用户自己企业的私有知识,而这些知识是安全的。

容易看出,这样的提示词和使用 ChatGPT 等生成式 AI 应用时几乎没有区别;如果说有的话,就是缺少了在使用其他个人生成式 AI 时的「角色扮演」步骤。这是因为 Amazon Q 知道用户所定义的角色,理解角色的工作范围,明白角色的工作目标。角色设定早已存在于企业的组织架构和职位安排中,这些企业知识可以成为 Amazon Q 的内隐知识。

接下来,在某处的数据中心里,Amazon Q 搜索它有权限访问的、已经做好索引的数据源,以生成式 AI 的能力生成内容,提供数据来源,方便使用者审查。

亚马逊云科技 CEO Adam Selipsky 在主题演讲中说:「你可以轻松地与 Amazon Q 进行聊天、生成内容、采取行动。这一切都基于你对你的系统、数据存储库和运营的理解。」

而除了这些生成式 AI 的能力之外,考虑企业的使用环境,Amazon Q 还有其他特别之处。

第一,是基于用户权限的访问控制:Amazon Q 可以理解用户的身份、角色和权限。如果用户在没有 Amazon Q 的情况下没有权限访问某些数据,那么使用 Amazon Q 也无法访问这些数据。当然,管理员可以设置,允许将特定的回应仅限制给特定的员工或数据源。

第二,是能够与其他常用企业应用协同。Amazon Q 可以连接 40 多个流行的企业应用程序和文档库:包括 S3、Salesforce、Google Drive、Microsoft 365、ServiceNow、Gmail、Slack、Atlassian 和 Zendesk 等等,可以从这些应用中获取数据,也能将它们连接成工作流。

第三,是避免生成与企业政策不符的内容。Amazon Q 拥有管理控制功能,可以阻止整个主题,也可以使用关键字过滤问题和最终答案。管理员还可以做出限制,让回复只来自企业数据的信息,而不是底层大模型的世界知识,避免产生那个臭名昭著的、已经被《剑桥词典》列入年度词汇的「幻觉」现象。

第四,则是最重要的数据和信息安全。驱动 Amazon Q 的模型是来自亚马逊云科技提供的底层模型,其中包括亚马逊云科技的 Titan 系列。这些模型不会使用客户数据训练。在构建 Amazon Q 时就已经充分考虑了安全性和隐私问题,以帮助客户满足最严格的企业需求。

这就是面向企业用户的生成式 AI 应用,是适合客户企业的业务专家。不过,Selipsky 说,这只是「我们将继续重新定义未来工作方式的开端。」

02

Q 来自《星际迷航》

还有些人认为,Q 这个名字,来源于《星际迷航》。众所周知,亚马逊的创始人 Jeff Bezos 是《星际迷航》迷,公司里的同好者也不少。

在这套长寿剧集中,有一个外星种族叫 Q。他们基本上无所不能,还会视乎情况,化作最合适的形象和人类交流。

这个观点听起来好像……的确有一些道理。Amazon Q 是个通用的生成式 AI 助手,但它也可以与特定的业务结合;比方说商业智能分析工具 Amazon QuickSight,比方说客户联系工具 Amazon Connect,比方说企业供应链服务 Amazon Supply Chain。

Amazon QuickSight 是为云构建的商业智能服务,过去就提供了自然语言查询功能。而在 Amazon Q 的加持下,能力进一步提升。除了更容易地生成可视化图表以外,客户还可以生成数据故事、概要总结,以及和 Amazon Q 讨论开放性问题。

统计学家汉斯·罗斯林说,数字很无聊,但人很有趣。想要数据给人留下深刻印象,来增强说服力或者推动决策,需要把它包装成数据故事。用户可以提出诸如"描述上个月业务发生的变化,用于向领导层汇报。」或者「为我构建一个关于整体销售业绩趋势的故事。按产品和地区拆分数据。」之类的要求,Amazon Q 就会审视数据对业务可能意味着什么,然后在几秒钟内根据 Amazon QuickSight 中的数据,提出好问题,形象化呈现,来为用户提供工作基础。

Amazon Q 可以快速创建摘要,突出显示仪表板中需要注意的重要内容,帮助用户了解数据中的亮点。Amazon QuickSight 会确定有价值的事实和统计数据,然后使用生成式 AI 来描述值得关注的趋势。这些关键见解会使用自然语言描述,帮助用户节省查看详细数据仪表板的时间。

用户还可以和 Amazon Q 讨论开放性问题,例如「为什么上个月的订单数量增加了?」或者「我该如何应对销量下滑?」;Amazon Q 会动态创建数据仪表,总结详细信息,还能提供相应的视觉效果。这样的问题,以前即使使用 SQL 这样的查询语言也无法获取答案,而 Amazon Q 则能帮助用户获取洞察。

现在,宝马公司正在使用 Amazon QuickSight 中的 Amazon Q 来优化库存管理,帮助分析师在几个小时里构建数据仪表板,而以前需要几天时间。

Amazon Connect 是云联络中心,为企业的客户体验服务。在 Amazon Q 的帮助下,企业员工能迅速成为优秀客服,能快速、准确响应客户需求。Amazon Q 能根据客户与客服之间的实时对话检测客户问题,然后自动回复、提出建议,列出相关资料。这样的应用提高了客户满意度,同时降低了培训客服人员和解决问题的成本。它会自动推荐座席人员应说的话和应采取的行动,来为客户提供更高质量的的服务。它还能在通话后生成电话后总结,方便客户体验主管跟踪后续步骤。

亚马逊云科技 Amazon Supply Chain 中的 Amazon Q,能让供应链管理者、供需计划人员随时了解供应链的状况,还能探索原因和生成解决方案。"是什么?"、"为什么?"和"如果……会怎样?」的问题都可以交给 Amazon Q,无论是「我的货物延迟的原因是什么?」还是」如果我换一家物流企业会怎样?」,Amazon Q 都会将复杂场景的结果可视化,还可以追问问题,来对比分析不同决定的优劣。

这样听起来,Amazon Q 好像和《星际迷航》中的 Q 真的有点像。

03

Q 来自「007」

还有一小部分人认为,Q 这个名字来自「007」系列。Q 是这个系列里的一位技术专家,也是这位最著名的皇家特工的好帮手,总是能拿出些新奇有用的道具,帮助 007 屡屡化险为夷,顺便大杀四方。

这个说法可能也有道理,就像 Claude 这个名字来自信息论的创始人 Claude Shannon,Mac 上著名的效率工具 Alfred 的名字则来自蝙蝠侠那位无所不能的老管家。

Amazon Q 的确也是一位技术专家。它由亚马逊云科技 17 年来积累的知识和经验训练而成,是亚马逊云科技服务的绝对专家。用户可以询问亚马逊云科技产品的相关问题,可以检索亚马逊云科技服务的运行方式,可以探寻架构解决方案的最佳实践,可以获取故障产生的原因和解决办法,或者请 Amazon Q 帮忙,挑选出满足特定需求的最佳云服务产品。

对于以上所有类型的问题,Amazon Q 都会给出明确答案,并且在浩如烟海的文档和记录中,列出引用出处。在过去,这些检索和判断都是繁重的工作,往往也是艰巨的挑战。而现在,用户可以任意追问,来获取更加详尽的答案,而 Amazon Q 不厌其烦。

不仅如此。在今年 4 月份,亚马逊云科技发布了 AI 编程助手 Amazon CodeWhisperer。这是个强调安全的 AI 编程助手,使用亚马逊云科技自己的代码训练,而不像 Github Copilot 那样使用了大量的开源代码。现在,Amazon Q 也和 Amazon CodeWhisperer 结合在一起,将构建软件的专业知识与对客户代码的理解结合起来。软件工程师们可以和 Amazon Q 聊天来理解程序逻辑,这让维护旧代码的工作变得不再那么令人生畏;他们也可以在 Amazon Q 的帮助下调试代码、撰写测试和优化代码,来加速开发过程。

现在,在 Amazon CodeCatalyst 和 VS Code 这样的代码编辑工具中,已经可以使用这些新功能。开发者为 Amazon Q 分配任务,Amazon Q 会起草分步计划、编写代码;开发者只需要查看 Amazon Q 提出的建议、做一点改动、然后批准即可。Amazon Q 还可以自动生成测试,以及评估代码质量。现在著名的咨询公司埃森哲已经开始使用 Amazon Q 来帮助发展自己的业务,他们希望利用 Amazon CodeWhisperer 和 Amazon Q 为 5 万名软件开发者和 IT 人员提供支持。

另外,Amazon Q 还能做一件开发者们避之唯恐不及的工作:为应用程序维护和升级。最近,由 5 名亚马逊云科技开发者组成的小团队使用 Amazon Q 代码转换,在两天内将 1000 个应用程序从 Java 8 升级到 Java17——每个程序升级的平均时间不到 10 分钟。而在以前,手工升级一个程序大概也需要两天时间。

「我真的相信,Amazon Q 是革命性的。」Adam Selipsky 说,「我们希望,从事不同类型工作的人,都能从 Amazon Q 中获益。」

亚马逊云科技的初衷是降低客户的技术应用门槛,对于 Amazon Q 也是一样。配置只需要敲击几下、点击几次:首先,提供一个应用程序名称,并设置一个新的身份来让 Amazon Q 扮演;其次,选择一个从索引中提取数据的检索器;最后,连接数据源,等待索引完成。

然后,就可以在云服务的控制台中,随时唤起这个 AI 助手了。

当然,像在「007」系列中 Q 一样,Amazon Q 也需要整个团队的支持。对于 Amazon Q 来说,它的支持是所使用的基础大模型、企业用户自己的知识,还有强大的计算和存储能力。

在今年的 re: Invent 大会上,亚马逊云科技发布的 AI 栈,包括了从自研 AI 训练芯片 Trainium 2、大模型管理和训练平台 Amazon Bedrock 到 Amazon Q 的诸多产品和服务。Amazon Q 的能力,是在这些技术基础上实现的。在这些基础之上,用户既可以直接连接自己的数据源来使用 Amazon Q,也可以将自己的知识数据库通过 Zero-ETL 功能转换成向量数据库,通过 Amazon BedRock 提供的功能选择合适的大模型,加以微调或持续预训练,来满足自己企业定制生成式 AI 的需求。

毕竟现在和去年不同,AI 已经成了可以看得到的趋势,实验室中的风扇狂转已经转化成了真实世界中的生产力收益;而亚马逊云科技认为,解锁 AI 潜力的关键,在于使用自己的独特业务数据来定制。

04

Amazon Q

是商业生成式 AI 的起点

面向个人的生成式 AI 已经火爆了一年,而面向商业的生成式 AI,争夺也已经展开。无论是微软的 Colipot,还是谷歌的 Duet AI,都已经渗入云服务中,希望成为企业用户的好帮手。

而不同的是,亚马逊云科技在发挥其基础设施和全栈优势,利用 Amazon Q 来连接从硬件到软件、从产品到服务的诸多关键点。

Constellation Research 的分析师 Holger Mueller 说:「亚马逊云科技已经构建了一系列跨服务能力,而 Amazon Q 是下一个发展阶段。」Amazon Q 在尝试为所有亚马逊云科技提供的服务增添一个统一助手,减少这家市场占有率最高的云服务企业所面对的复杂性挑战。

而复杂性,正是这个飞速变化的时代最不缺的东西。生成式 AI 的兴起为云服务商开辟了新蓝海,也在加速云服务商的变革。在快速变化的时代,我们能够依赖的只是创新和适应能力;正如 Selipsky 所说,「适应能力,是你可以拥有的最有价值的能力。」

*头图来源:亚马逊云科技

本文为极客公园原创文章,转载请联系极客君微信 geekparkGO

极客一问

你如何看待 Amazon Q

热点视频

黄仁勋表示 OpenAI 风波提醒了他公司架构有多么重要,「如果不是我29岁设计的公司架构,英伟达就没有今天。」(画面来源:The New York Times)

点赞关注极客公园视频号

观看更多精彩视频

更多阅读


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1