当前位置:首页|资讯|亚马逊|Bedrock|生成式AI

Rocket Mortgage通过使用Amazon Bedrock为生成式AI成功奠定了基础

作者:大A小i发布时间:2024-05-24

作为一家 U.S. 抵押贷款公司,Rocket Mortgage 一直在充分利用机器学习和 AI 技术,现在正采用模型无关的方式来推进生成式 AI,并借助一个专为加速而优化的多功能数据平台。

在抵押贷款行业获得成功,效率和准确性至关重要。同时保持选择的开放性也很重要。这就是为什么 Rocket Mortgage 一直是机器学习和 AI 技术的积极实施者,也是为什么 CIO Brian Woodring 强调了一种”人机循环”的 AI 策略,不会被任何一种生成式 AI 模型所拘束。

总部位于底特律的 Rocket Mortgage 零售抵押贷款公司已经部署机器学习和 AI 技术十多年了,是少数几家将生成式 AI 能力推向市场的先驱企业之一。

Woodring 表示:“我们现在已经在生产环境中部署了多个生成式 AI 案例,大约有一年时间了。”他指出,公司目前正在开发一种 genAI 聊天机器人,旨在像说话一样精听和理解。

另一个由 Rocket 开发的 genAI 助手可分析申请人的雇主名称,以确保可能以不同名称输入的雇主被理解为同一个雇主,从而大大加快了决策过程。例如,大多数人都知道 Google 和 Alphabet 是同一个雇主。Woodring 说,使用人类的这种知识来训练一个 genAI 助手验证雇主身份,比建立一个父公司名称数据库来与其子公司或更常见的公司身份进行交叉检查要高效得多。

作为早期将生成式 AI 投入生产的企业之一,Rocket Mortgage 在实施时制定了适当的防护措施和指导方针,以确保投资者和监管机构相信它是以安全和负责任的方式应用这项技术,Woodring 补充道。该公司现在有几个业务流程是通过自主开发的代码和 AI 完全自动化的。但如果任何生成式 AI 应用程序涉及决策,比如是否批准抵押贷款,那就一定会有”人机循环”,Woodring 说。

他说:“对于以 genAI 驱动的助手或系统(这是我们正在构建的大部分内容),我们发现结合一个多年来知道互联网上所有已发布内容的 genAI 模型和人的判断力,决策的准确性将提高 10% 到 15%,这是一个巨大的提升。”

分析人士认为,将人工输入纳入对生成式 AI 流程决策和结果的审核环节,正被证明是早期 genAI 成功的关键驱动力。

IDC 全球 AI 和自动化市场研究和咨询服务集团副总裁 Ritu Jyoti 表示:“生成式 AI 正在成为虚拟知识工作者,能够快速连接不同的数据点、总结和综合见解,让我们可以专注于更多高附加值的任务。”

“它正在改变贷款审批等流程,但人机循环至关重要,因为要真正有效和可行,必须做到 100% 准确无误,而该技术仍处于起步阶段”,Jyoti 说。

为模型无关的 AI 做准备

Rocket Mortgage 不仅是一家抵押贷款公司,同时也是一家工程公司,有 1,000 多名工程师和 600 名数据科学家共同为 Rocket 开发大部分内部代码,这是其创新工作的一大优势。

Woodring 于 2017 年加入公司担任 CTO,领导产品工程团队,他的首要任务之一就是加快 Rocket 对云技术的采用。

他说:“加入后的六个月内,我就宣布从那时起,我们所有新技术都将在云上构建。”

如今,60% 到 70% 的 Rocket 工作负载运行在云上,其中超过 95% 的工作负载在 亚马逊云科技 上。其余部分则在内部环境。

根据 Woodring 的说法,公司第一个机器学习模型是十多年前开发的,用于自动执行营销、潜在客户生成模式识别和贷款发放流程等任务。

但在过去五六年里,Rocket 对 AI 的应用”已经提速飞快”,Woodring 说。例如,他说大约三分之二的贷款申请人收入核实工作现在都是 100% 由机器学习模型和 AI 技术执行的。

Woodring 重申,无论何时需要做出决策,人工审核都是关闭流程的一部分。他说:“我们业务的几乎每个方面现在都会涉及到 ML 或 AI、任务自动化、模式识别和数据分析。”

Rocket 的工程师和数据科学家正在使用 Amazon Bedrock 和 Anthropic AI 技术开发生成式 AI 模型。尽管 Rocket 主要是一家 亚马逊云科技 商店,但它采用了针对生成式 AI 平台的模型无关方法。公司首席执行官 Varun Krishna 曾在 PayPal 和 Microsoft 任职,是一位经验丰富的技术高管,与包括 亚马逊云科技、Anthropic、OpenAI、Google 和 Mistral 在内的所有 AI 基础模型提供商都有直接关系,Woodring 说。

Woodring 说:“我们希望与他们所有人直接合作,因为我们想知道即将出现的新事物。”他还补充说,在这场复杂的 AI 军备竞赛中可能不会有一个明确的”赢家”。“更有可能的是,你会看到这些不同的 AI 模型针对不同的用例进行调优。我们希望能够在正确时间插入正确的模型。这是一个强大的策略。”

Woodring 表示,Amazon Bedrock 最有价值的一个方面是为 Rocket 建立了一个标准化的数据平台,这将使抵押贷款公司能够”非常快速地”将其数据传输到正确的 AI 模型。在其他情况下,Rocket 将测试各种 AI 模型,并”查看它们在不同任务中的效力”,Woodring 说。“这真的很有价值。”

这位 CIO 坚持认为,亚马逊云科技 也持有类似观点,“不会对某一个赢家予以全面承诺”,他说。“这与我们选择合适的 AI 模型用于合适的工作的策略非常符合。”

现代化数据运营

像 Woodring 这样的 CIO 都非常清楚,AI 模型的质量在很大程度上取决于所涉及的数据质量,以及如何将数据从数据库、数据仓库、云数据湖等注入到大型语言模型中。

因此,支撑 Rocket 的 AI 推进工作的基础是构建一个现代化的数据平台,其中包括存储在内部数据仓库中长达十多年的 10,000 TB 数据,以及存储在 亚马逊云科技 云端数据湖中的半结构化数据。与大多数企业一样,Rocket 继续在自己的数据中心运行一些旧有但仍在使用的技术。

Rocket 正在将其数据湖策略演变为一个 亚马逊云科技 数据平台,该平台可以支持结构化、半结构化和新的非结构化数据,具有语义和分类体系,并在顶层设有 API,使其”显著更易发现和可用于人工和软件消费”,Woodring 说。

这将把数据推送到 AI 模型最易摄取的存储库中。试图彻底清理 Rocket 的所有数据是不必要和繁琐的,会减缓部署下一代应用程序的进度,他说。

Woodring 表示:“我们是一家数据驱动型企业,而我们所处的抵押贷款发放行业实际上就是一个数据处理业务。”

他说,公司的活跃生成式 AI 引擎和下一代数据平台的设计旨在快速交付各种形式的数据,为特定任务提供策展服务,并采用适当的格式来推进其产品组合。

只需要团队和时间就可以做到,他补充说。“我们以能够在这里快速行动并做出市场先机为荣。”


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1