Rocket Mortgage：模型无关的生成式AI战略炼成记
别再纠结选哪个大模型了。
美国Rocket Mortgage采用了模型无关的生成式AI战略，这让他们不会受制于任何模型。
Rocket Mortgage将genAI模型和人类判断结合起来，使得决策的准确性提高10%到15%。
业务每个方面均受影响
Rocket Mortgage是美国一家在线抵押贷款服务公司。该公司在10多年前就开始布局机器学习和人工智能领域，是少数几家能在市场上释放生成式AI能力的先驱之一。
在Rocket Mortgage的CIO Brian Woodring看来，Rocket Mortgage是一家数据驱动型的企业，因为他们的抵押贷款业务就是始于数据处理。不仅如此，Rocket Mortgage的决策层认为，人工智能是贷款行业的游戏规则改变者。
在抵押贷款行业，效率和准确性至关重要，保持选择的多样性同样重要。这是为什么Rocket Mortgage积极采用机器学习和人工智能技术的主要原因。
值得一提的是，Rocket Mortgage不仅是一家抵押贷款机构，还是一家工程公司，拥有1000多名工程师和600名数据科学家，他们共同构建公司内部的大部分代码，这是Rocket Mortgage进行创新的重要优势。
Woodring透露，10多年前Rocket Mortgage开发的第一个机器学习模型，旨在实现营销、潜在客户生成模式识别和贷款起始流程等任务的自动化。
而在过去的五六年里，Rocket Mortgage的人工智能应用“进入了超速发展阶段”。该公司在生产端采用多个生成式AI用例已经有一年多时间了。当前，他们正在开发一个具备收听、理解和表达能力的genAI聊天机器人。
Rocket Mortgage开发的另一款genAI助手用于分析申请人的雇主名称，以确保那些以不同名称输入的雇主实际上是同一家公司（如Google和Alphabet是同一家雇主），从而大大加快了决策过程。Woodring说表示，利用这种人类知识来训练genAI助手以验证雇主身份，比建立母公司名称数据库来与子公司或更常见的公司身份进行交叉检查，效率要高得多。
对于Rocket在生成式AI方面的实践，IDC全球人工智能和自动化市场研究与咨询服务集团副总裁Ritu Jyoti评价说，生成式AI正在成为虚拟知识工作者，能够在几秒钟内连接不同的数据点，总结和形成洞察，使人类能够专注于更高价值的任务，并且正在改变贷款核准等流程。
Woodring表示，当前Rocket Mortgage业务的几乎每个方面都受到机器学习或人工智能的影响，包括任务自动化、模式识别和数据分析。
Rocket Mortgage已经用自主代码和人工智能完全自动化了几个业务流程。其中，该公司三分之二的贷款申请人的收入确认完全由机器学习模型和人工智能技术完成。
人在环路至关重要
在将生成式AI投入生产的同时，Rocket Mortgage制定了适当的监管措施和指导方针，以说服投资者和监管机构，公司正在以安全和负责任的方式实施这项技术。
Woodring特别强调，如果任何生成式AI应用涉及决策，如是否批准抵押贷款，总会有“人在环路（Human-in-the-loop）”——在需要做出决策时，人类始终是决策过程的一部分。
这里需要解释的是，人在环路是指在自动化系统中加入人类专家以监督和指导系统运行的过程。在人工智能应用中，人在环路的价值在于提供人类专家的智慧、经验和监督，以确保系统的可靠性、准确性和合规性。人类与机器的协同合作可以实现更好的结果，充分发挥人工智能的优势，同时弥补其局限性。
“通过genAI助手或系统，我们发现，结合了了解数年来互联网上所有信息的genAI模型和人类判断，决策的准确性将提高10%到15%。这是巨大的。”他说。
分析人员几乎一致认为，将人类的输入纳入生成式AI的过程决策和结果确认中，正在成为早期genAI成功的重要推动因素。
比如，IDC的Jyoti表示，人在环路之所以至关重要，是因为生成式AI需要百分之百的准确性才能真正有效和可行，因为这项技术仍处于萌芽阶段。
模型无关的必要性
当Woodring于2017年加入该公司担任首席技术官，领导产品工程团队时，他的首要任务之一是加快Rocket对云计算的采用。
Woodring介绍，加入公司后的前六个月，他做的第一件事就是宣布今后公司所有的新技术都将在云端构建。
如今，Rocket的60%至70%的工作负载在云端运行，这其中超过95%的工作负载都在AWS上。其余的工作负载在本地运行。
Rocket的工程师和数据科学家正在使用AWS Bedrock和Anthropic AI技术开发生成式AI模型。尽管Rocket主要使用AWS，但他们对生成式AI平台采用了模型无关的方法。
提到这一策略的原因，Woodring分析说，在当前这场复杂的人工智能竞赛中，可能不会出现所谓的赢家；更有可能出现的情况是，这些不同的人工智能模型针对不同的用例进行调优。
“我们希望直接与所有这些公司合作，因为我们想知道未来会发生什么。”Woodring说：“我们希望能够在合适的时间接入合适的模型。这是一种强大的策略。”
值得一提的是，Rocket公司首席执行官Varun Krishna本身也是一位经验丰富的技术高管，曾在PayPal和微软工作，他与包括AWS、Anthropic、OpenAI、Google和Mistral在内的几乎所有AI基础模型提供商都保持直接联系。
模型无关，也是Rocket选择与AWS持续深入合作的一个重要因素。Woodring认为，AWS“不会选择一个赢家”，具有跟Rocket类似的思维方式，这与他们针对特定工作选择合适人工智能模型的策略非常契合。
AWS Bedrock强调通过单个 API接入各种领先的基础模型。Woodring表示，AWS Bedrock最有价值的一个方面是，为Rocket建立了一个标准的数据平台，这将使Rocket能够“非常快速”地将数据传输到合适的人工智能模型中。
在其他情况下，Rocket着力测试各种人工智能模型，并“观察它们在不同任务中的表现”，Woodring说，“这真的很有价值。”
数据运营的现代化
Woodring非常清楚，一个人工智能模型的质量在很大程度上取决于相关的数据质量，以及将这些数据从数据库、数据仓库、云数据湖等接入大型语言模型中的方式。
因此，创建一个现代化的数据平台对于Rocket推动生成式AI应用至关重要。该平台整合了存储在本地数据仓库中超过十年的10,000TB的数据，以及存储在AWS云数据湖中的半结构化数据。与大多数企业一样，Rocket仍在用旧技术运营一些自己的数据中心。
Rocket正在将其数据湖战略发展为一个AWS数据平台，该平台可以支持蕴含语义和分类法的结构化、半结构化和较新的非结构化数据，并在其上提供API，使其对用户也好，软件也好，都更加易于发现和可用。
这将把数据推送到最适合被人工智能模型摄入的存储库中。Woodring认为，试图清理Rocket的全部数据是不必要且繁琐的，而且这将减慢部署下一代应用程序的过程。
据悉，目前 Roket正在设计积极的生成式AI引擎和下一代数据平台，以快速提供各种形式的数据，为特定任务进行策划，并以适当的格式推进其产品组合。