关键字: [出海日城市巡展, 生成式Ai应用, 金融行业全球化, 优化用户体验, 提升生产效率, 信息数据收集]

本文字数: 1600, 阅读完需: 8 分钟

导读

在”金融行业论坛_生成式 AI 在金融行业的应用及思考”的演讲中,亚马逊云科技资深解决方案架构师鞠小龙先生分享了生成式AI在金融行业的应用情况和思考。他指出,生成式AI在优化用户体验、提高生产效率、加速信息收集和自动化建模等方面为金融行业带来了新的机遇。许多金融企业已经在亚马逊云科技平台上部署了基于生成式AI的应用。鞠小龙还介绍了亚马逊云科技在生成式AI应用落地方面为客户提供的工具和服务,包括Bedrock托管服务、芯片加速器、SageMaker微调平台等,以帮助客户快速开发和部署AI应用。他强调,亚马逊云科技愿与客户一起探索生成式AI在金融行业的各种应用可能性。

演讲精华

以下是小编为您整理的本次演讲的精华，共1300字，阅读时间大约是6分钟。

当前,经济全球化不断深入,金融行业的业务也在加速走向海外、国际化和全球化。在这一背景下,人工智能(AI)给金融行业带来了新的机遇和挑战。AI在优化用户体验、节省成本、提高效率以及加速获取信息数据等多个领域展现出巨大潜力。

亚马逊云科技(AWS)在金融行业拥有广泛影响力。在全球范围内,已有许多知名金融企业将业务部署在亚马逊云科技上,包括银行业的BBV、DBS、NAB等;保险业的安盛、安联、AIG等;证券业的飞利浦、纳斯达克等;以及国内知名的互联网券商出海等企业。这些企业持续将他们在AI相关领域的探索、实践和创新在亚马逊云科技的年度技术大会Reinvent上分享经验。例如,彭博在2019年分享了基于亚马逊云科技服务构建智能化搜索应用的经验;2022年,网易理财和Sun Life分享了基于亚马逊云科技大模型服务Bedrock构建的消息生成应用和员工生产力提升应用。网易理财基于Bedrock为约1600万用户构建了高度定制化的消息生成应用,而Sun Life则基于Bedrock构建了内部员工生产力提升应用。这些分享说明了金融企业在AI领域的热情和趋势,也证明了AI在金融行业业务中的巨大潜力。

AI在金融行业的应用场景非常广泛,覆盖了金融业务的方方面面。许多客户已在这些领域进行了大量应用实践和探索。比如在优化用户体验方面,AI可用于构建理财助理、智能客服、个性化推荐等,为终端用户带来更智能、个性化的体验。以智能客服为例,可结合企业内部文档构建知识库,基于知识库快速召回,帮助客服人员提高响应效率,提升用户体验。还可结合大模型实时感知客户情绪,提高客服满意度,并进行事实质检和总结。

在提高生产效率方面,金融行业有大量技术文档、年报、财报、数据和财经资讯等,基于大模型可以方便地为业务人员从海量文档中提取摘要和所需数据,加快分析速度,提高生产力。在信息收集和自动化建模方面,AI可为营销人员生成文案,为开发人员生成代码等,节省人力成本。此外,亚马逊云科技还观察到金融行业对多模态模型有需求,可加速业务流程优化。比如有客户基于多模态大模型构建智能化车险理赔审核流程,加速业务流程,提高生产力,节省成本。

自ChatGPT于2022年11月发布后,大模型应用迅速进入金融行业视野,公开应用层出不穷。2023年3月,彭博发布了面向金融领域的大模型BlueAI,结合40年数据积累和金融语料训练的500亿参数模型,在金融任务上表现远超基础模型。4月,老虎证券推出AI投资助理TigerPPT,可为投资者进行个性化股票研究和筛选。同月,婷婷发布PortAI,结合内部数据为社区用户提供意见总结和日报服务。6月,Bondppt面向债券领域发布产品,可识别公司债券,结合实时流动性数据帮助用户筛选债券组合。这些公开应用在一定程度上反映了大模型在金融行业的应用能力。

学术界的研究也证明,大模型已能达到人类水平的金融术语理解能力,并在股票趋势预测等任务上展现出潜力,尽管仍有提升空间。通过公开案例和客户实践,亚马逊云科技发现金融企业对大模型的需求主要来自四个方面:

首先是业务部门的业务人员,他们对自身业务痛点有深入理解,需要AI以何种方式快速解决问题、落地业务价值,而不太关注具体的模型细节。其次是技术人员,需要基于企业现状选择技术路线来落地应用。他们可结合内部知识构建知识库,通过提示词快速开发应用;或结合私有数据对通用模型进行微调,解决效果不佳或成本高的问题;还可结合企业数据优势训练定制行业模型。

针对这些需求,亚马逊云科技为客户提供了多方面支持:

1.整合模型基础产商、工具链产商和ISV,与亚马逊云科技一起为客户提供多模态解决方案,快速落地解决业务问题。无论文字、视频、图像等,亚马逊云科技都有优质合作伙伴助力。

2.加速融合基础模型产商和工具链产商与ISV,将能力快速复制到客户端,解决落地过程中的通用化能力问题。

3.提供Bedrock等服务,以API方式安全合规地调用领先基础模型,并提供知识库、智能体、模型评估等辅助能力,加速应用开发。Bedrock基础模型包括AntonicGPT、OpenAI的GPT-3和GPT-4、开源的BloomAI和MetaAI等,以及最新加入的AnthropicAI的Claude模型。Bedrock知识库支持OpenSearch、PostgreSQL向量数据库和Amazon RDS等服务,可与企业内部数据无缝集成。

4.提供芯片加速、框架等基础设施,支持大规模模型训练和推理。亚马逊云科技的Trainium芯片已被彭博、亚马逊内部团队等用于训练大模型,获得良好效果。例如,彭博基于Trainium训练的500亿参数大模型BlueAI在金融任务上表现优异。

5.提供数据库、数据湖等数据基础设施,具备全面的结构化、半结构化和向量化数据存储能力,支持高效数据流动和全面数据治理,为企业训练和微调模型奠定基础。亚马逊云科技数据库服务包括关系型数据库RDS、文档数据库DynamoDB,以及支持向量数据的Redshift、ElasticsearchService和QuantumDB等。

6.提供SageMaker等服务,支持在Bedrock上直接微调,或基于SageMaker灵活控制微调全过程。ByteDance基于SageMaker部署自有大模型,最高获得60%成本节省和5%延时收益。

7.免费的专家团队和专业服务团队,帮助客户解决”最后3公里”的工程化、工具链、基础设施等落地问题。

总之,生成式AI正在影响和改变金融行业乃至生活的方方面面。亚马逊云科技愿与广大客户共同探索AI在业务落地上的各种可能性,如有任何问题都可联系亚马逊云科技。

总结

生成式人工智能(AI)在金融行业的应用正在加速发展,为金融企业带来了优化用户体验、提高生产效率、节省成本等诸多机遇。金融行业对AI的需求主要来自业务人员、技术人员和拥有行业数据优势的企业。亚马逊云科技通过提供多模态解决方案、Bedrock托管服务、芯片加速器、统一框架、数据基础设施等,助力金融企业快速开发和落地生成式AI应用。亚马逊云科技愿与广大客户携手探索AI在金融行业的无限可能,共同推动金融行业的创新与发展。