原标题：人工智能为金融服务业带来风险和机遇

自ChatGPT推出以来，许多知名人士就人工智能（AI）对社会的影响发表看法。比尔·盖茨（Bill Gates）表示，ChatGPT具有“革命性”，是“自图形用户界面以来最重要的技术进步”。[1]谷歌首席执行官桑达尔·皮查伊（Sundar Pichai）认为，AI的快速发展“将影响每家公司的每一款产品”，他表示“社会需要适应AI”。[2]

但并非所有人都看好AI前景。今年3月，包括特斯拉联合创始人埃隆·马斯克（Elon Musk）在内的一批技术专家、学者和商界领袖联名签署信函，呼吁在六个月内暂停训练世界上最先进的AI模型。签署者认为， AI技术开发必须基于审慎规划和协作。信中写道：“很遗憾，目前的规划和管理水平并不到位——尽管最近几个月，各AI实验室争相开发和部署更强大的数字思维，但没有人（即使是创造者）能理解、预测或可靠地控制这些数字思维。”[3]

关于AI的讨论也引起了金融业高管的关注。他们认为，AI技术可能创造新的机遇，但也会带来新的风险。近期，在2023年金融服务业领导峰会上，来自全球银行、保险、资管和金融科技公司的董事、高管与监管机构和行业专家就AI的发展、技术应用以及金融机构面临的挑战进行了讨论，主要观点分享如下。

一、AI技术发展迅猛

虽然大型金融机构在某些领域运用AI技术已有时日，但与会者认为，ChatGPT和类似生成式AI工具的出现标志着AI技术取得重大飞跃，并将带来深远影响。一位与会者表示：“我们正处在AI发展的拐点，很显然，这也将成为社会发展的拐点。”一些金融机构开始尝试使用生成式AI，并研究其功能，且初步成果令人惊艳。与会者预测，AI将继续快速发展，并将在未来五年内打破人类认知。但随着AI的进步，整个社会对其前景感到乐观的同时，也存在不安。一位与会者认为，这些不安主要来自“对科技进步的合理反应”，并强调暂停AI模型开发并不可行。该与会者建议，金融机构应继续尝试使用这些新工具，因为“技术应用得越多，越不觉得恐惧，反而越兴奋”。一些与会者觉得，AI发展势不可挡，趋势不可逆转，影响无处不在。AI留给人们适应的时间远少于之前互联网，它将加速发展，并产生深远影响。

二、金融服务业不断涌现新的AI应用

自ChatGPT问世以来，AI模型越来越强大，应用部署越来越快速。与会者认为，生成式AI将为金融业带来如下益处。

► 提高客户服务质量。大型语言模型（LLM）有望为客户带来更加高效且个性化的服务。一位与会高管指出：“现在的聊天机器人只能回答它们知道的问题，但不久以后，它们将能够回答自己不知道的问题。”更强大的数字化辅助工具有助于缓解前台员工压力，同时提供更好的客户体验。帕兰提尔公司（Palantir）旗下有一款尚未正式上市的AI产品。一家保险公司在获准提前使用该产品的几天内创建了一个“协作式AI代理”来自动处理理赔事宜，结果显示这一工具比竞争对手的产品“领先数年”。[4]

► 加快并改善文件复核和数据分析。银行和保险公司在正常业务过程中会生成大量文件和数据，在不同表格、数据库和保单中搜索具体信息既费时又繁琐。先进的LLM可以帮助加速这一过程，并生成新的信息。一位与会保险业高管解释道：“保险公司的文件和报告中含有大量专业知识和信息，LLM可帮助理解先前难懂的信息，并且识别多种语言。”更快地识别这些差异，有助于承保人员或数据技术人员将有限的时间投入到更加有意义的工作上，并且预防“泄露或成本过高的情况”。此外，ChatGPT还可用于股票研究和其他业务领域。

► 简化软件开发，实现软件开发大众化。与会者预测，GPT将彻底改变软件行业，普通人可以通过提示工程执行开发流程，从而大大减少工程师在软件开发上花费的时间，缓解人才短缺。

► 管理原有平台。与会者认为，在最终迁移到更现代化的平台之前，可以利用生成式AI工具提高对老旧系统的管理效率。一位与会高管表示：“每个银行或保险公司都有处于运行状态的老旧系统。没有人了解这些系统。但生成式AI可以帮助你了解这些系统，并为转型做好准备。”

尽管与会者对生成式AI的初步应用场景抱有热忱，但也表示，在目前阶段仍有一些领域是他们不愿探索的。例如，一些机构仅使用生成式AI处理自有数据，并未使用外部数据，也没有用它与客户互动。

三、生成式AI带来额外风险

大型金融机构在考虑如何使用AI的同时，还需要降低这一技术带来的风险。与会者提及在部署这些工具时，需关注以下问题。

► 紧跟技术变革的步伐。与会者认为，我们面临技术变革速度的挑战，从GPT-1、GPT-2、到GPT-3.5，再到GPT-4，AI技术实现了巨大的飞跃。一位与会资深技术人士坦承：“我从事技术工作40多年……这是第一次感受到，变革的速度超过了我们所能理解和管理变革的能力。”

► 分清事实与虚构。众所皆知，生成式AI工具生成的结果令人叹服，但有时却毫无真实性。一些与会者指出：“ChatGPT是一个概率模型，它与人类认知非常不同，若将概率结果理解为事实本身可能会误导我们。我们不应该轻信这些结果，就像出门在外不应该相信任何人一样。我们需要考虑AI给出答案的概率分布。”

► 监控可能存在的偏见和意外后果。AI应用日趋复杂，可能产生偏见。一位与会者认为，大多数算法反映了算法制定者的偏见。例如，某银行在测试使用AI应用处理信贷申请时，震惊地发现“在两周内，AI完全根据邮政编码发放贷款……”。出于避免偏见的考虑，有些银行不愿将AI应用于授信和审贷流程中。一位与会高管表示，金融机构必须非常谨慎地提取信息并将其呈现给客户或监管机构，否则会出现大量违规。

► 加强网络和其他安全防御措施。一位与会董事表示：“我非常担忧国家支持的网络行动、网络威胁、欺诈、网络钓鱼。我们将会看到网络骗子如何利用AI来提高犯罪效率。”另一位与会者提醒：“通过操纵数据湖和破坏数据就可以操纵算法。”但是，一位与会者比较乐观：“是的，我们将面临更多的欺诈和网络攻击，但防御应对措施也会越来越先进。那么，我们如何利用AI驱动工具加强防御呢？”

金融机构在应对上述风险的同时，还需要关注不断变化的监管环境，因为这也可能给金融机构带来新的挑战。例如，目前欧盟议会正在审议《人工智能法案》，其中包括根据风险对AI系统进行分类、对风险较高的系统实施更严格的监管以及彻底禁止某些活动的拟议规则。[5]如果法案得以通过，大型金融机构有关信用评级、人力资源流程甚至电子表格的合规成本将会增加。

四、金融机构正处于调整治理和监督模式的早期阶段

大型金融机构仍在评估需要对治理和监督做出哪些调整，从而可靠地部署这些强大的AI模型。与会者提出了以下初步想法，后续将做进一步探讨。

► 制定原则并组建多学科团队来监督AI应用。邀请拥有不同学科背景且经验丰富的领导者来共同探讨一项计划创造的收益是否超过其所带来的风险，是否值得执行。与会者提供了一些值得借鉴的指导原则，如从辅助而非替代性的应用场景着手等。

► 制定安全框架。首先，考虑与技术本身密切相关的风险。其次，考虑与AI使用者相关的风险。这将有助于最终制定所需的控制和问责机制，并解决透明度问题。

► 利用AI技术进行AI事实核查。金融机构需制定“检测AI是否正常运行和是否发生故障”的流程。与会者建议使用AI技术监测、控制和降低其他AI模型中的风险，如同一个人有多位同事帮助检查工作一样。

► 为高层领导以及普通员工提供潜在应用场景及相关风险的培训，确保全社会拥有未来发展所需的各类技能。

► 加强董事会对话，帮助他们尽快深入了解AI技术。

往期推荐

应对气候风险，落实转型计划

近期欧美银行风险事件对金融监管和竞争格局的影响

注：

[1].Bill Gates，“人工智能时代已经开启（The Age of AI Has Begun）”，GatesNotes（博客），2023年3月21日。

[2].Jennifer Elias，“谷歌CEO警告社会需要为人工智能发展加速的影响做好准备（Google CEO Sundar Pichai Warns Society to Brace for Impact of A.I. Acceleration）”，消费者新闻与商业频道，2023年4月17日。

[3].Samantha Murphy Kelly，“Elon Musk和其他技术领袖呼吁暂停失控的人工智能角逐（Elon Musk and Other Tech Leaders Call for Pause in ‘Out of Control’ AI Race）”，CNN Business，2023年3月29日。

[4].Jake Rudnitsky，“Palantir新AI工具火爆，需求前所未有（Palantir Sees Record Demand for Its New AI Tool. Here’s What It Does）”，彭博，2023年5月9日。

[5].Ryan Browne，“欧洲或将出台西方第一部AI相关法律，ChatGPT被‘盯上’（Europe Takes Aim at ChatGPT with What Might Soon Be the West’s First A.I. Law. Here’s What It Means）”，消费者新闻与商业频道，2023年5月15日。

本文是为提供一般信息的用途所撰写，并非旨在成为可依赖的会计、税务、法律或其他专业意见。请向您的顾问获取具体意见。