中国银行原行长李礼辉：AI迭代有价值，也有冲击和挑战
2024年1月10日，由《财经天下》周刊联合市界、市界研究院举办的异想大会在北京香格里拉饭店举行，大会以“韧性·穿越奇点时刻”为主题。中国银行原行长李礼辉发表了《AI迭代的颠覆与挑战》主题演讲。
关于人工智能技术最新趋势，李礼辉主要归纳了三个方面，一是生成式AI提供了内容生产方式的变革和人机交互方式的变革；二是从通用大模型扩展到垂直模型，笼络了数字技术上的不同领域；三是AI模型可以直接降低知识应用成本，从而创造价值，提升生产效率和管理效率。
李礼辉提到，在智能金融方面，我们现在应该还处在辅助和助理早期的阶段，有人预测2023年生成式AI技术可能能够使券商的估值提升21%，使保险机构估值提升18%。但同时，AI迭代也给我们带来冲击和挑战，包括算力集中与算力竞争、共享与数据的管控、AI系统的目标如何与人类的价值观和根本利益保持一致等。
01、人工智能技术的价值体现
2022年的10月30日，微软的OPENAI推出了ChatGPT，两个月活跃用户就超过了1亿大关，这个事情被称之为人工智能技术发展的起点。
ChatGPT有基于超级算力的学习能力和语言能力，2023年的3月14日升级为GPT4，10月中旬又升级为Turbo。在这样的人工智能带领下，更多的AI模型推向市场，中国的AI模型现在大概超过200个，获得国家网信办备案通过的有文心一言等。总体上大家认为ChatGPT是目前最先进的生成式大模型，有人挑选评定人类理性思维的四类经典测试任务，包括语义错觉任务，认知反射类任务等等，做了一个测试，GPT3.5正确率58%，GPT4正确率88%，高于人类62%的平均正确率。
李礼辉归纳了三个最重要的人工智能技术最新趋势。
第一，生成式AI提供了内容生产方式的变革和人机交互方式的变革。生成式AI可以根据非结构化的数据生成新的非结构化的内容，包括文本、视频、图象、代码，非结构化是很大的特点，它可以适应各种任务。因此会对数字化产业产生重大的影响。
第二，从通用大模型扩展到垂直模型，笼络了数字技术上的不同领域，包括大数据、云计算、虚拟现实、人机交互、知识图谱，计算机视觉、生物识别，机器人，自动驾驶等等，形成以AI技术为核心的体系。
第三个，AI模型可以直接降低知识应用成本从而创造价值，可以提高产出、节约成本，提升生产效率和管理效率。2023年全球AI聊天程序的访问量达到了191亿次，其中ChatGPT占比高达76.31%。
李礼辉认为，“在智能金融方面，我们已经做的很多，也做的很好，但是我们现在应该还处在辅助和助理早期的阶段。”有人预测2023年生成式AI技术可能能够使券商的估值提升21%，使保险机构估值提升18%，主要集中在两个方面，一是改进产品创新和客户服务，比如说工商银行的数字交易系统，招商银行的AI小招智能助理等；二是改进运营管理和风险管控。过去我们基本上是用测试AI，现在逐渐采用生成式AI。
02、AI迭代的冲击和挑战
AI迭代会给我们带来什么样的冲击和挑战？李礼辉归纳为四个方面：
第一是算力集中与算力竞争。算力的基础设施，包括以服务器为中枢的硬件和以算法程序为核心的软件，核心算力基础设施的建设需要持续投入巨大的财力、人力，这样一定会导致算力的集中。因此，算力的竞争将是主要经济体之间的，国家级的竞争以及资本巨头之间，科技巨头之间的企业竞争。
第二是数据的共享与数据的管控。数据共享模式方面可能会影响数据价值的成果。
第三是AI对齐与AI合成。AI对齐是指AI系统的目标必须与人类的价值观和根本利益保持一致。AI合成应用于深度学习、虚拟现实等生成类的算法制作图象、音频、视频等，随着AI合成水平的进化，深度合作算法甚至可以对抗通用的技术性甄别。换句话说，如果我今天的讲话视频有人加以应用，它可能做出一个假的我在这里讲话，讲不同的内容。
第四是AI信任与AI安全。从金融业的角度来看，有待解决的技术缺陷包括模型技术黑箱，模型学习局限，模型决定歧视，模型输出幻觉等等。