“倡议慎用ChatGPT”背后：金融机构面临什么风险？
中新经纬4月12日电 (魏薇 马静)ChatGPT引发的合规性问题正成为业界关注的焦点。
11日，国家互联网信息办公室(下称网信办)发布通知，就《生成式人工智能服务管理办法(征求意见稿)》(下称《意见征求稿》)向社会公开征求意见。
近日，中国支付清算协会也发布了《关于支付行业从业人员谨慎使用ChatGPT等工具的倡议》。
国内不少金融机构已在试水布局生成式人工智能。业内人士认为，金融机构使用ChatGPT等工具，应先进行可控范围的评估，同时提升数据保护意识，加强对客户的信息保护。
为生成式人工智能立规矩
“中国支付清算协会向行业发出倡议正当其时，对整个金融行业和从业人员都是一次提醒，具有较强的针对性。”招联首席研究员董希淼对中新经纬说。
中国支付清算协会表示，近期，ChatGPT等工具引起各方广泛关注，已有部分企业员工使用ChatGPT等工具开展工作。但是，此类智能化工具已暴露出跨境数据泄露等风险。为有效应对风险、保护客户隐私、维护数据安全，提升支付清算行业的数据安全管理水平，根据有关法律规定，中国支付清算协会向行业发出倡议。
“从金融安全的角度看，特别是要上传隐私类数据时，要非常慎重。”清华大学新闻学院元宇宙文化实验室主任、教授沈阳对中新经纬表示，最近ChatGPT在多个国家已经被警示或者被禁用，日本也在和Open AI进行讨论，要强化对隐私的保护。ChatGPT本身有隐私泄露的风险、数据安全的风险、价值观偏见的风险、还有环保方面的压力。
一位支付机构的从业人员在接受中新经纬采访时指出，ChatGPT能够极大地提高工作效率，但对于金融、支付等严监管行业来说，其带来的数据泄露、虚假信息、知识产权合规等风险不容忽视。
在谈到数据泄露和安全问题时，博通分析金融行业资深分析师王蓬博在接受中新经纬采访时强调，金融行业对于个人信息和相关的商业数据特别敏感，更应该注意这方面的问题。
王蓬博分析称，ChatGPT是一个人工智能技术驱动的自然语言处理工具，需要对数据库不断更新，运行逻辑是通过大量的文本收集、数据训练回答客户问题，而金融从业者若想使用ChatGPT则需要添加内容数据做训练，需要经过数据不断填充才能进化，就一定会存在金融数据隐私及安全问题，即使用户是无意识的行为，也非常有可能造成个人信息和数据的泄露。个人信息的收集、使用和传输都面临着安全挑战。
金融数据跨境风险也是业内关注的焦点。中国社会科学院金融研究所金融科技研究室主任尹振涛称，“支付机构其实拥有大量的用户信息和敏感信息，以及涉及国家安全的重要数据，包括支付数据，如果不加强管理，部分信息上传至境外服务器，其实是非常大的隐私泄露事件。”
中国人民大学国际货币研究所研究员、独立国际策略研究员陈佳对中新经纬分析称，境外API与中国支付行业在数据海关问题上的风险漏洞尚未破题。中国支付行业经过多年来的发展积累了大量客户群体的核心数据，包括个人信息、产行业信息、支付信息，并在依法合规获得渠道授权条件下得以接入国家金融数据库，这些数据的物理地址都在境内且接受数据和算力海关的监管。
“相比之下，包括ChatGPT在内的几乎全部海外API开发工具的服务器、数据库和算力中心都在境外。”陈佳指出，如果中资支付机构过度依赖这类API，几乎无法避免商业数据甚至客户隐私信息跨境出关的问题。由于API每一次调用不知不觉间可能涉及天量隐私数据，支付行业机构将防不胜防，监管技术亦将短期内高度承压。因此清算协会提出谨慎使用是立足当前行业发展实际的审慎之举。
金融机构应加强信息保护
在王蓬博看来，金融机构要想使用类似的产品，起码先进行可控范围的评估，做好预防措施以后再进行应用。预计在数据安全相关法律法规的政策框架范围内，未来有可能出台相关补充监管政策，比如数据分级保护制度、数据跨境审核机制等等。
中央财经大学证券期货研究所研究员、内蒙古银行研究发展部总经理杨海平在接受中新经纬采访时建议，监管部门对金融机构围绕ChatGPT等工具的业务应用进行充分的沙箱测试，结合测试结果，以金融科技伦理规范、数据治理规范、金融安全等考量为依据，形成监管意见，并采取下一步的监管行动。
董希淼指出，对金融机构而言，下一步应从三个方面加强客户信息保护：第一，在思想上，要高度重视客户信息保护。应将保护个人信息的理念内化于银行血液中，以最严格的标准和最严密的措施确保客户信息安全。第二，在管理上，应建立信息数据库分级授权管理制度。根据个人信息的重要程度、业务需要、敏感程度等，实行分级管理。在个人信息处理过程中，应在技术上对客户信息复制、查询有硬约束，比如建立分级审批、双人控制等要求。第三，在机制上，加强金融信息安全保护的宣传教育。一方面，应开展员工内部培训，在工作中强化对用户信息的保护意识；另一方面，应当未雨绸缪，将加强信息保护等融入消费者教育内容，提高消费者金融素养和自我保护能力。
专家呼吁实现自主可控的大语言模型
尽管生成式人工智能在使用上还存在一定风险，但中新经纬注意到，ChatGPT风起，一些金融机构也已先行布局或“放言”要使用这类人工智能技术，涉及领域包括智能客服、投研、投顾、量化交易、风险管理等。在多家券商2022年度报告或业绩说明会上，人工智能+金融既是提及的未来发展方向，也是投资者们提问的话题之一。
近日，东方财富董事长其实在业绩说明会上回答投资者提问时表示，已经陆续研发了东方财富金融数据AI智能化生产平台、多媒体智能资讯及互动平台系统等多个人工智能相关项目，并在公司部分产品及服务中进行了具体应用。
银行方面，在工商银行2022年业绩会上，工商银行副行长张文武表示，对于人工智能的研发应用，工商银行一直高度重视。从技术实力看，工商银行已经建成了自主可控、功能完备的企业级人工智能平台。从研发应用看，工商银行一直在探索适合金融业的大规模应用，近期与头部科技机构合作，在国内同业中率先推出人工智能金融行业通用模型，初步探索出超大规模通用模型应用于金融行业的实践。
百信银行最近则上线了首个3D数字营业厅，百信银行行长李如东认为，未来3-5年，“AIGC+数字人”将成为服务用户的主流形态，内容生产力和精准营销能力大幅提升，陪伴式的用户服务将成为标配。
险企方面，中国太保在2022年度报告中也提到，将基于大数据基础和技术全面加快经营管理的数字化转型步伐，尤其加大ChatGPT等人工智能前沿创新应用落地。
“ChatGPT及类ChatGPT产品在金融业应用场景丰富，如果符合风控和合规要求，将在满足客户需求、提升风控能力、降低经营成本等方面发挥积极作用，应用前景十分广阔。”董希淼表示，金融机构应高度关注人工智能等前沿技术和应用，以核心客户需求为导向，适时加大前瞻性投入和布局，持续提高金融科技发展水平，加快推进和深化数字化转型，不断提高客户服务能力和客户体验，提升为实体经济服务质效。
《意见征求稿》指出，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。
沈阳呼吁，中国自己的ChatGPT产品和大模型本地化部署是一个刻不容缓的现实需求，需要加大投入力量，快速缩小和国外的技术差距，实现自主可控的大语言模型，这是当下要高度重视的问题。
陈佳认为，未来中资API一旦破题，将实现科技伦理与理论创新，科技工具与产业链融合，科技监管与行业自律创新的全面配合。在结合中国一贯坚持从严监管、科技向善、自主创新的原则，支付行业在与中资API合作过程中，就可以规避新一代人工智能超速发展引发的科技伦理、监管缺位和发展超速的系统性问题，另一方面亦有利于中国金融科技和支付行业以我为主厚积薄发，实现不超速不失速的平衡发展，更好的将科技成果服务于人民群众。
(更多报道线索，请联系本文作者魏薇：vivi1257@163.com
