南都联合近20家单位机构发起倡议，呼唤金融业负责任的AI
去年ChatGPT面世，给国内AI大模型领域按下了“快进键”，引发了“百模大战”，竞争趋于白热化。值得注意的是，AIGC技术在金融业的落地和应用也是所有垂直行业中最快的，正重构数字金融业务全生命周期，在金融行业内掀起一场生产力革命，但也伴生性地引发了新的技术风险与伦理挑战，涉及数据质量、算力成本、隐私安全和伦理善治等问题。
12月19日，南方都市报、南都大数据研究院与琶洲实验室、光明实验室联合举办“势起AI 智启新界——大模型创新应用与安全治理大会”。会上，南方都市报、南都大数据研究院发挥智媒特色，联合近20家高校、科研机构、行业协会、行业企业等发起了《发展负责任的金融AIGC联合倡议》（以下简称《倡议》），携手探寻人工智能治理良策，践行AI向上向善理念，做好数字金融大文章。这也是国内首份由智库媒体发起的对金融领域生成式AI伦理治理规范的倡议书。
该《倡议》内容提出了“三大价值观”和“八大基本原则”，其中“三大价值观”分别是：坚持智能向善，金融高质量发展；坚持以人为本，金融风险可控；坚持回归本源，助力实体经济。“八大基本原则”包括了：推动有序创新，坚守合规底线，强化伦理善治，完善数据治理，增强透明可信，保障用户权益，共促公平普惠，鼓励开放互通等方面内容。
附《发展负责任的金融AIGC联合倡议》全文：
金融是“国之大者”，关系中国式现代化建设全局。2023年中央金融工作会议首次提出“加快建设金融强国”目标，明确以金融高质量发展助力强国建设、民族复兴伟业。在重点领域上，明确要求“做好科技金融、绿色金融、普惠金融、养老金融、数字金融五篇大文章”。
其中，做好数字金融大文章，离不开通过科技创新助力金融高质量发展。而用好数字技术推进金融业数字化转型，降低金融服务成本、扩大金融服务覆盖面、深化金融服务渗透，也是推进普惠金融高质量发展的题中应有之义。
生成式人工智能的出现，成为金融数字化转型的强力“催化剂”。大模型的落地应用，正在重构数字金融业务流程的各个环节，在金融行业内掀起一场生产力革命，让金融服务更敏捷、精准地触达长尾市场，也伴生性地引发了新的技术风险与伦理挑战。
不可忽视的是，所有人工智能技术造福于人类的基础无疑是取得使用者的信任。当生成式人工智能愈发聪慧，成为一种与人一样有认知决策能力的复杂工具，我们亟须确保其秉持着与人类共同的价值规范与需求，让人工智能安全，才会取得公众的信任。在金融领域，这样的信任尤为重要。
金融是强监管行业，安全合规是大模型落地的前提条件和重要保障。金融大模型安全合规既需要监管政策的约束，更需要大模型企业自身的主动作为。在金融领域发展生成式人工智能，需要研发、应用、监管和公众各方协同，确保大模型的稳健创新和安全应用。
为推动金融机构、科技公司等各方主体更负责任并合乎道德地应用生成式人工智能，擦亮金融为民底色，南方都市报作为人工智能安全治理专业委员会首批成员单位，联合多家高校、科研机构、行业协会、行业企业发起这份倡议，希望能够以此为起点，共建起“智能金融向善”的生成式人工智能“善治”生态圈。为此，我们提出以下三大价值观和八大基本原则倡议：
一、三大价值观
1．坚持智能向善，金融高质量发展
将“善”融入金融服务的基因，提倡用负责任的人工智能技术打造有温度、高质量的金融服务，主张发展技术的有益性，避免误用、滥用及恶用。
2．坚持以人为本，金融风险可控
坚持技术为人赋能、为人服务，坚守合规底线。在技术探索中体现和尊重人类主体性，做好必要的人工把关，给予用户充分自主选择权。
3.坚持回归本源，助力实体经济
回归金融本源，深化数实融合。以人工智能技术赋能数字金融创新，不断深耕普惠金融高质量发展，持续服务实体经济和人民美好生活需要。
二、八大基本原则
1. 推动有序创新
平衡创新与伦理，均衡效益与风险，积极倡导并稳妥有序推进生成式人工智能在金融领域的创新与应用。鼓励多元主体参与生成式人工智能研发及规模化应用的探索，推动重点业务场景应用赋能，加强相关领域人才能力建设。
2. 坚守合规底线
强化全面风险治理和合规监管，制定有效的风险管理策略。提升人工智能算法的可靠性，建立有效的风险预警机制，及时开展系统的风险监测和评估，确保交易场景的可控性、合规性。
3. 强化伦理善治
履行好伦理治理主体责任，做好伦理治理的制度建设、风险管控、协同共治。建立人工智能伦理审计制度与信息披露制度，及时发现、管控生成式人工智能技术和产品引发的负面伦理影响。进一步明确金融机构、科技公司、第三方数据服务商及用户等多方的社会责任和权利义务，建立健全责任分担机制。
4. 完善数据治理
做好数据治理是金融业应用好生成式人工智能技术的起点，以高质量数据从源头对抗AI虚假、偏见和价值缺陷等。建立健全数据安全防护长效机制，增强数据保密性、完整性和准确性，完善数据治理体系，提升数据管理和应用能力。
5. 增强透明可信
发展可解释、可信任的生成式人工智能金融应用。在算法设计、实现、应用等环节，提升透明度与可解释性，避免算法黑箱。引入行业专家进行人机协同，实现价值对齐，确保领域知识和专业逻辑的严谨性以及内容生成的可控性。
6. 保障用户权益
尊重并保障用户的隐私、自由、尊严、安全等权利及其他合法权益。采取合法、正当的方式采集用户数据，确保采集目的明确、合理，充分获取用户授权；按国家及金融行业有关制度、标准要求，披露生成式人工智能产品的技术应用远离、潜在风险等信息，并提供公众反馈渠道，为用户的自主理性选择提供支撑。
7. 共促公平普惠
强调包容普惠的设计与服务，有效发挥金融科技与普惠金融的天然相容性，提升金融服务的可得性、易用性、便捷性。减少大模型对个人和社会群体的歧视、偏见，提升人工智能学习准确性，坚决抵制利用技术优势进行算法杀熟，避免违反消费者适当性原则进行诱导消费或高风险产品错配等不正当行为。
8. 鼓励开放互通
倡导公平竞争，鼓励开放互通。金融领域大模型落地应用应从自身优势和业务重点出发，避免同质化建设和资源浪费，不可利用数据、流量等优势垄断经营。鼓励技术开放、互通协作，鼓励跨学科、跨领域、跨地区、跨国界的交流与合作，推动共建协调发展、合作共赢的金融大模型生态。
三、倡议联合方（排名不分先后）
南方都市报 南都大数据研究院
中央财经大学中国互联网经济研究院
中央民族大学互联网平台企业发展与治理研究中心
广州市数字金融协会
度小满
新网银行
马上消费金融
中邮消费金融
中原消费金融
众安保险
陆金所控股
金融壹账通
奇富科技
乐信
信也科技
新浪数科
旷视科技
云从科技
百融云创
出品：南都大数据研究院
监制：戎明昌 刘江涛
策划：王卫国 邹莹
统筹：凌慧珊 关健明
采写：南都记者 谢小清 熊润淼
设计：原毅