近日,国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》(以下称《办法》),自2023年8月15日起施行。国家互联网信息办公室有关负责人表示,《办法》旨在促进生成式人工智能健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。
科技的飞速发展,让人工智能成为各行业数字化转型的重要工具。今年上半年以来,生成式人工智能已在银行业广泛应用。《办法》的出台将会对银行业产生一定的影响,比如监管合规、数据安全、算法公正、技术人才储备等。
完善监管框架,促进银行人工智能健康发展
《办法》的出台意味着人工智能领域的监管框架将进一步完善。《办法》在第一章的第一条就指出,“为了促进生成式人工智能健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《中华人民共和国科学技术进步法》等法律、行政法规,制定本办法。”
银行业是人工智能应用的重要领域之一,监管框架的完善将有助于规范银行应用人工智能技术,加强对银行业使用生成式人工智能的监管,确保其符合相关法律法规和行业标准,保障金融市场的稳定和安全,促进其健康发展。
加强数据安全和隐私保护
毋庸置疑,个人信息保护与数据安全合规是银行展业的底线,而《办法》也着重强调了数据安全和隐私保护的重要性。
《办法》在服务规范中要求,“提供者应当依法承担网络信息内容生产者责任,履行网络信息安全义务。涉及个人信息的,依法承担个人信息处理者责任,履行个人信息保护义务。”《办法》还鼓励“采用安全可信的芯片、软件、工具、算力和数据资源。”
生成式人工智能的应用需要处理大量的数据和信息,因此银行需要采取更加严格的数据安全和隐私保护措施,以确保客户数据和隐私的安全。国内的银行基本都已成立数据治理的专业管理队伍,还制定了数据分类分级、消费者保护等相关管理办法。
与此同时,金融监管也在数据安全管理方面积极探索。今年7月24日,中国人民银行发布关于《中国人民银行业务领域数据安全管理办法(征求意见稿)》公开征求意见的通知。《意见稿》分成总则、数据分类分级、数据安全保护总体要求、数据安全保护管理措施、数据安全保护技术措施、风险监测评估审计与事件处置措施、法律责任等。
推动算法的公正性和透明性
《办法》对算法的公正性和透明性提出了具体要求。比如要求,“在算法设计、训练数据选择、模型生成和优化、提供服务等过程中,采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。”
在银行业中,算法的公正性和透明性对于避免歧视和不公平行为至关重要。这也意味着银行需要建立完善的算法管理制度,明确算法的原理、流程和决策标准,确保算法的可解释性和可验证性。同时,银行需要加强算法的评估和审查,确保算法的公正性和透明性。
提升技术创新和场景应用能力
《办法》的公布将促进生成式人工智能在金融业中的应用。《办法》在第三条指出,“国家坚持发展和安全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎和分类分级监管。”
银行可以根据自身的技术能力和应用场景,选择合适的人工智能模型和技术,推动银行在人工智能技术方面的投入和创新,促进生成式人工智能在风险评估、客户管理、智能投顾等领域的应用,以提高金融服务的质量和效率。同时,这也对银行自身技术能力和人才储备有了更高的要求,也只有这样才能适应生成式人工智能的发展和应用需求。
生成式人工智能在银行业的应用还刚刚开始,《办法》的公布正好在一定程度为银行加强与人工智能企业、研究机构等之间的合作与交流提供的方向。比如数据分级合规、技术创新应用、算法协作等。生成式人工智能会在合规中促进银行业的人工智能发展,也会在规则中更健康地实现全面数字化转型升级。