观点丨程絮森：用负责任的人工智能来催生新质生产力
程絮森
中国人民大学国家发展与战略研究院研究员
信息学院教授
政府工作报告强调，制定支持数字经济高质量发展政策，积极推进数字产业化、产业数字化，促进数字技术和实体经济深度融合。其中，“人工智能+”行动提出了以生成式人工智能为代表的人工智能技术即将加速落地各行各业，催生垂直行业的新质生产力。
生成式人工智能技术，依靠大数据、大模型、强算力的“化学反应”，通过对自然语言和音视频的数字化处理，在数据的相互作用中训练出具有推理、创作、决策等复杂能力的智能体，是发展新质生产力的重要引擎。作为新兴数字技术，人工智能体现出了更高的自主性与拟真性，同时也带来了运行过程的不透明性与数据收集的规模性，成为垂直行业数字化、人工智能化的风险隐患。进一步推动人工智能技术的行业落地应用，尤其是医疗、金融、政府治理、自动驾驶等高风险行业领域，应当着重突破数据隐私保护、模型可解释性两大瓶颈，借负责任的人工智能来赋能更广泛的垂直行业。
“人工智能+”行动的落地依靠于实体经济、传统产业的人工智能化，以期实现行业颠覆式创新，锻造行业发展新动能。目前的大语言模型人工智能技术在训练、部署、应用的过程中，将不可避免地接触到涉及公民个人隐私、企业核心信息的数据。聚焦到具体使用场景，个人与企业在提问端、回答端、训练端、存储端全链条均存在隐私泄露隐患。例如，用户在不知情的情况下向大模型误传个人或非公开信息，聊天记录裹挟敏感数据被储存并面临网络攻击风险，若大模型将其用于进一步训练，敏感数据还有可能受到大模型“幻觉”的影响，出现在其他用户的对话回答中。而对于金融、政府治理等低容错率、高信任要求的行业来说，恰恰要求对全部环节的风险做到“零容忍”。
解决人工智能技术隐私风险问题，大模型的通用属性有时候反而会产生一些问题，未来产业发展应当着重发力人工智能大模型私有化部署，提供更高的数据安全性与隐私保护，获得更加定制化人工智能应用的同时，也能够避免非公开数据外流。技术发展方面，构建形成数据存储安全、数据使用合规、数据流向透明的负责任的人工智能技术，加快政策法规落地实施。数据进入模型训练前，严格执行数据加密协议并做好密钥管理策略，利用匿名化处理技术完成数据脱敏，重点把关数据访问控制。针对重点行业模型落地，优先考虑本地私有化部署方案，以满足企业数据治理与监管责任落实的要求。一旦高敏感数据混入大语言模型，大模型应当有能力“删除”或“遗忘”特定数据特征，未来人工智能技术研发亟需落实数据“删除”义务，把握对恶劣突发事件及时处置、消除影响的能力。
人工智能技术落地垂直行业的另一大挑战是可解释性问题。随着模型参数和深度的爆炸式增长，模型的决策过程成为难以解释的“算法黑箱”。可解释性是打造可靠、可信、公平、安全、负责任的人工智能技术的基础支撑，也是人工智能技术进入更广泛行业的先决条件。一方面，人工智能技术的落地需要更好的审计路径和问责机制，自动驾驶汽车的故障为何产生，医疗诊断决策的步骤是什么，回答好这些问题才能破除公众和企业对人工智能产品的怀疑和不信任。另一方面，人工智能大模型已经涌现出许多前所未有的能力，包括思维推理、上下文学习、指令遵循等，打开能力背后成因和机制的“黑箱”，也是推动人工智能技术向高水平跃升的重要路径。
形成可解释性人工智能，应当从人工智能的全生命周期入手，突破模型设计、垂直应用部署、模型效果评估阶段的关键问题。模型设计上，针对简单模型，采用决策树等自身较为透明清晰的架构，针对复杂的深度学习模型，尝试用代理模型提供模型解释，进一步帮助用户理解输入的特征是如何影响模型决策的；垂直应用部署时，利用可解释性增强工具提高模型透明度，并提供决策过程的详细记录和解释。使用相关方法计算每个特征对结果的贡献度；模型效果评估时，亟需建立超越定性评估的量化解释方法，统筹考虑模型性能、覆盖率、忠实度等指标，最大化降低模型落地后的监管审计风险。
文章来源：中国社会科学网
微信编辑：张菁菁
人大国发院是中国人民大学集全校之力重点打造的中国特色新型高校智库，现任理事长为学校党委书记张东刚，现任院长为校长林尚立。2015年入选全国首批“国家高端智库”建设试点单位，并入选全球智库百强，2018年初在“中国大学智库机构百强排行榜”中名列第一。2019年在国家高端智库综合评估中入选第一档次梯队，是唯一入选第一档次梯队的高校智库。
人大国发院积极打造“新平台、大网络，跨学科、重交叉，促创新、高产出”的高端智库平台。围绕经济治理与经济发展、政治治理与法治建设、社会治理与社会创新、公共外交与国际关系四大研究领域，汇聚全校一流学科优质资源，在基础建设、决策咨询、公共外交、理论创新、舆论引导和内部治理等方面取得了显著成效。人大国发院以“中国特色新型高校智库的引领者”为目标，扎根中国大地，坚守国家战略，秉承时代使命，致力于建设成为具有全球影响力的世界一流大学智库。
微信二维码
微博二维码