构建安全可信的AI治理框架
“近期人工智能快速迭代，并不是‘一夜花开’，而是经历了算法、算力和数据多年沉淀进步，实现‘栽树’到‘摘果’的发展。”全国人大代表、南昌大学数学与计算机学院教授闵卫东说。来京参加十四届全国人大二次会议前，闵卫东在补充完善建议、为人工智能治理建言献策的同时，依然忙着带领团队攻关前沿技术。
“Sora、ChatGPT的大模型和生成式人工智能等新一代技术引领了第四次人工智能浪潮，人工智能也进入大规模应用阶段。”闵卫东说。
人工智能作为模拟、延伸和扩展人的智能的科学，是一项重要的底层技术。闵卫东认为，近年来，人工智能新技术正加速走进千行、赋能百业，商业应用方面已“解锁”医疗、交通、金融等多个领域。
技术的进步在大幅提高生产力的同时，也对监管提出更高要求。
“人工智能现有治理框架和管控措施并不完善，如无人机和自动驾驶汽车等人工智能系统发生事故后如何确定主体责任，居民信息泄露如何约束，数据歧视造成的决策偏见如何防范等。”闵卫东说。此外，数据“喂养”越多，人工智能平台越“聪明”，而用户迁移平台的成本高，一旦大型企业占领市场，便有形成垄断的潜在风险。
构建安全可信的人工智能治理框架，相关部门既要紧跟技术步伐，更新监管政策，也要引领行业标准的制定。
“监管部门需要有足够的技术知识来理解人工智能技术，对产业发展有更深刻理解，并基于伦理考量建构人工治理框架。”闵卫东团队成员刘梦雪博士说。目前团队成员还积极开展科普，呼吁各方参与合作，共同促进人工智能安全、可靠、可持续发展。
闵卫东认为，相关部门需要制定法律和伦理规范，明确人工智能及其算法在使用和应用方面的限制和义务，保障公众的安全和利益；产学界应加强对人工智能技术的研究，早日让处于“黑箱”的研究向“灰箱”进步，实现人工智能系统更加可知、可控；加强国际合作和标准化建设，形成一套共识性、全球性伦理准则和治理框架，推动建立“以人为本”“智能向善”的人工智能发展生态。
政策支持和经费投入力度不断加大，人工智能技术采用率持续提高，5G移动通信技术、设备及应用创新全球领先……
面对人工智能这片蓝海，我们应如何把优势发展成胜势？
闵卫东认为，目前大众熟知的人工智能是基于大模型的生成式人工智能，只是人工智能的一部分。我们需要认识到人工智能的潜力和局限性，不过分依赖或恐惧人工智能。
“人工智能是新质生产力和未来产业，能孕育新业态、新模式，为经济发展注入新动能，为各行业带来创新发展机遇，助推我国数字经济跨越式高质量发展。”闵卫东说，接下来期待各界深入开展底层核心人工智能理论和技术的研究，聚焦AI智能体构建，逐渐发展具有类人行为能力的具身智能。
（本报记者姚子云）
