薛澜： 重视AI可能带来的 几方面风险

AI技术在带来便利的同时，也存在各种新的风险，如何协调人工智能发展与治理的关系显得尤为迫切。

在7月4日上午举行的2024世界人工智能大会暨人工智能全球治理高级别会议开幕式全体会议上，清华大学苏世民书院院长薛澜分享了三方面看法：人工智能带来的收益和可能的风险；人工智能治理方面中国做过什么实践，以及带来的启发；人工智能的国际治理问题。

谈到人工智能发展带来的收益时，薛澜举例称，2015年全世界193个国家在联合国共同签署了SDGs（人类可持续发展目标），希望到2030年能够推动人类社会更好地发展。SDGs一共17个目标，169个具体的指标。总体来讲，人工智能会对169个指标里的134个带来积极促进作用，也有可能对其中59个产生不利影响。

目前，人工智能可能带来的一些风险：一、技术内在问题，包括所谓幻觉、自主人工智能系统长远可能产生对人类社会的威胁；二、基于技术开发带来的风险，包括数据安全问题、算法歧视、能源环境；三、技术应用，包括误用或者滥用。这些都是不可忽视的问题。

如何推动人工智能健康发展，尽可能让它收益最大化，同时把风险降到最低？

薛澜表示，中国在过去这些年的实践中建立了相对完整的体系，首先在底层产业应用方面有一系列法律法规推动人工智能合理发展。针对算法、算力、数据有一系列治理规则。2019年发布《人工智能治理准则》，包括《伦理准则》。此外，也出台了针对相关问题的法律、针对专项及具体场景应用的治理规则。

他特别强调，人工智能发展和风险防控，要让广大社会对人工智能有更全面的了解。今年2月，四部门发布了《2024年提升全民数字素养与技能工作要点》，部署这方面的任务。