戴琼海院士：规避技术安全隐忧 促进人工智能持续发展

人民网记者 宋子节

11月5日至6日，2024“国是论坛”在京举办。国务院参事、中国工程院院士、中国人工智能学会理事长戴琼海在接受人民网记者采访时表示，人工智能技术在开放通用场景中仍存在一些安全风险。规避技术安全隐忧，才能促进人工智能持续发展。

“人工智能技术发展至今仍有多重安全风险值得注意，例如黑箱数据训练安全风险，黑箱依靠数据训练来支撑大模型对未来的推算，如果有人偷换数据，而后训练出来的人工智能模型可能成为敌人。”戴琼海举例说，“又如医疗数据安全风险，如果病例数据标注过程中存在错误，即便大部分数据判断正确，但涉及标注错误的区域时，人工智能的判断依然会给人类带来灾难。”

此外，开放场景中的人工智能仍存在问题。“好比模式固化的自动驾驶无法规避所有事故，分析数据的系统无法结合自我认知生成结果。”戴琼海表示，“因此，进行颠覆性创新，从技术上要做到具有可解释性的人工智能模型或算法；要规避安全技术隐忧，保证数据的安全是人工智能最主要的安全；尽量开放场景，切忌降低维度，可以先将人工智能放到封闭场景，逐渐扩圈，最后使场景变为完全开放式。”(实习生王一惟对本文亦有贡献)