川大网络安全学院院长：成都具有发展人工智能产业的生态环境和人才优势

数字时代，大数据、虚拟现实、人工智能、区块链等技术迭起，当下，各类大模型竞相发展，“百模大战”掀起浪潮。

8月29日，2024年中国网络文明大会人工智能分论坛在成都举行。“随着人工智能技术的发展，其在语音、视频、图像、文本处理方面都有非常强的能力，同时在幼儿、青少年教育，包括大学智慧校园的建设方面都有很好的应用。”四川大学网络空间安全学院院长陈兴蜀表示，“在医疗领域，人工智能做图像识别的准确率也已经非常高了。”

▲陈兴蜀

然而，人工智能为网络安全领域带来了新挑战，“‘眼见为实’，这句话已经被颠覆了。例如，我们可以随意替换视频中的前景、背景，甚至新闻都可以被‘伪造’。”陈兴蜀提到，这些问题就涉及怎样对人工智能的应用场景以及生成数据进行评估和监管，“大模型从训练、调整到最后的应用，都可能会面临安全风险，我们要关注模型全生命周期的安全，在应用场景中关注其输入输出，是否存在数据被篡改、输出被诱导的情况。”

放眼全国，各个城市都在快马加鞭，聚焦人工智能产业。2023年，成都市人工智能产业规模达780亿元，近三年复合增长率40%，拥有企业近900家，产业竞争力稳居中西部第一。今年，中国首个机器人多模态模型也在成都诞生。

除了深厚的产业基础、核心技术与广阔的市场应用之外，陈兴蜀提到，成都还具有非常好的人才优势，“在成都，不少IT类的人才也在关注人工智能，对于行业发展而言，成都是具有产业生态环境和人才优势的。目前，川大也正在和国产的鲲鹏、升腾等平台进行深入合作，打造安全可信的人工智能。”

如今，行业小模型和垂直模型涌现，在这方面，成都还有哪些进步的空间？“现在通用大模型发展非常快，接下来我们需要让模型具备专业能力、专业数据，同时还需要在专业的场景下做事情，这就要求其与各个行业紧密结合，发展垂直模型和具有行业特点的小模型。例如，在网络安全方面，我们也在关注如何通过人工智能来提高网络安全防御的能力，进一步提升网络运维能力。”

红星新闻记者吕佳羽

摄影记者王勤

编辑 李钰仪