大模型与数据安全主题论坛在津召开

9月5日上午，第二届网络空间安全（天津）论坛大模型与数据安全主题论坛在天津滨海新区举办。

论坛聚焦“夯实数安底座 释放数据潜能”主题，邀请先进计算与关键软件（信创）海河实验室主任龚克、贵州大数据安全工程研究中心主任杜跃进等知名专家学者以及国家部委、科研院所、知名高校、业内前沿企业代表，围绕大模型与数据安全制度建设、数据安全保护技术发展、网络数据人工智能安全治理实践等热点话题进行深入探讨，汇聚产业成果和先进经验，进一步健全大模型与数据安全保障体系，助力国内数字经济高质量发展。

参加论坛的专家学者一致认为，大模型技术依托庞大的规模、海量的数据、强大的算力，正逐渐成为推动社会进步和产业升级的关键核心力量。但随着大模型技术的深度应用，其安全性、可靠性、可控性正面临前所未有的挑战。论坛举办期间，出席专家学者共研大模型与数据安全治理的路径、策略、模式。

“发展人工智能新质生产力是硬道理，不发展是最大的不安全。占据技术高地，才能相对安全。”龚克认为，人工智能的突破在于技术体系而非单个要素，不仅是数据和算力的支撑、模型规模的扩大，更是“机器学习”的进步，学会了语义的表达（词嵌入）、语义的理解（注意力机制），从而跨越了模态，相信人工智能仍将继续沿着深度学习的路线向前发展。当前，人工智能的所有风险主要来自两个方面，一是技术问题，缺乏坚实理论基础，存在基于概率的本征性问题等。二是应用问题，主要是误用、滥用和恶用，和盲目依赖。对此，人工智能的治理要促进创新、确保安全和教育公民驾驭而非依赖人工智能。

杜跃进表示，数字经济、数字社会、数字政府，均将深度依赖数据和数据处理技术（人工智能技术），数字安全将影响人们的生产方式、生活方式和社会治理方式。目前除存在网络安全、数据安全的风险之外，数据污染和投毒、模型和算法安全、不可解释性及生成式AI的泛化特性用于业务决策等也存在着相应风险。在快速发展和变化中，唯有加强研究和实践，快速迭代和改进，并在充分利用数字革命带来的技术，发挥新的工作模式优势的前提下，才有可能应对大模型安全特有的新问题。

深信服公司高级副总裁胡斌在演讲中表示，大模型将给网络安全带来本质变化，在当前阶段，不建议在每个安全细分领域全面开展大模型的应用，需要按照场景和优先级，逐步地探索、实践和打磨，应与实际的安全环境紧密连接和协同，需要构建更完善的安全智能体形态，智能体层面进行共创会逐渐成为一种趋势，伴随更多的工程实践、基础设施的发展，大模型技术将推动网络安全进入全新篇章。

编辑：宋壮