如何推动AI大模型可用可信？专家研讨共建安全治理新生态
以ChatGPT为起点，热烈的“百模大战”正在进行。AI大模型目前面临哪些挑战？如何发展负责任的AI大模型？AI大模型产业发展还有哪些创新突破空间？
12月19日上午，南方都市报、南都大数据研究院联合琶洲实验室、光明实验室，在广州举办“势起AI 智启新界”大模型创新应用与安全治理大会。会上，学界专家和业界代表共聚一堂，围绕“共探‘AI向善’：如何推动大模型‘可用’及‘可信’”进行研讨。
7位学界专家与业界代表就如何推动大模型“可用”及“可信”进行研讨
AI大模型发展面临挑战
AI大模型的发展引发了新一轮科技变革，同时也面临着不少挑战。
中山大学-善思开悟AI创新赋能联合实验室执行主任韦立坚认为，当前我国AI大模型发展面临着自主研发能力不足、训练数据原料不足、算力短缺等3个方面的挑战，其提出4个建议：一是加强基础研究与产学研合作；二是企业间联合研发，打通语料数据；三是实现算力统管、纳管，统一调度，智算和超算融合，弥补大模型算力不足；四是加强国产通用GPU研发，应对国家层面的技术安全和经济安全所面临的挑战。
圆桌主持人、泰和泰（深圳）律师事务所高级合伙人易怀炯则从法律风险的角度出发，指出在AI大模型迭代过程中，对数据的搜集、使用、算法训练等手段本身存在风险，比如说可能会违反数据安全规定。此外，AI大模型作为一个工具，可能会被恶意用作犯罪工具，存在目的行为的风险。
在深圳大学法学院教授、深圳大学创新发展法治研究院院长叶卫平看来，人工智能技术发展本身及其商业化应用是难以预知的，但在技术发展过程中，我们在不断了解它、接受它、掌握它，同时法律也在同步跟进人工智能安全隐私保护等方面的问题。总体而言，安全保障机制和法律机制可以良性互动，同步前进，AI大模型因而也有望安全可控。
产学研需要更深层次结合
AI大模型已经引领千行百业数智化创新。如何更好将高校、实验室等机构的AI大模型创新研究，及时转化应用成果，赋能产业发展？
光明实验室研究员、生成式大模型团队负责人姜文浩认为，产学研需要更深层次的结合。“很多时候研究员对于企业方面需求的了解并不是那么细致，甚至不太了解新的需求，所以需要有一个更深度互相了解、沟通，才能有效促进产学研的交流。”此外，AI大模型的研究及业务应用，代价比较大，更需要政策、税收、人才等方面的扶持。
中山大学人工智能学院副教授、硕士生导师刘威则指出，高校应该更多和本地企业、科研机构建立更加密切的合作关系，如通过定期研讨会、工作坊等共享科研成果，分享市场需求，加快科研成果的转化。例如，针对广东的特色产业，在先进制造业、金融业、新能源等领域可共同做定制化的科研项目。
共同解决大模型应用安全
来自企业的代表则从业界实践方面，分享在各自的垂直领域中保障AI大模型安全可信的难点和经验。
马上消费人工智能研究院算法总监肖冰介绍，相比一般的大模型安全性要求，金融行业有特定的要求和合规场景，一是通用的大模型隐私要求，二是金融行业合规场景，如客群年龄限制、贷款利率红线等。此外，在企业线上应用中，大模型本身的推理问题也比较难解决。对此，马上消费主要从数据、模型、方案三个层面，保证大模型的安全可用。此外，马上消费还通过和政府、学界力量合作，检测各种漏洞，增强大模型的安全性。
金山办公安全中心负责人刘振全则表示，WPS在大模型上主要遇到数据安全、大模型的不稳定性和不可解释性两大问题。针对数据安全，WPS主要在组织管理、技术、制度等三个方面采取措施，对整个数据生命周期进行监控和管控。对于模型的不稳定性和不可解释性，WPS打造了一套AI网关，引入内容审核机制以管理模型，同时打造一个细分到产品领域的提示词平台，基于不同模型的特点，灵活调试提示词、参数，保证模型输出的结果符合用户预期，且符合道德标准和法律法规。
携手共建AI安全治理新生态
在确保人工智能蓬勃发展同时，不失伦理底线，不破法律边界，践行责任担当，共建AI安全治理新生态已成共识。
在刘威看来，共建AI安全治理新生态的关键在于推动政府、学术界、企业、公众等多方利益相关者的协作，达成共识。“在此之上，我们可以致力于开发、采纳国际标准，通过技术创新以及政策引导相结合的形式，有效构建一个健康、可持续的AI大模型生态。”
韦立坚则提出，政府要制定针对大模型应用的法规和加强合规的监管，行业尤其是学会要做好标准、生态方面的建设，企业则要联合高校、研究机构，做好底层的技术研发以及通过隐私计算的技术来打破数据壁垒。
刘振全呼吁，各个行业联手合作，共同解决大模型安全问题、道德伦理问题，推动我国人工智能的可持续发展。肖冰同样认为，单个企业、单个科研机构对大模型的安全检测能力不是完整的，他建议科技界和学术界联合起来做一套大模型安全检测机制、平台，贡献各自力量。
易怀炯则认为，南都携手实验室、高校、研究机构等发起成立“AI治理与创新智联体”，与行业企业联合发布《负责任人工智能大模型金融应用倡议》，都是非常好的实践，充分体现南都的智媒担当。他总结称，“我们要变被动为主动，主动作为，主动共治，共享发展。”
出品：南都大数据研究院
监制：戎明昌 刘江涛
策划：王卫国 邹莹
统筹：凌慧珊 关健明
采写：唐静怡