上海启动国内首个大模型评测领域地方标准的制定
人工智能技术的飞速发展和应用带来了前所未有的机遇和挑战。大模型引发新一轮技术革命和产业变革的同时，安全、隐私、公平等问题进一步凸显。“人工智能治理”成为全社会的重要关切。
2024年4月28日，“上海AI治理之道”暨《人工智能大模型可信赖应用评价指标体系》标准研讨会，在西岸人工智能中心（AI tower）45楼成功召开。本次研讨会由上海市徐汇区新型工业化推进办公室指导，上海大模型生态发展有限公司、上海徐汇滨江经济发展有限公司主办，中国信通院华东分院联合主办，上海市人工智能标准化技术委员会提供支持。
会议邀请了来自同济大学、复旦大学等高校科研机构，上海软件中心、长三角智慧城区发展研究院、华为、蚂蚁集团、百度、阿里云、MiniMax、星环科技、达观数据、蚂蚁云科技、卓繁信息、上海钢联、浦软平台等近30家人工智能领域领先企业专家代表，共同探讨人工智能安全治理推动人工智能产业高质量发展的重要议题，并启动国内首个大模型测试验证领域的地方标准《人工智能大模型可信赖应用评价指标体系》的制定工作。
在研讨会正式开始前，上海市徐汇区新型工业化推进办公室副主任郭岩涛和中国信通院华东分院院长廖运发分别发表致辞。
郭岩涛主任介绍了上海及徐汇区大模型相关产业和布局，强调了安全治理在推动产业健康发展的重要保障作用，并对活动的成功举办予以祝贺；廖运发院长分析了中国人工智能产业发展情况，并分享了中国信通院华东分院在大模型测试验证与协同创新中心、上海可信AI评测中心等人工智能安全治理平台建设，以及可信AI领域标准研究工作的进展。
上海市徐汇区新型工业化推进办公室副主任郭岩涛
中国信通院华东分院院长廖运发
一、多视角下的AI安全治理观
在嘉宾发言环节，同济大学法学院副院长、上海市人工智能社会治理协同中心秘书长徐刚教授介绍国内外人工智能治理的大致情况，从人工智能技术风险、社会风险、认识风险出发，提出构建以人工智能风险管理体系、安全评测体系、风险监测预警体系、政府监管和公共服务体系、安全社会监督体系“五位一体”，多元参与、协同发展、共治共享的治理体系。
上海市质量和标准化研究院行业发展研究中心副主任邵逸超介绍了美国标准体系建设的历史沿革、人工智能治理标准的最新发展，并与中国标准体系的对比中得出有益于上海标准体系建设的对策建议。
蚂蚁科技集团大安全业务群智能对抗负责人魏扬威从当前大模型的技术发展和场景应用出发，分析过程中可能出现的不同等级风险，并结合国内外安全风险等级标准，介绍蚂蚁集团大模型安全一体化解决方案“蚁天鉴”的整体框架、风险评级指标、风险抑制实现路径。
上海市人工智能标准化技术委员会副秘书长、上海人工智能行业协会研究咨询部部长陈曦介绍了国际和国内人工智能标准化工作的最新动态，以及上海在新一代人工智能技术标准体系框架、国际标准化长三角协作人工智能专业平台等推进标准化工作的最新情况。
中国信通院华东分院人工智能事业部标准生态负责人彭莉介绍了《人工智能大模型可信赖应用评价指标体系》的立项背景和标准工作流程，从大模型现阶段可能出现的安全风险，建立以可靠性、可解释性、公平性、鲁棒性、数据安全与隐私保护、内容安全为支撑的整体框架，并标准的细化提出下一步工作计划。
二、圆桌交流：近30家AI企业代表参加
在圆桌交流环节，华为、阿里云、百度、MiniMax、开放传神、达观数据、上海计算机软件技术开发中心、上海浦东软件平台等与会单位代表就大模型评测平台框架建设、评测数据集搭建、大模型代码生成能力评测工具链等内容进行了广泛讨论，并结合企业自身发展实践，就通用大模型持续赋能垂类应用过程的可控性、可信赖性，以及基于工业、金融、教育等场景构建具体评测标准的关键问题进行了深入交流。
“上海AI治理之道”暨《人工智能大模型可信赖应用评价指标体系》标准研讨会现场
徐汇作为上海市首个人工智能产业集聚区，创新要素活跃、产业基础扎实。去年9月，全国首个大模型专业孵化和加速载体——上海“模速空间”创新生态社区落地徐汇滨江，打造各类通用大模型、垂类大模型、生成式人工智能初创项目落地徐汇乃至上海的第一站。
本次研讨活动，来自学术界、产业界力量集结上海西岸，共同探讨大模型浪潮下人工智能所面临的挑战与治理之道，启动全国首个大模型测试验证领域的地方标准，凝聚AI安全和治理共识，聚焦大模型安全从理论框架到应用实践的深度探索，以全链路治理体系推动人工智能全面赋能上海新型工业化，为上海徐汇建成人工智能高质量发展的“创新策源地”营造健康规范有序的产业环境。