聚焦AIGC：大模型AI安全治理与实践
ChatGPT横空出世，直接引爆全球信息技术产业未来发展的想象空间。随之而来的隐私、安全问题致使各界对AIGC的态度形成对立的两派，国内外针AI大模型的监管措施相继拟定出台。在这场划时代的技术浪潮中，企业如何充分利用AI、如何应对新技术所引发的安全挑战及合规难题?
5月31日下午，以“大模型AI安全治理与实践”为主题的研讨会在上海市杨浦区长阳创谷成功举办，本次研讨会由安永和上海赛博网络安全产业创新研究院联合主办，上海市人工智能与社会发展研究会、上海数据安全协同创新实验室提供学术指导。会议聚焦“AI安全”“AIGC”，均为产业热门话题，吸引了大量企业嘉宾及行业专家共同参与。
安永（中国）企业咨询有限公司大中华区网络安全与隐私保护咨询服务合伙人施建俊先生担任本次会议的主持人。施建俊先生提到，随着ChatGPT的横空出世，大模型AI成为了业界关注的焦点，以生成式人工智能AIGC为代表的新技术、新应用不断打破人们对于人工智能的固有认知，成为了当下最火爆的热点。与此同时，大量网络内容安全、数据安全、个人信息安全等方面的新风险、新挑战也随之涌现。面对这些全新的风险和挑战，我们应当如何应对？这已经成为当下大模型AI应用到各个领域所面临的首要问题。
大模型AI的出现，给企业数字化应用带来全新的变革，安永（中国）企业咨询有限公司大中华区网络安全与隐私保护咨询服务合伙人张伟先生深刻认同AI的价值，AI能够简化企业IT架构、软件交互与系统集成方式，大幅提升企业IT服务能力。然而，AI衍生的安全风险、隐私风险很快显现。全球各地相继拟定出台相关法律法规，中国网信办4月份也公布了《生成式人工智能服务管理办法（征求意见稿）》。张伟先生表示，AI的健康发展需要监管方、技术方和企业多方共同努力，以数据安全与网络安全为基础，加强AI风险管理，建设可信人工智能。
某大型网络安全公司全球首席战略官赵粮先生通过视频进行了一次主题分享，通过其深耕网络安全领域二十六年的经验以及总结追踪多年的RSA conference趋势，对近几年网络安全发展路线及未来趋势进行了深刻解读。针对AI大模型在网络安全领域的应用，赵粮先生提出了三点看法：
1）可有效提升安全产品效率和效果；
2）增强人机交互体验，改善产品服务体验；
3）网络安全产品提供商需要提升自身运作效率。
某全球知名科技公司现代化办公及安全总监武祎先生分享的主题为《微软云原生SOC建设之路——开启AI Empowered SOC新篇章》，阐述了当前企业SOC所面临的困境与挑战，如运维成本增高、协作需求和数据爆炸、业务及平台多样化、网络威胁更加产业化、合规压力增加等。在OpenAI的加持下，公司提出一套全新的基于对话式AIGC的智能化信息安全解决方案并推出相关产品。在AI赋能下的现代化安全运维体系下，GPT-4大模型能够大幅提升安全事件响应、安全威胁狩猎、事件报告生成等核心能力。
上海赛博网络安全产业创新研究院高级研究员周雪静女士分享的主题为《生成式人工智能国内外监管形势解读》，详细阐述了我国与欧美地区在监管上的区别。西方国家强化域外管辖，我国坚持可信可控原则，支持人工智能算法、框架等基础技术的自主创新。周雪静女士认为，我国在针对生成式人工智能发展上的政策落实较快，人工智能监管将呈现分行业、分场景、分应用、分平台、分技术的区别化监管体系，兼顾各方权利与责任，如何平衡安全防护与技术创新是未来监管需重点考虑的问题。
某国内知名互联网企业产品总监饶晓艳女士以《互联网平台AIGC内容治理实践》为主题进行了分享。AIGC的发展浪潮给互联网内容生态带来了新的风险和挑战，饶晓艳女士分享中展示了AIGC目前出现在内容治理方面的风险和典型案例，以及AIGC本身在内容风控领域的应用，企业可以制定哪些安全策略，共同探讨有效的治理方式和方法。
结语
2023年，生成式人工智能无疑将成为科技领域的主旋律之一，也刷新了绝大多数人对AI的固有认知。在经历半年的爆发期之后，生成式人工智能所衍生的隐私、安全问题以及被滥用、恶意使用的情景逐步暴露。随着监管方的高度关注，AIGC也将逐步进入“冷静期”，需重新审视并应对新兴技术的潜在风险。在此次研讨会之后，安永将持续关注并研究AI技术发展路径、监管趋势以及风险应对策略，协同各界力量为AI技术的稳步发展贡献力量。围绕AIGC相关热点话题，安永联合赛博研究院后续将持续举办更具针对性、实践性的主题活动，欢迎大家持续关注。
本文是为提供一般信息的用途所撰写，并非旨在成为可依赖的会计、税务、法律或其他专业意见。请向您的顾问获取具体意见。