AI安全风险陡增，何以解忧？
北京商报讯（记者 廖蒙）“‘技术是把双刃剑’，在它以更快的速度变得越发强大时，我们不可能扔掉利刃，放弃科技；唯有以另一种科技打造足够安全的刀鞘。”1月18日，中国社会科学院大学数字中国研究院联合蚂蚁集团对外发布了《数字时代安全科技价值报告》（以下简称《报告》），中国社会科学院大学数字中国研究院执行院长吕鹏在现场这样介绍道。
近年来，随着数字化智能化的深入，新的技术不断衍生出新的安全风险，数字安全风险进入了快迭代、高智能、全覆盖的新阶段。尤其是2022年末AI大模型横空出世，AI安全风险陡增迅速成为全球业界的一致共识，AI安全成为主流的安全关切，并逐渐形成了一个新的安全技术研究领域。
北京商报记者根据《报告》梳理发现，当前AI安全风险主要集中在内生安全、外生安全以及衍生安全等三个方面。其中，内生安全主要是指AI本身存在技术脆弱性、对数据的依赖性等产生“数据偏见”；外生安全是指黑灰产等对AI系统进行外部入侵攻击；衍生安全则是指AI因自身的脆弱或不恰当使用引发其他安全事故。
基于前述情况，《报告》综合2023年全球数字社会的安全风险新形势和科技创新内在的逻辑，对“安全科技”的定义以及价值进行了全球研究。根据介绍，“安全科技”包括一系列旨在保护信息、网络和计算机系统免受未经授权的访问、攻击和威胁的工具、技术、系统，是一种更为通用、包含多个领域、多种前沿技术的复杂系统性技术集群。
从应用价值角度，《报告》将安全科技分为了四大板块——基础安全、业务安全、AI安全、未来安全。在AI安全板块，随着AI大模型的崛起，业内逐渐形成了一个全新的“AI安全”技术研究领域，含数据去毒、模型安全及AI应用衍生的安全防御技术等等。通俗理解，安全科技便是使用科技防范技术风险的一种手段。
在吕鹏看来，要想更好地控制AI安全风险，最合理的方法就是打造一套可靠的“质检”标准，将大模型中有问题的部分精准定位并去除，安心使用其好的部分。
事实上，为了应对AI安全风险，从业机构已经开始探索安全科技以加强AI技术的潜在风险研判和防范。例如，2023年9月，蚂蚁集团推出了“蚁天鉴”大模型安全一体化方案，其中包括大模型安全检测平台“蚁鉴2.0”和大模型风险防御平台“天鉴”，为大规模AI模型的安全保障带来了全新的突破。
谈及安全科技在防范AI风险方面的实际价值，蚂蚁集团副总裁、大安全事业群总裁赵闻飙指出，安全科技具有“压舱石”与“助燃剂”的两重价值。“压舱石”指的是守住技术的安全底线，防御外部风险隐患，让技术“难作恶”，支撑数字社会稳步运行；“助燃剂”则体现在提高技术的安全上限，降低技术运行的成本，让产业焕发新机，让更多人受益。
吕鹏认为，人工智能和安全科技将是未来有且只有的两项通用技术，人工智能作为最具颠覆性和战略性的核心关键技术，能够帮助各行各业在数字化的基础上进一步实现智能化，成为未来的“发动机”；而安全科技将作为“方向盘”，始终将各种新兴科技控制在向善的道路。
《报告》预测，未来安全科技将成为社会的“公共品”，是技术向善的关键保障，尽早对它进行投入，将有助于掌握新兴技术发展与产业迭代的主动权。中国社会科学院大学哲学院教授、中国社会科学院科学技术和社会研究中心主任段伟文进一步强调，数字化转型应该采取“慢起飞模型”，在鼓励新技术发展、产业升级的同时，不单追求转型的速度，而是在社会需求方面投入更多力量，通过更好的安全科技和制度构建，让起飞能惠及所有人。