当前位置:首页|资讯|AI大模型

永信至诚AI测评“数字风洞”平台上线应用与数据安全“DNA验证”功能

作者:中国证券报发布时间:2024-06-25

中证网讯(王珞)6月24日,永信至诚发布AI大模型领域全新研究成果,旗下的AI测评“数字风洞”平台上线应用与数据安全“DNA验证”模块。

据了解,该平台凭借智能永信团队提出的基于生成数据提取应激反馈特征的“DNA验证”创新测试方法,实现了针对不同大模型之间的“同源性”验证,能够有效助力开发团队保护和验证自身大模型的技术原创性与知识产权合规性,帮助开发团队、建设和监管单位快速发现安全隐患,助力大模型安全建设、监管与风险处置。

通过对生成应激数据的观测比对,AI测评“数字风洞”平台能够提取开源基座大模型的“应激反馈特征”,形成测试载荷对大模型展开安全检测,验证不同大模型之间是否存在同源性,通过识别大模型之间的数据关联关系,来发现从亲缘关系中继承来的安全风险。这一创新研究,填补了当前大模型产业内在大模型相似性、亲缘性关系验证能力方面的空白。

永信至诚表示,接下来将基于对各大开源基座大模型的测评数据,以及全新上线的应用与数据安全“DNA验证”模块,识别不同开源大模型的“应激反馈特征”,积累沉淀出开源大模型“过敏源特征库”,将所有异常敏感数据打造为测试载荷,更高效地实现对业界大模型产品安全策略的检测。利用观测数据绘制大模型领域的“血缘关系”图谱,帮助各大AI创业团队、建设和监管单位,评估模型的稳健性和安全性,共同推动AI大模型生态的健康发展。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1