金融界2024年9月30日消息,国家知识产权局信息显示,北京瑞莱智慧科技有限公司申请一项名为“对抗攻击方法、相关装置及存储介质”的专利,公开号CN 118709743 A,申请日期为2024年6月。
专利摘要显示,本申请涉及计算机视觉领域,提供一种对抗攻击方法、相关装置及存储介质。该方法包括获取初始图像和目标扰动;将所述目标扰动添加至所述初始图像,得到目标对抗图像;将所述目标对抗图像输入目标模型,得到识别结果;其中,所述目标模型包括图像分割模型或图生文大模型;若所述目标模型为图像分割模型,则所述识别结果指示的分割区域对应所述初始图像中的部分待分割子块,或者指示所述目标对抗样本中无分割区域;若所述目标模型为图生文模型,则所述识别结果指示的文字描述与所述初始图像的正确描述的相似度小于第一预设值,或所述识别结果指示的文字描述与目标描述的相似度大于第二预设值。本申请可帮助研究者预知模型的安全隐患,以提升安全性。
来源:金融界