科创中国

物理

本申请实施例提供了一种无限制对抗样本生成方法、装置、电子设备及存储介质，涉及对抗样本生成技术领域。其中，该方法包括：基于扩散模型的后向过程，得到当前时刻的去噪图像和对应的预测图像；通过对所述预测图像进行的对抗攻击，生成所述预测图像及其对抗样本之间的扰动；将所述扰动迁移至当前时刻的去噪图像，并通过所述扩散模型的后向过程对当前时刻经迁移的去噪图像进行去噪，直至生成无限制对抗样本。本申请实施例解决了相关技术中生成的无限制对抗样本形状扭曲，不符合真实分布以及用作人工判别的区域语义信息模糊，难以辨别的问题。

1.一种无限制对抗样本生成方法，其特征在于，所述方法包括： 基于扩散模型的后向过程，得到当前时刻的去噪图像和对应的预测图像； 通过对所述预测图像进行的对抗攻击，生成所述预测图像及其对抗样本之间的扰动； 将所述扰动迁移至当前时刻的去噪图像，并通过所述扩散模型的后向过程对当前时刻经迁移的去噪图像进行去噪，直至生成无限制对抗样本。 2.如权利要求1所述的方法，其特征在于，所述通过对所述预测图像进行的对抗攻击，生成所述预测图像及其对抗样本之间的扰动，包括： 将所述预测图像输入被攻击模型进行分类预测，在第一阶段，利用所述被攻击模型中的真实分类器生成扰动；所述第一阶段是指真实分类器预测到的所述预测图像所属预测类别与真实类别一致； 根据所述对抗样本与所述预测图像的差异，生成所述预测图像及其对抗样本之间的扰动。 3.如权利要求2所述的方法，其特征在于，所述通过对所述预测图像进行的对抗攻击，生成所述预测图像及其对抗样本之间的扰动，包括： 在第二阶段，利用经过加噪训练的自然分类器生成扰动；所述第二阶段是指所述真实分类器预测到的所述预测图像所属预测类别与真实类别不一致。

中国科学院深圳先进技术研究院提升了粤港地区及我国先进制造业和现代服务业的自主创新能力，推动我国自主知识产权新工业的建立，成为国际一流的工业研究院。 深圳先进院目前已初步构建了以科研为主的集科研、教育、产业、资本为一体的微型协同创新生态系统，由九个研究平台，国科大深圳先进技术学院，多个特色产业育成基地、多支产业发展基金、多个具有独立法人资质的新型专业科研机构等组成。开展先进技术研究，促进科技发展。信息、电子、通讯技术研究新材料、新能源技术研究高性能计算、自动化、精密机械研究生物医学与医疗仪器研究相关学历教育、博士后培养与学术交流。

点击查看