-
题名基于引导扩散模型的自然对抗补丁生成方法
- 1
-
-
作者
何琨
佘计思
张子君
陈晶
汪欣欣
杜瑞颖
-
机构
武汉大学国家网络安全学院
武汉大学空天信息安全与可信计算教育部重点实验室
武汉大学日照信息技术研究院
地球空间信息技术协同创新中心
-
出处
《电子学报》
EI
CAS
CSCD
北大核心
2024年第2期564-573,共10页
-
基金
国家重点研发计划项目(No.2022YFB3102100)
中央高校基本科研业务费专项资金(No.2042022kf1034)
+2 种基金
国家自然科学基金(No.62206203,No.62076187)
湖北省重点研发计划项目(No.2022BAA039)
山东省重点研发计划项目(No.2022CXPT055)。
-
文摘
近年来,物理世界中的对抗补丁攻击因其对深度学习模型安全的影响而引起了广泛关注.现有的工作主要集中在生成在物理世界中攻击性能良好的对抗补丁,没有考虑到对抗补丁图案与自然图像的差别,因此生成的对抗补丁往往不自然且容易被观察者发现.为了解决这个问题,本文提出了一种基于引导的扩散模型的自然对抗补丁生成方法.具体而言,本文通过解析目标检测器的输出构建预测对抗补丁攻击成功率的预测器,利用该预测器的梯度作为条件引导预训练的扩散模型的逆扩散过程,从而生成自然度更高且保持高攻击成功率的对抗补丁.本文在数字世界和物理世界中进行了广泛的实验,评估了对抗补丁针对各种目标检测模型的攻击效果以及对抗补丁的自然度.实验结果表明,通过将所构建的攻击成功率预测器与扩散模型相结合,本文的方法能够生成比现有方案更自然的对抗补丁,同时保持攻击性能.
-
关键词
目标检测
对抗补丁
扩散模型
对抗样本
对抗攻击
深度学习
-
Keywords
object detection
adversarial patch
diffusion model
adversarial example
adversarial attack
deep learning
-
分类号
TP181
[自动化与计算机技术—控制理论与控制工程]
-
-
题名面向目标检测的对抗攻击与防御综述
- 2
-
-
作者
汪欣欣
陈晶
何琨
张子君
杜瑞颖
李瞧
佘计思
-
机构
武汉大学国家网络安全学院
武汉大学空天信息安全与可信计算教育部重点实验室
武汉大学日照信息技术研究院
地球空间信息技术协同创新中心
-
出处
《通信学报》
EI
CSCD
北大核心
2023年第11期260-277,共18页
-
基金
国家重点研发计划基金资助项目(No.2022YFB3102100)
中央高校基本科研业务费专项资金资助项目(No.2042022kf1195)
+2 种基金
国家自然科学基金资助项目(No.62076187,No.62172303)
湖北省重点研发计划基金资助项目(No.2022BAA039)
山东省重点研发计划基金资助项目(No.2022CXPT055)。
-
文摘
针对近年来目标检测对抗攻防领域的研究发展,首先介绍了目标检测及对抗学习的相关术语和概念。其次,按照方法的演进过程,全面回顾并梳理了目标检测中对抗攻击和防御方法的研究成果,特别地,根据攻击者知识及深度学习生命周期,对攻击方法和防御策略进行了分类,并对不同方法之间的特点和联系进行了深入分析和讨论。最后,鉴于现有研究的优势和不足,总结了目标检测中对抗攻防研究面临的挑战和有待进一步探索的方向。
-
关键词
目标检测
对抗攻击
对抗防御
鲁棒性
可转移性
-
Keywords
object detection
adversarial attacks
adversarial defenses
robustness
transferability
-
分类号
TP181
[自动化与计算机技术—控制理论与控制工程]
-
