WANET – IMPERCEPTIBLE WARPING-BASED BACKDOOR ATTACK

ICLR 2021
https://arxiv.org/abs/2102.10369

之前的触发器都是基于噪声或特点模式，容易被人类肉眼发现。因此本文使用基于翘曲的后门触发器，并提出一种新的训练模式，称为“noise”mode（噪声模式）。

这一后门样本在不损失攻击性能的前提下保证了隐形性。

Image warping

Image warping是一种应用几何变换使图像发生变形的变换。具体可以看数字图像处理。

WARPING-BASED BACKDOOR ATTACK

主要目标是设计一个注入函数 B B B。
B ( x ) = W ( x , M ) B(x)=W(x,M) B(x)=W(x,M)
M M M就像是一个运动场，定义了目标图像中每个点向后扭曲的相对采样位置。
M M M的设计很关键，需要满足几个性质

Small，以保证不被人类注意到
Elastic，弹性。光滑但是非平坦，用于生成看起来自然的图像
Within image boundary：M需要在图像的边界之内，避免生成可疑的区域

总的来说，就是设计一个扭曲函数 M M M,使得图像以特定的模型扭曲。这种扭曲形式作为特征被NN提取。

M的设计分为三步：
A. 选择control grid：将整个图像分成 k × k k\times k k×k，使用一个参数 s s s来定义 P P P的强度。 ψ ψ ψ表示归一化。

B.上采样。
C.应用一个剪切函数，使得采样点不落在边界外。

当k＜6，s＜0.75时，warping的影响几乎是不可见的。

训练过程通过在M添加noise，保证能够学到正确的扭曲模式，保证了后门的准确性。

直接跳到总结

对神经网络预测进行可视化，可以看出，clean model 和 WaNet的热力图是相似的。
WaNet的后门是基于整个图像的扭曲实现的，因此无法被可视化攻击侦查到。

这种方式将后门嵌入到更加普遍、难以察觉的部分。
但是防御也比较简单——直接自己加一个扭曲的扰动。我怀疑这个后门的鲁棒性。
但是实际中没有人会对所有输入进行扰动变化，因为那样可能降低模型的准确率。除非检测出那就是对抗/后门样本。

基于扭曲的后门攻击——WANET – IMPERCEPTIBLE WARPING-BASED BACKDOOR ATTACK相关推荐

后门攻击阅读笔记，Graph Backdoor
论文标题:Graph Backdoor 论文单位:Pennsylvania State University,Zhejiang University 论文作者:Zhaohan Xi,Ren Pang, ...
使用语义触发器发起不可见后门攻击
文章目录 Hidden Killer: Invisible Textual Backdoor Attacks with Syntactic Trigger 后门应用背景基于词法的触发器形式化文本后 ...
通过风格转化向NLP模型注入隐形后门攻击
文章目录 USENIX:Hidden Trigger Backdoor Attack on NLP Models via Linguistic Style Manipulation 介绍语言风格后门 ...
联邦学习后门攻击总结（2019-2022）
联邦学习后门攻击总结(2019-2022) 联邦学习安全性问题框架概览下表和下图为联邦学习中常见的安全性问题,本文重点关注模型鲁棒性问题中的后门攻击问题. 攻击手段安全性问题攻击方与被攻击方攻 ...
基于决策的黑箱攻击——Boundary Attack
一.引言基于决策的黑箱攻击是对抗攻击的一大类,优点是不需要目标模型的任何信息,只需要知道目标模型对于给定输入样本的决策结果.本文主要介绍基于决策的黑箱攻击的开山之作--Boundary Attack ...
论文阅读笔记-后门攻击及防御
hello,这是鑫鑫鑫的论文分享站,今天分享的文章是Regula Sub-rosa: Latent Backdoor Attacks on Deep Neural Networks,一篇关于后门攻击及 ...
ICCV 2021 | 模型安全不容忽视！特定样本触发器的隐形后门攻击方法
关注公众号,发现CV技术之美论文链接:https://openaccess.thecvf.com/content/ICCV2021/papers/Li_Invisible_Backdoor_Atta ...
论文阅读丨神经清洁：神经网络中的后门攻击识别与缓解
摘要:本文将带你了解深度神经网络的后门知识,作者提出了一种可靠且可推广的DNN后门攻击检测和缓解系统,这是了解对抗样本和神经网络后门攻击的深度解读. 本文分享自华为云社区<[论文阅读] (02) ...
后门攻击与对抗样本攻击的比较研究
目录一.Introduction 1.什么是后门攻击? 2.什么是对抗样本攻击? 3.后门攻击与对抗样本攻击的区别 4.补充数据投毒攻击二.思维导图三.应用场景 1.对抗样本攻击应用场景 2.后 ...

基于扭曲的后门攻击——WANET – IMPERCEPTIBLE WARPING-BASED BACKDOOR ATTACK

WANET – IMPERCEPTIBLE WARPING-BASED BACKDOOR ATTACK

Image warping

WARPING-BASED BACKDOOR ATTACK

直接跳到总结

基于扭曲的后门攻击——WANET – IMPERCEPTIBLE WARPING-BASED BACKDOOR ATTACK相关推荐

最新文章

热门文章