[paper]Adversarial Transformation Networks: Learning to Generate Adversarial Examples

本文提出了ATN（Adversarial Transformation Network）方法来生成对抗样本。之前的许多方法都是利用梯度信息进行攻击，本文通过训练一个神经网络，将原图作为输入，输出为对抗样本。在给定原始输入的情况下，对分类器的输出进行最小的修改，同时限制新分类以匹配对抗目标类。
ATN神经网络可以被定义为：

θ \theta θ是神经网络的参数
f f f是目标网络
优化问题为：

L x L_{x} Lx是视觉损失
L y L_{y} Ly是类别损失
β \beta β是平衡这两个损失函数的权重系数
在本文中，将 L y L_{y} Ly定义为

reranking函数为：

函数作用为把网络输出的类别置信度进行修改，将定向攻击的目标类 t t t的置信度乘以一个系数 α \alpha α，且 α \alpha α > 1，保持其他类别的分类置信度大小顺序不变，只把定向攻击的目标类 t t t置信度提高到最大。
n o r m ( . ) norm(.) norm(.)是归一化函数，将输入缩放为有效的概率分布。

本文提出了两种方法生成对抗样本：

P e r t u r b a t i o n A T N ( P − A T N ) Perturbation ATN (P-ATN) PerturbationATN(P−ATN)
A d v e r s a r i a l A u t o e n c o d i n g ( A A E ) Adversarial Autoencoding (AAE) AdversarialAutoencoding(AAE)

Perturbation ATN (P-ATN)仅生成扰动，Adversarial Autoencoding (AAE)直接生成对抗样本。

β \beta β越小，攻击成功率越高，但图像保真度会随着 β \beta β的减小而降低。

通过单网络训练的ATN不具有泛化能力。
通过多网络训练的ATN具有较好的泛化能力。

Perturbation ATN (P-ATN)和Adversarial Autoencoding (AAE)的比较：

AAE方法在重构图像时会去除高频数据，有可能是因为网络基础架构的限制。这种方法虽然可以最大程度的降低总体损失，但高频信息区域中像素的误差更大。图像整体变化较明显。
P-ATN方法原始图像中保留了更多像素，但会在图像边缘或者角落产生较大的扰动。AAE方法会将扰动分布在图像的不同区域中。基于梯度的对抗样本生成算法则通常会将噪声集中在具有较大梯度幅度的像素。
即使使用相同的网络和初始化参数，这两种方法产生的对抗样本差别也很大。

[paper]Adversarial Transformation Networks: Learning to Generate Adversarial Examples相关推荐

Partial Transfer Learning with Selective Adversarial Networks学习笔记
Partial Transfer Learning with Selective Adversarial Networks学习笔记文章目录 Partial Transfer Learning wit ...
PDGAN: A Novel Poisoning Defense Method in Federated Learning Using Generative Adversarial Network笔记
前言论文 "PDGAN: A Novel Poisoning Defense Method in Federated Learning Using Generative Adversari ...
Adversarial Self-Supervised Contrastive Learning
论文标题: Adversarial Self-Supervised Contrastive Learning 论文来源: NeurIPS 2020 论文链接: https://arxiv.org/ab ...
Attention gated networks: Learning to leverage salient regions in medical images
参考论文:"Attention gated networks : Learning to leverage salient regions in medical images" 关 ...
Machine Learning week 5 quiz: Neural Networks: Learning
Neural Networks: Learning 5 试题 1. You are training a three layer neural network and would like to us ...
【论文阅读】Occupancy Networks: Learning 3D Reconstruction in Function Space
论文题目:Occupancy Networks: Learning 3D Reconstruction in Function Space(占据网络:在函数空间内学习三维重建,简称ONet) 论文作者 ...
[CVPR2022]3D Photo Stylization: Learning to Generate Stylized Novel Views from a Single Image
标题:3D Photo Stylization: Learning to Generate Stylized Novel Views from a Single Image 链接:https://ar ...
论文笔记：SemStyle: Learning to Generate Stylised Image Captions using Unaligned Text
SemStyle: Learning to Generate Stylised Image Captions using Unaligned Text 1.提出问题早期关于多样性的图像描述模型的工作 ...
Programing Exercise 4:Neural Networks Learning
本文讲的是coursera上斯坦福大学机器学习公开课(吴文达)课程第五周Neural Networks :learning 的课后作业.本文给出了作业实现的具体代码,并给出相应的注释和解释,供各位同学 ...

[paper]Adversarial Transformation Networks: Learning to Generate Adversarial Examples

[paper]Adversarial Transformation Networks: Learning to Generate Adversarial Examples相关推荐

最新文章

热门文章