A Targeted Universal Attack on Graph Convolutional Network

背景

现有关于Universal Adversarial Attack的研究主要集中在CNN的图像分类任务上，图的Universal Adversarial Attack很少有人研究。（之前只有GUA，Graph Universal Adversarial Attack这一个工作）

Universal Adversarial Attack：第一次提出是在图像分类任务上。相同的扰动可以被应用在一个数据集的任何实例上。

TUA和GUA相比，有三点不同：

TUA需要将victim node误分类到指定class
TUA只需要控制一小部分节点
TUA只需要对ictim node的拓扑结构做一点点修改

模型

假设被攻击者控制的attack node都是同一个类别（target class）

通过GCN的特征聚合过程，将几个具有扰动属性的连接到攻击节点上，增强给定攻击节点的攻击能力。（fake node的带有扰动的特征将通过attack node传递给victim node，进而使其被误分类）

流程：

我们从目标类中选择一组attack node，并将几个具有Null feature的fake ndoe连接到它们身上。
根据随机选取的一组节点（称为辅助节点ancillary node）的梯度，迭代计算fake node特征里的扰动。
任何victim node如果与攻击节点相连，就会被GCN误判为target class。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-G25H34f6-1616826864234)(https://cdn.jsdelivr.net/gh/duanyuchen55/ImageHosting//jekyll_pic/image-20210311144350790.png)]

Adding fake nodes with null features

target class cAc_AcA，有一组属于cAc_AcA的attack node VAV_{A}VA，一组Null feature的fake nodeVFakeV_{Fake}VFake，这组fake node被连接到attack node

加入fake node之后，得到一个新的图G′(A′,X′)G'(A',X')G′(A′,X′)。

E∈0,1N×NFakeE \in {0,1}^{N \times N_{Fake}}E∈0,1N×NFake代表attack node 和 fake node之间的无向边，P∈0,1NFake×NFakeP \in {0,1}^{N_{Fake} \times N_{Fake}}P∈0,1NFake×NFake被初始化为全0

XFake∈0,1NFake×dX_{Fake} \in {0,1}^{N_{Fake} \times d}XFake∈0,1NFake×d代表fake node的特征，被初始化为全0

Computing the perturbation in the features of the fake nodes

给出一组的辅助节点ancillary node VTV_TVT，这组节点都不是target class的。（没说怎么找，代码里是随机找了几个非cAc_AcA class的点）

**攻击目标：**利用ancillary node计算fake node特征中的扰动，来使连接到attack node 的 victim node被误分类为target class。

目标函数定义为：

[f()][f()][f()]代表GCN认为节点v是cAc_AcA或cvc_vcv输出的可能性。

对于辅助节点v来说，在某个class的输出值越大，GCN越有可能将节点v分类到这个class。

如果v没有被误分类为cAc_AcA，则公式中后者得分更高，导致F为负值。

如果v被误分类为cAc_AcA，则前者后者相等，F值为0。

使用下面公式来计算fake node 特征中的扰动（越大越可能被分类为cAc_AcA）

∣∣E∣∣0||E||_0∣∣E∣∣0是fake node和attack node之间边的数目

∣∣XFake∣∣∣0||X_{Fake}|||_0∣∣XFake∣∣∣0代表fake node 特征数量

受图像分类领域的一项工作（计算引起CNN误分类图片的扰动）启发，提出一项基于梯度的方法，来解决公式5，计算fake node特征中的扰动。

在开始时，fake node的特征初始化为0。然后，我们迭代计算fake node特征的扰动。

在每次迭代中，有如下两个过程：

找到在当前迭代中，XFakeX_{Fake}XFake里对于公式5中求和部分影响最大的特征。

计算公式5求和部分对于每个特征的偏导数。

Grade(i,j)Grade(i,j)Grade(i,j)代表求和部分对于第i个fake node的第j个特征的偏导数，偏导数越大，代表影响力越大。

（如果其特征已经是1的话，就找偏导数第二大的，以此类推）
将XFake(i,j)X_{Fake}(i,j)XFake(i,j)设置为1，作为当前迭代的扰动。

迭代过后，就可以得到fake node 的扰动。

【Paper-Attack】A Targeted Universal Attack on Graph Convolutional Network相关推荐

【U-net】【粗读】Retinal blood vessel segmentation using fully convolutional network with transfer...
Retinal blood vessel segmentation using fully convolutional network with transfer learning 摘要介绍数据集 ...
【论文翻译 | IEEE TKDE】ie-HGCN - Interpretable and Efficient Heterogeneous Graph Convolutional Network
文章目录摘要 1 引言 2 相关工作 4模型 4.1 映射 4.2 对象级聚合 4.3 类型级映射 4. 6 结论摘要图卷积网络(GCN)在学习图形中节点的有效任务特定表示方面取得了非凡的成功. ...
【Paper Reading】
Levers are simple too, but they can move the world1. 文章目录 1 Categories Classification Compression Da ...
【论文阅读】24-USAC: A Universal Framework for Random Sample Consensus
[论文阅读]24-USAC: A Universal Framework for Random Sample Consensus 0.basic info 1. standard RANSAC 1.1 ...
【paper reading】Uncalibrated Photometric Stereo under Natural Illumination
[paper reading]Uncalibrated Photometric Stereo under Natural Illumination 1.简介 2.等效方向光模型 3. 法向估计 3.1 ...
【论文阅读】Learning Traffic as Images: A Deep Convolutional ... [将交通作为图像学习: 用于大规模交通网络速度预测的深度卷积神经网络]（1）
[论文阅读]Learning Traffic as Images: A Deep Convolutional Neural Network for Large-Scale Transportation ...
【论文阅读】Learning Traffic as Images: A Deep Convolutional ... [将交通作为图像学习: 用于大规模交通网络速度预测的深度卷积神经网络]（2）
[论文阅读]Learning Traffic as Images: A Deep Convolutional Neural Network for Large-Scale Transportation ...
【论文阅读】[CVPR 2018] PU-Net： Point Cloud Upsampling Network. [tensorflow] [rec. oth.]
文章目录 [论文阅读][CVPR 2018] PU-Net: Point Cloud Upsampling Network. [tensorflow] [rec. oth.]
【论文笔记】Encoding cloth manipulations using a graph of states and transitions
[论文笔记]Encoding cloth manipulations using a graph of states and transitions Abstract 问题: Cloth manipu ...
【论文笔记】3D LiDAR-Based Global Localization Using Siamese Neural Network
[论文笔记]3D LiDAR-Based Global Localization Using Siamese Neural Network ~~~ ~~~~ 在本文基于从神经网络中学习到的 ...

【Paper-Attack】A Targeted Universal Attack on Graph Convolutional Network

A Targeted Universal Attack on Graph Convolutional Network

背景

模型

流程：

Adding fake nodes with null features

Computing the perturbation in the features of the fake nodes

【Paper-Attack】A Targeted Universal Attack on Graph Convolutional Network相关推荐

最新文章

热门文章