来源论文：GAN Enhanced Membership Inference: A Passive Local Attack in Federated Learning

本文介绍了一种利用 GAN 获取整体参与者们训练数据的分布，从而进行了更加精准的成员推断攻击。

现有工作的不足

在FL场景下，各 client 所持有的数据存在分布不一致的情况，而之前的 shadow model 的方法要求攻击者拥有部分和 target model 训练集同分布的辅助数据集，才能进行攻击；所以之前的方法在 FL 场景下的效果会大打折扣，或者说需要辅助信息（和 target model 训练集同分布的数据集）。

Threat Model

In this paper, we focus on the scenario that the attack is launched by one of the clients, since the client’s malicious behaviors are imperceptible.
As a participant, the attack can observe the global parameters updated through observing the model updates and can change its parameters upload.
即攻击者为参与者之一，能够观察到 global parameters。

Methodology

针对现有工作的不足（无法获取整体参与者们训练数据的分布），本文利用 GAN ，生成（仿造）和训练集同分布的数据，进而进行“有先验知识的”成员推断攻击。

本文提出的 GAN 仿造训练数据的方法，分为两个阶段：data augment phase and a classification phase。第二个阶段， we train a classification model to learn the distribution of prediction around the true label.获取对每一类别的分布。

在这里，attack model 仅需 prediction vectors 训练，不需要别的信息。

来看一下 attack model 的训练流程：

Attack model 训练需要大量同分布的和数据，因此本文又提出了 Augment training data with GAN，也就是前面说的第一阶段。
看一下 GAN 的运作流程：

【论文阅读】FL下一种利用GAN生成辅助数据的被动成员推断攻击GAN Enhanced Membership Inference: A Passive Local Attack in FL相关推荐

[论文阅读] (06) 万字详解什么是生成对抗网络GAN？经典论文及案例普及
<娜璋带你读论文>系列主要是督促自己阅读优秀论文及听取学术讲座,并分享给大家,希望您喜欢.由于作者的英文水平和学术能力不高,需要不断提升,所以还请大家批评指正,非常欢迎大家给我留言评论,学 ...
[论文阅读] (17)CCS2019 针对PowerShell脚本的轻量级去混淆和语义感知攻击检测（经典）
<娜璋带你读论文>系列主要是督促自己阅读优秀论文及听取学术讲座,并分享给大家,希望您喜欢.由于作者的英文水平和学术能力不高,需要不断提升,所以还请大家批评指正,非常欢迎大家给我留言评论,学 ...
利用计算机可产生随机数,一种利用计算机生成随机数的方法
一种利用计算机生成随机数的方法 (2012-07-16 23:22:33) 标签: 随机数函数数值计数器程序运行杂谈这里介绍一种利用计算机生成随机数的方法,微机都有系统计数器记录自运行开始 ...
经典论文复现 | InfoGAN：一种无监督生成方法
过去几年发表于各大 AI 顶会论文提出的 400 多种算法中,公开算法代码的仅占 6%,其中三分之一的论文作者分享了测试数据,约 54% 的分享包含"伪代码".这是今年 AAAI ...
风格迁移 I2I 论文阅读笔记——U-GAT-IT，动漫风格生成
U-GAT-IT: UNSUPERVISED GENERATIVE ATTENTIONAL NETWORKS WITH ADAPTIVE LAYER- INSTANCE NORMALIZATION F ...
论文解读：《一种利用二核苷酸One-hot编码器识别水稻基因组中N6甲基腺嘌呤位点的卷积神经网络》
论文解读:<A Convolutional Neural Network Using Dinucleotide One-hot Encoder for identifying DNA N6-Me ...
论文阅读（5）栉水母利用涡流反弹动力学，胜过其他凝胶状的游泳者（2019）
栉水母利用涡流反弹动力学,胜过其他凝胶状的游泳者原文链接:https://royalsocietypublishing.org/doi/10.1098/rsos.181615 引言凝胶状浮游动 ...
论文阅读-基于深度强化学习的方法解决多智能体防御和攻击问题
论文原题目:A deep reinforcement learning-based method applied for solving multi-agent defense and attack ...
[论文阅读] (11)ACE算法和暗通道先验图像去雾算法（Rizzi | 何恺明老师）
<娜璋带你读论文>系列主要是督促自己阅读优秀论文及听取学术讲座,并分享给大家,希望您喜欢.由于作者的英文水平和学术能力不高,需要不断提升,所以还请大家批评指正,非常欢迎大家给我留言评论,学 ...

【论文阅读】FL下一种利用GAN生成辅助数据的被动成员推断攻击GAN Enhanced Membership Inference: A Passive Local Attack in FL

目录

现有工作的不足

Threat Model

Methodology

【论文阅读】FL下一种利用GAN生成辅助数据的被动成员推断攻击GAN Enhanced Membership Inference: A Passive Local Attack in FL相关推荐

最新文章

热门文章

【论文阅读】FL下一种利用GAN生成辅助数据的 被动成员推断攻击GAN Enhanced Membership Inference: A Passive Local Attack in FL

目录

现有工作的不足

Threat Model

Methodology

【论文阅读】FL下一种利用GAN生成辅助数据的 被动成员推断攻击GAN Enhanced Membership Inference: A Passive Local Attack in FL相关推荐

最新文章

热门文章

【论文阅读】FL下一种利用GAN生成辅助数据的被动成员推断攻击GAN Enhanced Membership Inference: A Passive Local Attack in FL

【论文阅读】FL下一种利用GAN生成辅助数据的被动成员推断攻击GAN Enhanced Membership Inference: A Passive Local Attack in FL相关推荐