011 Towards Byzantine-Resilient Federated Learning via Group-Wise Robust Aggregation（群体鲁棒聚合、拜占庭）

通过群体鲁棒聚合进行拜占庭式弹性的联邦学习

方法：提出了一个集体聚合框架：每一轮协调者对来自不同参与者的模型更新运行一个聚类算法，并将相似的模型更新分组到不同的聚类中。对每个聚类采用鲁棒聚合方法估计聚类的平均中心。将全局模型更新为所有聚类中心的集合，每个聚类中心根据其聚类规模或评价分数进行加权。

目的：分布式设置使得联邦学习容易受到拜占庭故障和恶意参与者的攻击——>现有的对抗拜占庭故障的鲁棒性的方法，都基于假设：①数据样本在参与者和模型参数之间是独立和同分布的②模型参数在不同参与者之间的方差是有限的

结论：有效地提高了对拜占庭故障的鲁棒性，突出了聚类的作用，解决了实际FL和基于鲁棒统计的防御理论假设之间的差距

局限性：

拜占庭问题：①部分将军可能叛变②信使可能把信弄丢

非拜占庭问题：信使可能把信弄丢

鲁棒性： 比如说，计算机软件在输入错误、磁盘故障、网络过载或有意攻击情况下，能否不死机、不崩溃，就是该软件的鲁棒性。

联邦学习是一种分布式机器学习方法

——>分布式设置使得联邦学习容易受到拜占庭故障和恶意参与者的攻击

（由于软件崩溃，硬件故障，恶意攻击者损坏的设备，参与者在学习过程中可以任意行为，这通常被建模为拜占庭故障——>参与者的更新可能会任意偏离真实值，导致学习性能严重下降，脆弱的模型遭受规避攻击和后门攻击）

——>导致不可用的模型或带有后门的受损模型

——>联邦学习中，协调器通过对每个参与者的模型更新进行一轮又一轮的聚合来计算一个新的全局模型。

——>一个标准的聚合函数是计算从参与者接收到的局部模型参数的平均值。

——>平均聚合不是拜占庭式弹性

——>即使只有一个参与者被妥协了，全球模型可以任意偏离

——>为了提高联邦学习对某些参与者对抗拜占庭故障的鲁棒性，已提出许多工作，用一个具有鲁棒性的均值估计来替代均值的聚合，如：中值、切尾均值、Krum、Bulyan

——>这些都基于假设：①数据样本在参与者和模型参数之间是独立和同分布的②模型参数在不同参与者之间的方差是有限的，这样，模型参数的大变化可以用稳健估计去除

——>这两个假设在实际的联邦学习环境中往往不成立

——>①在实际应用中，联邦学习的一个基本特征是在不同参与者之间不平衡和非独立同分布地划分数据。用鲁棒聚合训练的模型的错误率随非独立同分布的程度而增加，这意味着当联邦学习设置具有高度的非独立同分布时，鲁棒聚合失效。②即使是允许足够恶意更改来破坏最终模型的简单数据集，方差也确实足够高

——>提出了一个集体聚合框架：每一轮协调者对来自不同参与者的模型更新运行一个聚类算法，并将相似的模型更新分组到不同的聚类中。对每个聚类采用鲁棒聚合方法估计聚类的平均中心。将全局模型更新为所有聚类中心的集合，每个聚类中心根据其聚类规模或评价分数进行加权。

——>群体聚合在一定程度上解决了上述不匹配问题：①对于非独立同分布假设，通过聚类，同一组的模型参数共享相似的值，因此它们更有可能来自具有相似或相同分布的数据集。鲁棒聚合是按组进行的，这允许聚合产生一个很好的估计期望的簇平均中心。②对于第二个方差假设，聚类降低了模型参数的聚类内方差，从而限制了对每个聚类中心的恶意更改。不同聚类的最终加权平均进一步限制了来自拜占庭参与者的恶意推断。

——>有效地提高了对拜占庭故障的鲁棒性，突出了聚类的作用，解决了实际FL和基于鲁棒统计的防御理论假设之间的差距

拜占庭故障和攻击模型：

投毒攻击：

①无目标投毒攻击：

目的是防止全局模型达到良好的精度甚至收敛。对于测试示例，会产生高错误率。

②目标投毒攻击：（后门攻击）

对手操纵该模型的训练时间，使其在某些特定测试示例的推断时间产生攻击者有针对性的预测。例如：预测某些特定文本的垃圾邮件为非垃圾邮件。

因为这种类型的攻击只影响一小部分感兴趣的测试用例，同时保证模型的准确性，所以它们也被称为后门攻击。

网络中的后门：就是让攻击者可以在以后的日子里可以随时进行连接的东西，不一定是程序，可能会在你的系统里面留一个后门账户，可以随时进行远程桌面连接的后门账户。

基于鲁棒聚合的防御：

在同步SGD（stochastic gradient descent，随机梯度下降）分布式学习的背景下提出的：协调器估计从参与者收集的梯度的平均值，并使用它用梯度下降的步骤来更新全局模型。当参与者使用相同的学习速率时，它实际上相当于收集和聚合局部模型参数。

精心构造的攻击可以成功击败中值、切尾均值、Krum、Bulyan等防御机制

011 Towards Byzantine-Resilient Federated Learning via Group-Wise Robust Aggregation（群体鲁棒聚合、拜占庭）相关推荐

【论文阅读笔记】Efficient and Secure Federated Learning With Verifiable Weighted Average Aggregation
个人阅读笔记,若有错误欢迎指正期刊:2023 TNSE 论文链接: Efficient and Secure Federated Learning With Verifiable Weighted ...
【COPOD】Suppressing Poisoning Attacks on Federated Learning for Medical Imaging
Suppressing Poisoning Attacks on Federated Learning for Medical Imaging 抑制针对医学影像联邦学习的毒化攻击论文 Abstrac ...
ICLR2021 - Federated Learning Paper
Federated Semi-Supervised Learning With Inter-Client Consistency & Disjoint Learning 提出的问题很有意思 P ...
【FLACC】A Greedy Agglomerative Framework for Clustered Federated Learning
A Greedy Agglomerative Framework for Clustered Federated Learning一种用于聚类联邦学习的贪婪聚合框架 Abstract 1.INTROD ...
READ-2204 FL-WBC Enhancing Robustness against Model Poisoning Attacks in Federated Learning
READ-2204 FL-WBC Enhancing Robustness against Model Poisoning Attacks in Federated Learning from a C ...
【Paper Reading】Privacy-Preserving Aggregation in Federated Learning: A Survey
Privacy-Preserving Aggregation in Federated Learning: A Survey 原文来源:[Arxiv2022] Privacy-Preserving A ...
013 Dealing with Label Quality Disparity in Federated Learning（联邦学习中标签质量差异的处理）
方法:FOC 目的:解决联邦学习中标签质量差异的问题结论:优于FedAvg 能有效识别带有噪声标签的参与者,降低噪声标签对联邦学习性能的影响谷仓效应,亦称筒仓效应,指企业内部因缺少沟通,部门间各自 ...
Group Knowledge Transfer: Federated Learning of Large CNNs at the Edge部分阅读
Group Knowledge Transfer: Federated Learning of Large CNNs at the Edge 组知识转移:边缘大型cnn的联合学习 Abstract 通 ...
2.Paper小结——《Privacy-preserving blockchain-based federated learning for traffic flow prediction》
题目: 基于区块链的基于隐私保护的交通流量预测的联邦学习 0.Abstract: 交通流量预测已成为智能交通系统的重要组成部分.然而,现有的基于集中式机器学习的交通流量预测方法需要收集原始数据以进行模 ...

011 Towards Byzantine-Resilient Federated Learning via Group-Wise Robust Aggregation（群体鲁棒聚合、拜占庭）

011 Towards Byzantine-Resilient Federated Learning via Group-Wise Robust Aggregation（群体鲁棒聚合、拜占庭）相关推荐

最新文章

热门文章