论文笔记——Fair Resource Allocation in Federated Learning

原文论文链接——http://www.360doc.com/content/20/0501/14/10240337_909607047.shtml

联邦学习领域一些新出论文，参考www.360doc.com/content/20/0501/14/10240337_909607047.shtml

介绍了几篇论文，可以参考学习

联邦学习的一大发展是FedAVG算法提出后，该算法提出后，相当于是一个比较具体的算法，后面相继出现了一些针对该算法的在通信效率以及loss和准确度、收敛性方面一些缺点不足进行改进的论文。

由于联邦学习是一个针对大量不同客户端参与共同训练的一个环境提出的。参与训练的各个客户端在计算资源、本地数据等方面都具有异构性，且每次中心服务器都是选择一定批量的客户端参与训练，并不是每次都是所有客户端参与训练。因此，可能会导致不公平性，即一些具有良好资源的客户端可能会经常大概率的被选择，而一些较差的客户端可能被选择的概率较小。

此篇论文针对此现象提出了一种优化方法，确保各个客户端能有较公平的概率参与训练。本文提出了一种解决联邦学习中公平问题的优化目标算法 q-FFL（q-Fair Federated Learning）。q-FFL 通过引入 q 参数化的权重，实现了对不同设备损耗的重新加权计算，使得损耗较高的设备具有较高的相对权重，从而减小准确度分布方差，实现准确度更公平的分布。q-FFL 无需手工调整公平性约束，它构建的是一个灵活的框架，在该框架中可以根据所需的公平性自动调整目标。此外，本文提出了一种轻量级且可扩展的分布式 q-FFL 解决方法：q-FedAvg，该方法考虑了联邦学习架构的重要特征，例如通信效率和设备的低参与性等。

论文思路如下：

实验

论文中使用了凸模型和非凸模型，在 TensorFlow 中实现所有代码，用一个服务器和 m 个设备模拟一个联邦学习网络。

论文笔记——Fair Resource Allocation in Federated Learning相关推荐

Fair Resource Allocation in Federated Learning
摘要: 联邦学习涉及在大规模异构网络中训练统计模型.在这样的网络中,天真地最小化总损失函数可能会不成比例地对某些设备有利或不利.在这项工作中,我们提出了q-Fair联邦学习(q-FFL),这是一种新的 ...
最新论文笔记(+21)：Privacy-Preserving Byzantine-Robust Federated Learning via Blockchain Systems/ TIFS2022
Privacy-Preserving Byzantine-Robust Federated Learning via Blockchain Systems 可译为"利用区块链实现隐私保护的拜 ...
【论文笔记】A Survey on Federated Learning: The Journey From Centralized to Distributed On-Site...（综述）
我的博客园:https://www.cnblogs.com/MaplesWCT/ A Survey on Federated Learning: The Journey From Centralize ...
【论文笔记】《Blockchained On-Device Federated Learning》精读笔记
论文基本信息: DOI: 10.1109/LCOMM.2019.2921755 目录 1.INTRODUCTION 2. ARCHITECTURE AND OPERATION 2.1 one-Epoc ...
[论文笔记]Three-Dimensional Resource Allocation in D2D-Based V2V Communication
D2D通信技术是3GPP R14中对于V2X的主要推动技术.在这种情况下,UE既可以直接与基础设施通信也可以通过中介节点连接基础设施,UE还可以直接与设备进行通讯,无论基础设施支持与否.由于车辆的快速 ...
【论文笔记】A Survey on Federated Learning: The Journey From Centralized to Distributed On-Site Learning a
最新论文笔记(+19)：TrustFed: A Framework for Fair and Trustworthy Cross-Device Federated Learning in IIoT
TrustFed: A Framework for Fair and Trustworthy Cross-Device Federated Learning in IIoT "译为" ...
【论文阅读笔记】Efficient and Secure Federated Learning With Verifiable Weighted Average Aggregation
个人阅读笔记,若有错误欢迎指正期刊:2023 TNSE 论文链接: Efficient and Secure Federated Learning With Verifiable Weighted ...
Deep Learning论文笔记之（八）Deep Learning最新综述
Deep Learning论文笔记之(八)Deep Learning最新综述 zouxy09@qq.com http://blog.csdn.net/zouxy09 自己平时看了一些论文,但老感觉看完 ...

论文笔记——Fair Resource Allocation in Federated Learning

论文笔记——Fair Resource Allocation in Federated Learning

实验

论文笔记——Fair Resource Allocation in Federated Learning相关推荐

最新文章

热门文章