论文信息

DOI: 10.1109/TCOMM.2020.2990686

1.摘要

2.背景

3.本文贡献

4.BFL模型详述

4.1 模型概述

4.2模型问题与解决

4.3 两个算法

5.BFL块到达过程

6.延迟最小化

7.结论

8.未来潜在研究方向

1.摘要

作者提出了基于区块链的联邦学习（BFL），用于隐私感知和高效的车辆通信网络。其中自动驾驶车辆车载机器学习（oVML）模型更新以分布式进行交换和验证。（与相邻车辆进行数据交易）
奖励机制。
开发了一个数学框架：以可控网络和BFL参数（如：重传限制、块大小、块生成率、帧大小）为特征，以便捕捉它们对系统级性能的影响。
量化了端到端延迟。

2.背景

新一代无线网络更可靠，即将满足自动驾驶车辆的实时通信的需要。自动驾驶汽车很多，传统的云方法风险较大（高延迟、基于云的学习方法较慢，GFL训练完成的延迟约为10分钟），而自动驾驶要求低延迟。

车辆之间的数据交易应保证原始数据对其他相邻车辆的私密性。

传统FL的局限性：

（1）对中心服务器依赖性太大。

（2）设备可信度。没有激励机制，本地设备不主动参与训练。

3.本文贡献

（1）提出BFL，用区块链代替中心服务器。

（2）对端对端延迟做了数学分析。

（3）构建了一个类似的车载网络模型，将无线信道和链路特性的复杂交互与蜂窝网络的详细传输机制相结合，成功测量了对BFL的影响。做了大量的数值和模拟实验，以评估在不同网络场景和信道条件下提出的框架。

（4）由于自动驾驶车辆网络设置的实时变化（车辆数量、矿工、无线信道条件等），作者设计了一种在线算法，用于在现实网络条件下使系统延迟最小。该算法连续监控系统延迟与目标值的偏差，并调整块生成率以确保最小的总延迟，并能有效应对动态网络。

4.BFL模型详述

4.1 模型概述

上图是自动驾驶汽车与矿工组成的BFL框架的抽象图。

矿工在物理上是可以移动的车辆，也可以是网络边缘的独立节点（如蜂窝基站）。车辆和矿工使用统一随机方法，互相信任，匿名联系。这样的好处有：

（1）减少了固定连接中的恶意攻击。

（2）激励机制。不用对它们的诚实做假设。

（3）更容易使BFL中的车辆形成代表性的组。

（4）it allows the global model and findings to apply to the entire BFL System.（这句没太理解）

上图中的交互解释如下。

每个oVML执行本地学习，并将本地模型更新发送到网络中与其相关联的矿工那里；所有矿工交换并验证它们所有的本地模型更新，然后执行PoW。当矿工完成其PoW时，他通过记录经验证的本地模型更新来生成一个块。最后，块被插入到区块链的分布式账本中。然后，所有相关车辆都可以使用这个新插入的块来计算所需的全局模型更新。

网络系统能够交换车辆的本地模型，同时提供验证及相应的奖励。

每辆车的全局模型更新是在本地计算的，但会产生额外的延迟（由于区块链）。

4.2模型问题与解决

本文解决的时一个并行回归问题。

$S = \bigcup_{n=1}^{N}S_{n}$ 是网络中的所有设备。

训练目标：对于一个全局向量 $v$ ， $Minimize F\left ( v \right )$ ，其中 $F(v) = \frac{\sum_{n=1}^{N}\sum_{d_{j}\epsilon s_{n}}(a_{j}^{T}v-b_{j})^{2}/2}{\left | S \right |}$

解 $Minimize F\left ( v \right )$ 的思想是通过随机梯度算法在每个oVML处执行局部训练，随后是通过分布式牛顿法聚集更新的全局训练。在每个阶段，oVML局部模型在每次迭代后更新如下：

其中，

【几点说明】

1. 分类账中的每个模块由两个部分组成：header，body.

header中包含3个参数：1）指向前一个块的指针，2）块到达率，3）PoW结果。

body中包含：1）本地计算延迟，2）本地更新 $\left ( v_{n} , \bigtriangledown F_{j}\left ( v \right )\right )$ .

2. 本文中，forking的主要因素：1）块到达率，2）块传播延迟。

3. 奖励机制。

（1）数据奖励。向车辆提供数据样本奖励。（奖励与本地数据样本的大小成正比）

（2）挖矿奖励。向胜利矿工提供块验证过程奖励。（奖励与矿工贡献的采矿能力成正比，矿工的采矿能力是由与其相关联的oVML的有用数据样本的集合决定的）

【注】1）使用的PoW来做工作量证明。作者说用拜占庭容错和BFL的厉害关系证明有点太“过于简单”，这可能需要更复杂的计算和序言来在矿工中达成一致。

2）通用、宝马等已经开始使用区块链作为它们和其他制造商之间共享自动驾驶汽车数据的一种方式。

4.3 两个算法

（1）车辆上的oVML算法。

（2）矿工上的算法

5.BFL块到达过程

跟踪BFL系统中块到达过程有两种常用的方案：

1）使用块的header内的时间戳。

2）记录区块到达矿工/oVML处的时间。（本文使用的这种，原因如下。）

区块到达矿工处的时间取决于区块何时被挖掘以及在网络中传播需要的时间。一旦区块在网络中传播，那么在块中的信息对于矿工和车辆是可用的，并且任何其他矿工通过在生成块的header进行挖掘而引起冲突的可能性很小。另一方面，使用区块header的基于时间戳的方案，不同矿工的本地时钟可能是不同的，这样就会引起错误。

文章把BFL系统中的块达到过程 A 视为 R 上的泊松分布，具有以下两个属性：

1）过程A由位于有界区间[a, b)∈R内的随机个数的点A([a, b))，可以用均值为λ([a, b))的泊松随机变量表示为Radom测度（非负）。（拉东测度）

2）过程 A 的点位于区间[a1， b1), [a2, b2), …… , [ak, bk) 中，区间是由期望为 λ([a1, b1)), λ([a2, b2)), ……, λ([ak, bk)) k 个独立随机变量划分的。

对于非负实数上定义的点 $\left \{ A_{(i))} \right \}_{\geq 1}$ ，我们可以根据它们的到达时间来升序排列。 $A_{1}\leq A_{2}A_{3}\leq...$ 。因此，两点之间的有效距离是一个随机变量，设 $T_{i} = A_{i} - A_{i-1}$ 且 $T_{1} = A_{1}, ( i = 2,3,4,...)$ 。为“间隔时间”或”到达延迟“。

会有以下两种情况：

1）齐次泊松过程。对于 $\left \{ A_{(i))} \right \}_{\geq 1}$ 为速率为λ的其次点过程，相应的到达延迟 $T_{i}$ 是均值为1/λ的独立同分布指数随机变量，因此，使用无记忆性质： $P(T_{i}\leq t) = 1 - e^{-\lambda t}$ .

2）非齐次泊松过程。对于强度为λ(t)的 $\left \{ A_{(i))} \right \}_{\geq 1}$ 的非齐次点过程，相应的到达延迟 $T_{i}$ 可以通过以下式子进行估计：

然后，给定第一到达延迟 $T_{1} = t_{1}$ ，第二到达时间 $T_{2}$ 的（条件）分布是：，依此类推，对于 $i = 2,3,4,...$ ，对于非齐次泊松过程 $\left \{ A_{(i))} \right \}_{\geq 1}$ ，每个点独立分布在区间 $a\epsilon [0, t]$ 上，分布如下：

当 $A_{i}$ 的分布可逆时，每个 $A_{i}$ 可以转化为[0, 1]上的一致随机变量，从而产生多个独立的一致随机变量。实际上，λ(t)将泊松过程转换为齐次泊松过程，因此，非齐次泊松过程的统计方法经常做转换数据来进行性能分析。

6.延迟最小化

研究总的系统延迟 $T_{tot}$ 对网络和BFL参数（如传输帧大小、数据块大小、数据块到达率等）的依赖性，使其最小化。

延迟原因：1）用于块验证和块生成的挖矿共识延迟；2）整个系统的通信延迟。

为性能分析开发的不同子模型及其交互的总体情况如图

做了4个假设：

0）oVML收集的数据是不平衡且非独立同分布。

1）与BFL的通信延迟相比，oVML内的计算和验证持续时间足够短。（车内服务器强大，瓶颈来自于无线通信）

2）PoW遵循泊松过程。（有些不是泊松过程，但Bowden等人提出一个可以转化为泊松过程的精细点过程。）

3）所有矿工彼此同步，并通过保持超时来立即开始他们的PoW。

【注】假设1，2，3便于定量分析，同时几乎不影响结果的准确性。

7.结论

BFL有效。
端对端延迟，推导出了最优的块生成率。
一种基于使用分析的优化方法在省略特定的模型细节和考虑关键系统特征之间取得了良好的平衡。

8.未来潜在研究方向

（1）考虑到用于分布式学习的自动驾驶汽车的自动特征，开发复杂的移动模型。

（2）验证训练期间隐私泄露的风险分析和解决办法的设计。

（3）超可靠低延迟应用的基于上下文感知集成（和鲁棒）分布式学习的区块链系统的研究。

【笔记】《Federated Learning With Blockchain for Autonomous Vehicles Analysis and Design Challenges》精读笔记相关推荐

最新论文笔记(+21)：Privacy-Preserving Byzantine-Robust Federated Learning via Blockchain Systems/ TIFS2022
Privacy-Preserving Byzantine-Robust Federated Learning via Blockchain Systems 可译为"利用区块链实现隐私保护的拜 ...
论文笔记：Privacy-Preserving Byzantine-Robust Federated Learning via Blockchain Systems
文章:Privacy-Preserving Byzantine-Robust Federated Learning via Blockchain Systems 背景原因解决方案工作贡献成果预备 ...
【论文笔记】Map-Based Localization Method for Autonomous Vehicles Using 3D-LIDAR
[论文笔记]Map-Based Localization Method for Autonomous Vehicles Using 3D-LIDAR ~~~ ~~~~ 精确和稳健的定位是复杂 ...
【论文】【BLADE-FL 】When Federated Learning Meets Blockchain: A New Distributed Learning Paradig
When Federated Learning Meets Blockchain: A New Distributed Learning Paradigm 贡献 BLADE-FL(LearningCh ...
【论文阅读】 Privacy-Preserving Byzantine-Robust Federated Learning via Blockchain Systems
这是发表在2022 IEEE TRANSACTIONS ON INFORMATION FORENSICS AND SECURITY(TIFS)上的一篇文章目录 abstract 主要贡献 II. R ...
论文笔记：Planning and Decision-Making for Autonomous Vehicles
这两天读了一篇MIT关于无人车规划与决策方面的综述文章,写的非常全面,读完酣畅淋漓.读到了很多复现过以及刚产生idea就发现被人做了的工作,有必要在这里进行一些总结,同时作为读完文章的一个规整.在下文 ...
【论文阅读】FcgFed《Feature-Contrastive Graph Federated Learning: Responsible AI in Graph Information Analy
针对问题: 图联邦学习中非独立同分布数据造成的局部模型之间的权重差异. 解决方案: 1.设计了一个FcgFed学习系统的架构来分析图信息系统架构由三部分组成:通信器,数据加载器,核心.通信包为服务器 ...
Blockchain Empowered Asynchronous Federated Learning for Secure Data Sharing in Internet of Vehicles
<Blockchain Empowered Asynchronous Federated Learning for Secure Data Sharing in Internet of Vehi ...
最新论文笔记(+20)：Biscotti_ A Blockchain System for Private and Secure Federated Learning / TPDS21
Biscotti: A Blockchain System for Private and Secure Federated Learning"译为"Biscotti:一个用于隐私 ...

【笔记】《Federated Learning With Blockchain for Autonomous Vehicles Analysis and Design Challenges》精读笔记

1.摘要

2.背景

传统FL的局限性：

3.本文贡献

4.BFL模型详述

4.1 模型概述

4.2模型问题与解决

【几点说明】

4.3 两个算法

5.BFL块到达过程

6.延迟最小化

7.结论

8.未来潜在研究方向

【笔记】《Federated Learning With Blockchain for Autonomous Vehicles Analysis and Design Challenges》精读笔记相关推荐

最新文章

热门文章