用软件可编程FPGA加速网络边缘的移动应用

Accelerating Mobile Applications at the Network Edge with Software-Programmable FPGAs

FPGA加速的意义

如今边缘计算已经成为一种用于移动应用程序的新的计算范式，可以提高性能和能耗。具体来说，它通过将计算密集型的任务卸载到邻近的边缘节点，助力电力有限设备上的交互式应用程序。同时，现场可编程门阵列(FPGA)因其硬件可定制性而以高性能和节能的方式加速深度学习算法等计算密集型任务而闻名，已被证明是一个有吸引力的加快计算密集型工作负载的解决方案。此外，FPGA已经被用于云计算的计算加速。

基于边缘卸载和基于FPGA加速的优势，将这两种技术结合起来，进一步提高边缘计算的响应性能，可以在网络边缘部署基于FPGA的加速器，从计算卸载的角度加速移动应用程序。

挑战

如何将边缘卸载和基于FPGA加速两种技术结合起来，如何实现。

方案

系统总体架构如图所示。它由一个移动设备、一个边缘节点(代表边缘网络)和一个云组成。

移动设备通过Wi-Fi连接到边缘节点。它主要运行应用程序的前端部分，与计算卸载模块进行接口，用于发送请求(例如原始传感器数据)，并通过UI接收特定于应用程序的响应。

边缘网络由无线路由器和ARM-FPGA板通过以太网连接而成。它有两个主要组件，即卸载管理器模块和计算卸载模块。卸载管理器模块在路由器上实现，用于与前端应用程序接口，并将数据路由到卸载目标(本地计算卸载模块或远程云)。

云被用来提供传统的基于CPU的云卸载的基准性能。

基于该方案实现了三个交互式应用程序：识别给定图像手写数字，识别给定图像物体，人脸检测。手写数字识别采用了相对简单的深度学习模型，物体识别采用了相对复杂的深度学习模型，人脸不使用深度学习方法，而是基于传统的计算机视觉算法。这些应用程序都是计算密集型的，预计将受益于边缘卸载方法。

开放问题

在我们的实验中，没有对FPGA和另一种广泛使用的硬件GPU进行比较。一般来说，GPU可以实现更高的吞吐量，在大多数情况下峰值速度通常比FPGA快。然而，FPGA可以降低单个请求的延迟，同时消耗更少的能量。我们可以看到FPGA在大多数情况下更节能。此外，FPGA的可重构特性使其比GPU更加灵活。考虑到这些方面，我们认为FPGA是边缘卸载的更好选择。

我们实验中的应用都与计算机视觉有关。而如今，涉及音频和语音处理的应用正在兴起，并成为交互式应用的重要组成部分。此类应用的最先进解决方案大多基于深度学习和机器学习算法。利用FPGA加速音频和语音处理应用的研究已经开始。因此，我们相信基于FPGA的边缘卸载也能够加速涉及音频和语音的应用程序。

我们的工作没有考虑太多关于网络边缘的独特特性。我们尝试在网络边缘使用FPGA，使应用程序运行更快，并验证其有效性，而不是考虑边缘计算的独特情况来优化工作负载。

开发高效的FPGA加速器是困难的。CPU程序对于大多数程序员来说都很熟悉，并且有很多基于CPU的工作可以用于交互式应用程序。相比之下，开发FPGA程序需要程序员对应用程序和FPGA都有良好的知识。开发周期长得多，而且由于代码可读性差，很难调试硬件程序。

第三，目前FPGA板上的处理器频率远远低于笔记本电脑或虚拟机的CPU。也就是说，板载协同处理器可能成为基于FPGA的边缘卸载的瓶颈。幸运的是，这些问题可以通过FPGA设计工具和硬件性能的发展来解决。

见解

是，这些问题可以通过FPGA设计工具和硬件性能的发展来解决。

见解

边缘卸载对于改善当今交互应用程序的用户体验很有吸引力，由于其强大的计算能力和能源效率，FPGA在加速计算密集型工作负载(如深度学习算法)方面表现非常好。本文试图结合边缘卸载和FPGA的优点，在网络边缘部署FPGA来加速交互式移动应用，提出了一种新的网络辅助计算模型，即基于FPGA的边缘计算。虽然基于FPGA的边缘卸载仍处于初级阶段，但我们相信，这篇论文有助于考虑利用新设备和技术来改善边缘计算背景下的移动应用。