SE-ResUNet论文解读

《Deep Learning Prediction of Incoming Rainfalls：An Operational Service for the City of Beijing China》论文解读

这是一篇通过扩展FCN结构来预测降水的文章。文章提出的服务主要运用于北京区域。它能对未来两小时内的降水进行预测，时间和空间分辨率分别为1km和6分钟。该神经网络模型结合了已知的U-Net，ResNet，Sqeeze-and-Excitation和注意力机制模块。这种方法得到的结果要好于传统方法，且计算时间较传统方法更短。

Method

Dataset

首先介绍一下文章中采用的数据，雷达数据以dbZ为单位，雷达图像大小为233x233，图像的伪彩色图,雷达的数据范围为0-70dbZ，实例如下：

但是由于高分辨率和大气效应的多路径反射，图像中存在非常多的噪声。因此，作者设计了一个U-Net网络来对噪声进行滤除。可以称这个修改过的网络为SE-ResUNet，它结合了U-Net，ResNet和Sqeeze-and-Excitation。设计好网络之后，过滤噪声的方法如下：

模型的标签是气象学家手动清洗得到的雷达图，作者堆叠了连续的三帧雷达图像作为SE-ResUNet模型的输入，得到输出后将输出同标签计算交叉熵作为损失函数值。这样训练的目的是训练网络以区分移动/变形的降雨区域和暂时的噪声。在去噪之后，作者将连续的10帧雷达图堆叠作为预测模型的输入，但他们并不是将所有得到的数据都作为输入，只有至少有2幅雷达图像至少有5%的空间区域高于或等于25dbZ的输入才能作为输入。（25dbZ阈值也是通过实验得到）。同时，作者采用旋转的方式对数据进行增强，在这里旋转不是随意的，需要符合地形，因此作者仅仅采用+/-45度。

FCN Design

由于本文的目的是通过历史数据得到预测的降水量，因此作者将此看作为回归任务。接下来看一下作者提出的SE-ResUNet，模型的输入为10x233x233，输出为1x233x233，在该模型中，作者首先提出了将ResNet模块嵌入U-Net来提高准确率，同时加入SE模块作为注意力机制去学习时序信息（SE模块能对10张雷达图像产生权重）。作者猜测：对于降水预测来说，网络学习临近时刻信息的重要性或权重更为重要，而这些权重可以通过注意力机制进行优化。
ResUNet模型设计如下：

Loss Function Design and Training Strategy

作者采用了RMSE作为训练的损失函数一部分，他将更多的权重放在对高dbZ部分的预测上。RMSE计算如下：

对气象学家来说，有一种术语叫做rain area ratio，即预测区域和实际降水区域重合比率，因此作者引入了IoU评价指标（IoU经常用于图像分割）作为损失函数，总的损失函数如下：

Results

接下来就是实验结果，作者首先展示了使用去噪模型得到的去噪结果，要更好于气象专家手工清洗的图像。结果如下：

左上，右上，左下，右下分别是原始雷达图像，噪声，去除噪声的雷达图像和手工清洗的雷达图像。

为了去预测未来2个小时的降水量，作者训练了20个模型，逐六分钟训练一个。以SE为注意力机制和在损失函数中加入IoU能够在一定程度上减轻损失函数收敛困难的问题。得到的结果如下：

Fig.8代表30分钟和60分钟的预测图像（上面是预测图像，下面是实况图像）
Fig.9代表90分钟和120分钟的预测图像（上面是预测图像，下面是实况图像）

评价指标如下：

结果显示时间越长，降雨强度越大，预测能力越弱。但是对于TrajGRU，本文提出的模型甚至能取得更好的效果。

Discussions

在本文研究中，作者整合了FCN作为回归器的使用，注意机制作为临近时刻学习者来使用，IoU在回归损失函数中的使用雷达数据的时空去噪，以及降水雷达数据的选择性制作。实验结果证明，在预测降雨方面，FCN方法提供了可比和更好的结果比RNN方法。作者认为，降水是时空事件，对时间方面的观测有限，但对空间方面的分辨率很高。因此，注意力机制似乎能像RNN一样捕捉时间特性。在进一步的实验中，作者还确定了未来90-120分钟预测精度下降的原因。当输入较长的时间序列时，情况得到了改善。2-3小时的雷达数据记录，作为训练输入能获得更好的预测。但训练序列比这更长，导致相反的结果。