笔者在毕设期间翻译了此论文。

Spatial-Spectral Transformer for Hyperspectral Image Classification_外文翻译

摘要
关键字
1.前言
2.用于高光谱图像分类的空间-光谱变换器
- 2.1基于CNN的HSI空间特征提取
- 2.2用于HSI分类的光谱空间转换器
- 2.3动态特征增强
3.用于高光谱图像分类的异质传输空间-光谱变换器
- 3.1.两个数据集的异质性映射
- 3.2.建议用于HSI分类的T-SST
- 3.3.建议用于HSI分类的T-SST-L
4.实验结果
- 4.1.高光谱数据集
- 4.2.训练详情
- 4.3.参数分析
- 4.4.SST和SST-FA在HSI分类中的分类结果
- 4.5.拟议的用于HSI分类的T-SST和T-SST-L的分类结果
- 4.6.拟议的T-SST的变压器编码器表示法的分析
- 4.7.分类地图
- 4.8.时间消耗
5.结论

摘要

最近，已经提出了许多基于深度卷积神经网络(CNN)的方法用于高光谱图像(HSI)分类。尽管提出的基于CNN的方法具有空间特征提取的优点，但它们难以处理序列数据，并且CNN不擅长对远程依赖关系进行建模。然而，HSI的光谱是一种序列数据，HSI通常包含数百个波段。因此，CNN很难很好地处理HSI处理。另一方面，基于注意力机制的Transformer模型已经证明了其在处理序列数据方面的优势。为了解决远距离捕获HSI序列光谱关系的问题，在本研究中，研究了Transformer用于HSI分类。具体而言，在本研究中，提出了一种新的分类框架，名为空间光谱变换器(SST)，用于HSI分类。在提出的SST中，使用设计良好的CNN来提取空间特征，并提出改进的Transformer（具有密集连接的Transformer，即DenseTransformer）来捕获序列谱关系，并使用多层感知器完成最终的分类任务。此外，提出了动态特征增强，旨在缓解过拟合问题，从而很好地泛化模型，并将其添加到SST(SST-FA)中。此外，针对HSI分类中训练样本有限的问题，将迁移学习与SST相结合，提出了另一种分类框架Transfer-SST（T-SST）。最后，为了缓解过拟合问题并提高分类精度，为基于T-SST的分类框架(T-SST-L)引入了标签平滑。建议的SST、SST-FA、TSST和T-SST-L在三个广泛使用的高光谱数据集上进行了测试。获得的结果表明，与最先进的方法相比，所提出的模型提供了具有竞争力的结果，这表明Transformer的概念为HSI分类打开了一个新窗口。

关键字

分类;卷积神经网络（CNN）；高光谱图像（HSI）；变压器

1.前言

由于成像光谱学的进步，高光谱传感器倾向于以越来越高的空间和光谱分辨率捕获给定场景的反射强度[1]。获得的高光谱图像（HSI）同时包含空间特征和不同物体的连续诊断光谱[2]。因此，获得的丰富信息使HSI在许多领域有用，包括有效测量农业绩效[3]、植物病害检测[4]、矿物鉴定[5]、疾病诊断和图像引导手术[6]、生态系统测量[7]，和地球监测[8]。为了充分利用获得的HSI，已经探索了许多数据处理技术，例如解混合、检测和分类[8]。HSI分类旨在对场景中每个像素的内容进行分类[9]，这是应用中的基本程序，例如在地球监测中识别土地覆盖类别的类型[10]。

在过去的二十年中，已经提出了许多用于HSI分类的监督方法[11]。在HSI分类的早期阶段，HSI分类方法仅使用光谱信息。[12]中介绍了一个典型的光谱分类器，它基于支持向量机（SVM）。SVM表现出对高维的低敏感性[13]；因此，已经提出了许多基于SVM的分类器来处理HSI[14]的光谱分类。随着成像技术的发展，高光谱传感器可以提供丰富的观测场景空间信息。开发光谱空间分类器是合理的。已经开发了许多形态学操作来提取HSI的空间特征以进行空间光谱分类，例如形态剖面(MP)[15]、扩展MP(EMP)[16]、扩展多属性剖面(EMAP)[17]和消光曲线(EP)[18]。然而，上述HSI分类器并不是深度模型[11]。

近年来，深度学习技术，特别是深度卷积神经网络（CNN），彻底改变了遥感数据处理的手段。恒指分类任务也不例外。在[19]中，引入了堆叠自动编码器作为HSI特征提取和分类的深度模型。之后，一些深度学习模型，如深度信念网络[20]、CNN[21,22]、循环神经网络[23,24]、生成对抗网络[25,26]和胶囊网络[27,28]对HSI分类进行了研究，并获得了良好的分类性能。

由于其局部连接和共享权重，这使得它可以有效地捕获局部相关性，CNN对于图像处理非常有用，包括HSI分类。根据模型的输入信息，基于CNN的HSI分类方法可以分为三种类型：光谱CNN、空间CNN和光谱-空间CNN。基于光谱CNN的HSI分类接收像素向量作为输入，并使用CNN仅在光谱域中对HSI进行分类。例如，胡等人。提出了具有五个卷积层的一维CNN来提取HSI[29]的光谱特征。此外，[30]中提出了一项有趣的工作，该工作使用CNN提取像素对特征进行HSI分类，并获得了良好的分类性能。

基于空间CNN的方法是第二种基于CNN的HSI分类方法。得到的HSI除了光谱信息外，还包含丰富的空间信息；因此，使用空间CNN（2-DCNN）来提取HSI的空间特征是合理的。大多数现有的基于空间CNN的HSI分类方法都是在一个或几个主成分上进行的。例如，在[31]中，属于他的第一个主成分的以像素为中心的邻居的裁剪空间补丁被用于训练用于HSI分类的2-DCNN。

基于光谱-空间CNN的方法是第三种基于CNN的HSI分类方法，旨在在统一的框架中联合利用光谱和空间HSI特征。由于HSI的输入是三次张量，因此3-D卷积用于HSI分类[32]。例如，在[33]中，He等人。提出了一种3D深度CNN，通过计算多尺度特征来联合提取空间和光谱特征。在[34]中，3-D卷积层和批归一化层分别用于提取光谱空间信息和正则化模型。由于基于CNN的方法获得了良好的分类性能，近年来CNN已成为HSI分类的事实标准。

现有的用于HSI分类的CNN模型已经达到了最先进的性能；但是，仍然存在一些限制。首先，输入HSI的一些信息被忽略了，并且在基于CNN的方法中没有得到很好的探索。CNN是一种基于向量的方法，它将输入视为像素向量的集合[35]。对于HSI，它本质上在谱域中具有基于序列的数据结构。因此，在处理高光谱像素向量时，使用CNN会导致信息丢失[36]。其次，学习带的远距离位置之间来回的远程顺序依赖是困难的。由于卷积运算处理的是局部邻域，因此CNN的感受野受到其内核大小和层数的严格限制，这使得它在捕获输入数据的远程依赖关系方面不太有利[37]。因此，很难学习HSI的长程依赖性，通常包含数百个光谱带。

最近，已经提出了一种名为Transformer[38]的模型，它基于自注意力机制[39]，用于自然语言处理。Transformer使用注意力在输入序列中绘制全局依赖关系。对于包括Transformer在内的深度学习模型，存在梯度消失的常见问题，这阻碍了训练过程中的收敛[40]。为了缓解梯度消失问题，本研究提出了一种新型的Transformer，它使用密集连接来加强特征传播，名为DenseTransformer。
此外，针对HSI分类提出了两个基于DenseTransformer的分类框架。第一个分类框架结合了CNN、DenseTransformer和多层感知器。在第二个分类框架中，迁移学习策略与Transformer相结合，以有限的训练样本提高HSI分类性能。

本研究的主要贡献总结如下：

1）提出了一种名为DenseTransformer的改进型Transformer，它使用密集连接来缓解Transformer中的梯度消失问题。

2)针对HSI分类提出了一种新的分类框架，即空间光谱变换器(SST)，它结合了CNN、DenseTransformer和多层感知器(MLP)。在提出的SST中，使用精心设计的CNN提取HSI的空间特征，提出的DenseTransformer用于捕获HSI的序列光谱关系，并使用MLP完成分类任务。

3）此外，提出了旨在缓解过拟合问题并因此很好地泛化模型的动态特征增强，并将其添加到SST中以形成新的HSI分类方法（即SST-FA）。

4）提出了另一种新的分类框架，即转移空间-光谱变换器（T-SST），以进一步提高HSI分类的性能。所提出的T-SST在大型数据集上使用预训练的VGG-like模型作为SST中使用的CNN的初始化；因此，它通过有限的训练样本提高了HSI分类的准确性。

5)最后，将标签平滑引入到基于Transformer的分类中。标签平滑与T-SST相结合，形成了一种名为TSST-L的新HSI分类方法。
本文的其余部分安排如下。为HSI分类提出的SST和转移SST分别在第II节和第III节中介绍。第四节报告了实验结果和讨论。第五节介绍了本研究的结论。

2.用于高光谱图像分类的空间-光谱变换器

Spatial-SpectralTransformerforHyperspectralImageClassification提出的用于HSI分类的SST框架如图1所示。总的来说，分类方法分为三个部分：基于CNN的空间特征提取、基于改进的Transformer的空间-光谱特征提取和基于MLP的分类。
首先，对于HSI的每个波段，选择包含待分类像素的相邻像素的2D补丁作为输入。训练样本有

Spatial-Spectral Transformer for Hyperspectral Image Classification_外文翻译相关推荐

Spatial-Spectral Transformer for Hyperspectral Image Classification
论文地址:https://doi.org/10.3390/rs13030498 Abstract 近年来,人们提出了大量基于深度卷积神经网络(CNN)的高光谱图像(HSI)分类方法.本文提出的基于cn ...
计算机视觉英文论文,数字图像处理外文翻译外文文献英文文献数字图像处理方法研究.doc...
数字图像处理外文翻译外文文献英文文献数字图像处理方法研究 PAGE PAGE 10 The research of digital image processing technique 1 I ...
大学计算机专业全英文论文,5计算机专业外文文献英文文献外文翻译 jsp应用框架中英对照大学学位论文.doc...
5计算机专业外文文献英文文献外文翻译 jsp应用框架中英对照大学学位论文外文JSP application frameworks brian wright.michael freedman ...
微型计算机系统外文,微型计算机控系统（单片机控制系统）毕业论文外文翻译.doc...
微型计算机控系统(单片机控制系统) 毕业论文外文翻译英语翻译 Microcontroller reset is to make the CPU and other system features a ...
计算机php外文翻译,php外文翻译.doc
文档介绍: 附录A外文翻译-原文部分PHPLanguageBasicsActiveServerPages(PHP)isaproven,well-establishedtechnologyforbuil ...
计算机专业英语外文翻译,计算机专业英语JAVA介绍外文翻译[共28页]
<计算机专业英语JAVA介绍外文翻译[共28页]>由会员分享,可在线阅读,更多相关<计算机专业英语JAVA介绍外文翻译[共28页](28页珍藏版)>请在读根文库上搜索. 1.荆 ...
计算机jsp外文文献,计算机 JSP web 外文翻译外文文献英文文献
计算机 JSP web 外文翻译外文文献英文文献外文资料所译外文资料: ①作者:Dan Malks ②书名:Professional JSP ③出版时间: 2000.7.26 ④所译章节: C ...
基于jquery的ajax聊天室系统,基于jQuery的Ajax聊天室应用毕业设计（含外文翻译）...
基于jQuery的Ajax聊天室应用毕业设计(含外文翻译) 毕业设计(论文) I 基于基于 jQuery 的的 Ajax 聊天室应用聊天室应用摘摘要要随着网络的逐渐普及,以及网络技术的不断发展, ...
ML之XGBoost：XGBoost参数调优的优秀外文翻译—《XGBoost中的参数调优完整指南(带python中的代码)》(四)
ML之XGBoost:XGBoost参数调优的优秀外文翻译-<XGBoost中的参数调优完整指南(带python中的代码)>(四) 目录 Step 3: Tune gamma步骤3:伽马微 ...

Spatial-Spectral Transformer for Hyperspectral Image Classification_外文翻译

Spatial-Spectral Transformer for Hyperspectral Image Classification_外文翻译

摘要

关键字

1.前言

2.用于高光谱图像分类的空间-光谱变换器

Spatial-Spectral Transformer for Hyperspectral Image Classification_外文翻译相关推荐

最新文章

热门文章