IMS-FACNN(Improved Multi-Scale Convolution Neural Network integrated with a Feature Attention Mecha

介绍一篇2020年上海科技大学的论文，改进的带有注意力机制的多尺度卷积网络。

1.引言

2.网络架构

3.模型细节

3.1改进的多尺度粗粒度处理过程

3.2特征注意力层

3.3整体架构

5.实验

6.结论

1.引言

传统的基于信号处理的诊断方法，如EMD,VMD,ELMD等，基于时频分析，流行学习，或稀疏表征。上述方法提取的特征都将作为浅的（shallow）学习机（SVM,Logistic Regression）的输入。然而，这些学习方法的上限严重依赖提取特征的好坏。更为重要的是，由于诊断能力的限制，这些浅学习模型将会导致其在复杂工况下的泛化能力变差。限制主要有以下三点：1.特征提取与分类两个影响诊断表现的过程的设计却独立地测试（没有考虑特征提取与分类器的兼容性）。2.特征提取过程需要专家知识以及信号处理方面的技巧，这费时费力。3.现有的诊断方法以及非常独特以至于难以应用于其他工业领域。也就是泛化性不好。

深度学习可以克服以上缺点，在分类和预测任务中表现优异。深度学习的优点：1.非线性高维表征能力。2.直接连接数据不需要提取特征。3.强学习能力以及泛化性。

引入CNN，较少的计算资源由于权重共享和稀疏连接。传感器信号一般为1D信号，就出现了一部分将1D信号转2D图像作为2DCNN输入的方法（频谱图。小波谱）。然而，2D图像作为CNN模型的输入无法学习信号中的固有振动特征。因此1DCNN被使用来提取更详细的特征。并且【25】证明，原始信号作为CNN的输入训练出的模型在负载工况下具有更好的泛化能力和鲁棒性。振动信号通常包含多尺度的特征，但是深度CNN难以很好的捕捉固有的多尺度特征【27】。小的batch更适合处理图像而大的batch更适合处理1D时序信息。【30】证明1D原始信号作为CNN输入更有效相对于2D图像。更多敏感的信息被提取出来时，模型准确率更高且更稳定。

因此，作者提出IMS-CACNN，特征注意力层来适应学习的权重，不需要搜索最优的时间尺度。主要贡献有以下：1.提出IMS-CACNN获取不同尺度的振动特征。2.引入特征注意力机制来自适应的处理融合学习到的多尺度特征。3.研究了最优的mini-batch。

2.网络架构

3.模型细节

3.1改进的多尺度粗粒度处理过程

在传统的多尺度诊断的研究中，由于使用了不重叠的窗口划分时间尺度，一些固有特征信息将被忽略。因此，本文使用重叠的窗口滑移去提取信号。

3.2特征注意力层

特征注意力机制可自适应的为不同尺度下学习到的特征打分并分配他们的权重。

3.3整体架构

不同尺度的子层的特征通过注意力机制融合，然后进入分类层来诊断故障类别。

5.实验

5.1CWRU数据集上抗噪性能

5.2CWRU数据集上迁移性能

5.3混合工况（0hp-3hp）下不同模型的对比结果

In order to reflect the effectiveness and superiority of the proposed IMS-FACNN model, a scenario of mixed data with different noise is set, where training set includes 0HP,1HP, 2HP and 3HP clean bearing vibration signals, the testing set includes 0HP,1HP, 2HP and 3HP bearing vibration signals with different SNR.

为了证明所提出 IMS-FACNN模型的高效性和优越性，在没有噪音的复合工况（0hp-3hp）上训练模型。测试时加入噪声，也就是说测试集为复合工况+不同分贝的噪声。

6.结论

提出了IMS-FACNN，直接作用于原始振动信号。连续滑移采样，保证多尺度。引入注意力机制。

1.由于引入改善多尺度粗粒度（粗纹理）（coarse-grained）步骤，可以提取更有效的信息并且具有抗干扰性（anti-interference）。

2.可以区分故障类别以及故障程度。

3.多场景（multiple scenario），负载工况下，相较于其他方法（MS-CNN，MC-CNN）有着更高的精度。

4.对于真实场景下的风机数据，IMS-FACNN模型达到了很好的诊断精度。

5. The “2nd scale” plays a leading role instead of “1st scale” when distinguishing the outer race bearing fault.

来自不同尺度的学习特征的分类结果表明：注意力机制赋予较大权重的特征对分类的表现更为明显。尽管有些权重小的特征对分类结果影响不大，但不同尺度的特征间也有互补的作用。

python的学习还是要多以练习为主，想要练习python的同学，推荐可以去看，他们现在的IT题库内容很丰富，属于国内做的很好的了，而且是课程+刷题+面经+求职+讨论区分享，一站式求职学习网站，最最最重要的里面的资源全部免费。

牛客网 - 找工作神器|笔试题库|面试经验|实习招聘内推，求职就业一站解决_牛客网求职之前，先上牛客，就业找工作一站解决。互联网IT技术/产品/运营/硬件/汽车机械制造/金融/财务管理/审计/银行/市场营销/地产/快消/管培生等等专业技能学习/备考/求职神器，在线进行企业校招实习笔试面试真题模拟考试练习，全面提升求职竞争力，找到好工作，拿到好offer。https://www.nowcoder.com/link/pc_csdncpt_ssdxjg_python

他们这个python的练习题，知识点编排详细，题目安排合理，题目表述以指导的形式进行。整个题单覆盖了Python入门的全部知识点以及全部语法，通过知识点分类逐层递进，从Hello World开始到最后的实践任务，都会非常详细地指导你应该使用什么函数，应该怎么输入输出。

牛客网（牛客网 - 找工作神器|笔试题库|面试经验|实习招聘内推，求职就业一站解决_牛客网）还提供题解专区和讨论区会有大神提供题解思路，对新手玩家及其友好，有不清楚的语法，不理解的地方，看看别人的思路，别人的代码，也许就能豁然开朗。

快点击下方链接学起来吧！

牛客网 - 找工作神器|笔试题库|面试经验|实习招聘内推，求职就业一站解决_牛客网