【AI论文精粹】图形化解释工具；神经网络数据质量；LiDAR 语义分割；机器学习的应用

标题：GLIME：一种用于可解释模型不可知解释的新图形方法

时间：2021.7.21

作者：Zoumpolia Dikopoulou, Serafeim Moustakidis, Patrik Karlsson

机构：AIDEAS OÜ

链接：https://arxiv.org/abs/2107.09927

简介：

可解释人工智能（XAI）是一个新兴的领域，在这个领域中，一系列的过程和工具使人们能够更好地理解由黑盒模型生成的决策。然而，大多数可用的XAI工具通常仅限于简单的解释，主要是量化各个特性对模型输出的影响。因此，人类用户无法理解特征之间的相互关系以进行预测，而训练模型的内部工作机制仍然是隐藏的。本文致力于开发一种新的图形化解释工具，该工具不仅能显示模型的重要特征，而且能揭示特征之间的条件关系和推理，捕捉特征对模型决策的直接和间接影响。提出的XAI方法称为gLIME，它提供了全局（对于整个数据集）或局部（对于特定数据点）的图形模型不可知解释。它依赖于局部可解释模型不可知解释（LIME）与图形最小绝对收缩和选择算子（GLASSO）的结合，产生无向高斯图形模型。采用正则化方法将小的偏相关系数压缩到零，从而提供更稀疏、更易于解释的图形解释。选择两个著名的分类数据集（活检和OAI）来证实gLIME在稳健性和一致性方面优于LIME。具体来说，gLIME在两个数据集上实现了特征重要性方面的稳定性提高（76%-96%，而使用LIME则为52%-77%）。gLIME展示了一种独特的潜力，通过提供信息丰富的图形化解释，可以打开黑匣子，从而扩展XAI当前最先进的功能。

标题：用于提高神经网络对数据质量问题的鲁棒性的调制层

时间：2021.7.19

作者：Mohamed Abdelhack, Jiaming Zhang, Sandhya Tripathi, Bradley Fritz, Michael Avidan, Yixin Chen, Christopher King

机构：Washington University in St. Louis，University of California

链接：https://arxiv.org/abs/2107.08574

简介：

数据质量是机器学习中的一个常见问题，特别是在医疗保健等高风险环境中。缺失数据会影响复杂模式中的精度、校准和特征属性。开发人员经常在精心策划的数据集上训练模型，以最小化丢失的数据偏差；但是，这降低了此类模型在生产环境（如实时医疗记录）中的可用性。因此，使机器学习模型对缺失数据具有鲁棒性是实际应用的关键。一些分类器自然地处理缺失数据，而另一些分类器，如深度神经网络，则不是针对未知值设计的。我们提出了一种新的神经网络修正方法来减轻缺失数据的影响。这种方法的灵感来自于由生物神经网络进行的神经调节。我们的建议将完全连接层的固定权重替换为每个输入的附加输入（可靠性得分）函数，模仿大脑皮层基于其他数据的上下权重输入的能力。利用多层感知器与主任务联合学习调制函数。我们在多重分类、回归和插补问题上测试了我们的调制全连接层，它要么提高了性能，要么产生了与传统神经网络结构相类似的性能，将可靠性连接到输入。具有调制层的模型通过在评估时引入额外的缺失，对数据质量的降低更具鲁棒性。这些结果表明，通过调制全连接层明确说明信息质量的降低可以使人工智能系统在实时环境中部署。

标题：具有自监督和门控适配器的 LiDAR 语义分割中的无监督域适应

时间：2021.7.20

作者：Mrigank Rochan, Shubhra Aich, Eduardo R. Corral-Soto, Amir Nabatchian, Bingbing Liu

机构：Huawei Noah’s Ark Lab,

链接：https://arxiv.org/abs/2107.09783

简介：

在本文中，我们致力于一个探索较少，但更现实和复杂的问题领域自适应激光雷达语义分割。当训练（源域）和测试（目标域）数据来自不同的激光雷达传感器时，现有分割模型的性能会显著下降。为了克服这一缺点，我们提出了一种无监督的域自适应框架，该框架利用未标记的目标域数据进行自我监督，并结合一种不成对的掩码转移策略来减轻域转移的影响。此外，我们在网络中引入带有少量参数的选通适配器模块，以说明特定于目标域的信息。从真实到真实以及从合成到真实的LiDAR语义分割基准进行的实验表明，该方法比现有技术有显著的改进。

标题：基于ICA分析的机器学习在脑电信号上臂运动分类中的应用

时间：2021.7.18

作者：Pranali Kokate, Sidharth Pancholi, Amit M. Joshi

机构：MNIT

链接：https://arxiv.org/abs/2107.08514

简介：

脑-机接口系统是一个正在深入发展的运动实验领域，它对认知活动的解码起着至关重要的作用。从脑电信号中对认知运动表象活动进行分类是一项重要的任务。提出了一种利用多层感知器神经网络对左右手运动进行分类的独特算法。提取了人工统计时域和功率谱密度频域特征，综合准确率达96.02%。结果与深度学习框架进行了比较。除了准确度，精确度，F1分数和回忆被认为是性能指标。有害信号的干扰会污染脑电信号，影响算法的性能。因此，提出了一种利用独立分量分析去除伪影的新方法，提高了系统的性能。在选择提供可接受精度的适当特征向量之后。所有9名受试者都采用了同样的方法。结果，9名受试者的受试者内准确率为94.72%。结果表明，所提出的方法有助于上肢运动的准确分类。