【AI论文精粹】透明度图灵测试；尖峰神经网络；NodePiece；脑电解码方法

标题：透明度图灵测试

时间：2021.6.21

作者：Felix Biessmann, Viktor Treu

机构：无

链接：https://arxiv.org/abs/2106.11394

简介：

可解释人工智能（XAI）的一个中心目标是改善人工智能交互中的信任关系。透明人工智能系统研究的一个假设是，解释有助于更好地评估机器学习（ML）模型的预测，例如，使人类能够更有效地识别错误预测。然而，最近的经验证据表明，解释可能产生相反的效果：当提出ML预测的解释时，人类往往倾向于相信ML预测，即使这些预测是错误的。实验证据表明，这种效应可以归因于人工智能或解释的直观程度。这种效应挑战了XAI的目标，这意味着负责任地使用透明AI方法必须考虑到人类区分机器生成和人类解释的能力。本文提出了一种基于图灵模拟博弈的XAI方法的量化度量，即图灵透明性检验。询问者被要求判断一个解释是由人还是由XAI方法生成的。在这个二进制分类任务中，人类无法检测到的XAI方法的解释通过了测试。检测这样的解释是评估和校准人工智能交互中的信任关系的一个必要条件。我们在一个众包文本分类任务上给出了实验结果，证明即使对于基本的ML模型和XAI方法，大多数参与者也无法区分人类和机器生成的解释。我们讨论了我们的结果对透明ML应用的伦理和实践意义。

标题：用于神经形态调节水库计算和 EMG 手势识别的尖峰信号

时间：2021.6.22

作者：Nikhil Garg, Ismael Balafrej, Yann Beilliard, Dominique Drouin, Fabien Alibart, Jean Rouat

机构：Université de Sherbrooke

链接：https://arxiv.org/abs/2106.11169

简介：

表面肌电图（sEMG）信号源于肌肉运动，因此，它们是事件驱动传感和计算基准测试的理想候选。受储层计算中读出层概念的启发，我们提出了一种简单而新颖的优化尖峰编码算法超参数的方法。使用一个简单的机器学习算法后，尖峰编码，我们报告的性能高于国家的最先进的尖峰神经网络在两个开源数据集的手势识别。尖峰编码的数据通过一个具有生物启发的拓扑结构和神经元模型的尖峰库进行处理。当使用无监督的活动调节临界算法训练水库在混沌边缘运行时，水库的性能优于最先进的卷积神经网络。对Roshambo肌电图数据集和传感器融合数据集的肌电图子集，水库动态调节率分别为89.72%和70.6%。因此，与传统的人工智能算法相比，以节能著称的生物启发计算范式也有很大的潜力。

标题：NodePiece：大型知识图的组合和参数高效表示

时间：2021.6.23

作者：Mikhail Galkin, Jiapeng Wu, Etienne Denis, William L. Hamilton

机构：McGill University

链接：https://arxiv.org/abs/2106.12144

简介：

知识图谱 (KG) 的传统表示学习算法将每个实体映射到唯一的嵌入向量。这种浅查找导致存储嵌入矩阵的内存消耗线性增长，并在使用真实世界的 KG 时产生高计算成本。与 NLP 中常用的子词标记化相似，我们探索了可能具有亚线性内存要求的参数效率更高的节点嵌入策略的前景。为此，我们提出了 NodePiece，一种基于锚点的方法来学习固定大小的实体词汇表。在 NodePiece 中，子词/子实体单元的词汇表由具有已知关系类型的图中的锚节点构成。给定这样一个固定大小的词汇表，可以为任何实体引导编码和嵌入，包括那些在训练期间看不见的实体。实验表明，NodePiece 在节点分类、链接预测和关系预测任务中具有竞争力，同时在图中保留不到 10% 的显式节点作为锚点，并且参数通常少 10 倍。

标题：用于 EEG 解码的基于 Transformer 的时空特征学习

时间：2021.6.11

作者：Yonghao Song, Xueyu Jia, Lie Yang, Longhan Xie

机构：IEEE

链接：https://arxiv.org/abs/2106.11170

简介：

目前，人们通常采用一些基于卷积神经网络（CNNs）的方法对脑电图（EEG）进行解码。然而，CNNs在感知全局依赖性方面存在局限性，这对于具有强整体关系的常见EEG范式是不够的。针对这一问题，本文提出了一种基于注意机制的脑电解码方法。首先对脑电数据进行预处理和空间滤波。然后，在特征通道维度上进行注意转换，使模型能够增强更多相关的空间特征。最关键的一步是在时间维度上对数据进行切片，进行注意力转换，最终得到高度可分辨的表征。在这个时候，全局平均池和一个简单的完全连接层被用来分类不同类别的脑电数据。在两个公共数据集上的实验表明，注意转换策略有效地利用了空间和时间特征。在脑电多分类中，参数较少，达到了最先进的水平。据我们所知，这是第一次提出一个详细而完整的方法，基于变压器的思想在这一领域。它对促进脑机接口（BCI）的实用化具有良好的潜力。源代码可以在以下位置找到：\textit{this https URL}。