在自然对话中解释机器学习模型——通过建立一个对话式的XAI代理；保护峰值：关于尖峰神经网络对对抗性示例的可转移性和安全性；SUNet：用于全景分段的具有规模意识的统一网络；一种新型的可用于主体转移脑机
可解释的机器学习
中文标题：在自然对话中解释机器学习模型——通过建立一个对话式的XAI代理
英文标题：Explaining Machine Learning Models in Natural Conversations: Towards a Conversational XAI Agent
时间：2022.9.6
作者：Van Bach Nguyen,Jörg Schlötterer,Christin Seifert
机构：杜伊斯堡-埃森大学（University of Duisburg-Essen）
链接：https://arxiv.org/pdf/2209.02552.pdf
简介：可解释人工智能（XAI）的目标是设计一种方法，提供对经验模型推理过程的见解，便于人类解释它们。社会科学研究指出，这种解释是对话形式的。本文中，展示了如何将XAI纳入对话式代理中，使用包括自然语言理解和生成组件的代理的标准设计。首先，需要建立一个XAI问题库，通过把控释义的质量来扩展这个问题库，以理解用户的信息需求。随后，通过系统地调查文献，寻找合适的解释方法，提供相关信息，并列出一个全面的建议清单。这将成为机器学习模型与解释代理迈向自然对话的第一步。XAI的相关问题和解释方法可以支持研究者提供必要的信息，以此满足用户的需求。
异步脉冲神经网络
中文标题：保护峰值：关于尖峰神经网络对对抗性示例的可转移性和安全性
英文标题：Securing the Spike: On the Transferabilty and Security of Spiking Neural Networks to Adversarial Examples
时间：2022.9.7
作者：Nuo Xu,Kaleel Mahmood,Haowen Fang,Ethan Rathbun,Caiwen Ding,Wujie Wen
机构：理海大学（Lehigh University）、康涅狄格大学（University of Connecticut）
链接：https://arxiv.org/pdf/2209.03358.pdf
简介：尖峰神经网络（SNNs）因其高能效和分类性能的最新进展而备受关注。然而，与传统的深度学习方法不同，SNNs在对抗性例子的鲁棒性上分析和研究相对不发达。本文中，通过实验和分析三个重要的SNNs安全属性来推进对抗性机器学习领域。首先，展现了对SNNs的成功白盒对抗性攻击高度依赖于底层的代理梯度技术。其次，分析了由SNNs和其他最先进的架构（如Vision Transformers和Big Transfer CNNs）产生的对抗性例子的可转移性。文中证明了SNNs并没有被Vision Transformers和某些类型的CNNs产生的对抗性例子经常欺骗。最后，开发了一种新的白盒攻击，它产生的对抗性例子能够同时骗过SNN模型和非SNN模型。文中的实验和分析涵盖了两个数据集（CIFAR-10和CIFAR-100），五个不同的白盒攻击和十二个不同的分类器模型。
大规模语义网络
中文标题：SUNet：用于全景分段的具有规模意识的统一网络
英文标题：SUNet: Scale-aware Unified Network for Panoptic Segmentation
时间：2022.9.7
作者：Weihao Yan,Yeqiang Qian,Chunxiang Wang,Ming Yang
机构：电气电子工程师学会（IEEE）
链接：https://arxiv.org/pdf/2209.02877.pdf
简介：全景分割结合了语义分割和实例分割的优点，可以为智能车辆提供像素级和实例级的环境感知信息，但它在分割各种尺度的物体上存在问题，特别是在极度大和小的物体上。本文中，提出了两个轻量级模块来缓解该问题。首先，Pixel-relation Block被设计用来模拟大规模事物的全局环境信息，它是基于与查询无关的一个公式，并带来小的参数增量。其次，构造对流网络来收集小规模事物的额外高分辨率信息，为下游的分割分支提供更合适的语义特征。基于这两个模块，文中提出了一个端到端的尺度感知统一网络（SUNet），它对多尺度物体的适应性更强。Cityscapes和COCO上的许多实验也证明了该方法的有效性。
脑机接口
中文标题：一种新型的可用于主体转移脑机接口的半监督元学习方法
英文标题：A Novel Semi-supervised Meta Learning Method for Subject-transfer Brain-computer Interface
时间：2022.9.7
作者：Jingcong Li,Fei Wang,Haiyun Huang,Feifei Qi,Jiahui Pan
机构：华南师范大学（South China Normal University）、 广东金融学院（Guangdong University of Finance）、琶洲实验室（Pazhou Lab）
链接：https://arxiv.org/pdf/2209.03785.pdf
简介：脑机接口 (BCI) 提供了人脑与外部设备之间的直接通信路径。在新受试者使用 BCI 之前，通常需要校准程序。由于主体间和主体内的差异如此之大，导致现有主体训练的模型在新主体上表现不佳。因此，有效的主体转移和校准方法很重要。本文中，提出了一种半监督元学习（SSML）方法，用于BCI的主体转移学习。首先，拟议的SSML利用现有科目学习元模型。然后以半监督学习方式对模型进行微调，使用少量标记和许多未标记的样本进行校准。这对于BCI应用非常重要，因为在这些应用中，标记的数据稀缺且昂贵，而未标记的数据很容易获得。为了验证SSML方法，测试了三种不同的BCI范式：事件相关电位检测；情绪识别；睡眠分期。在前两个范式上，SSML取得了超过15%的改善，在第三个范式上，SSML取得了4.9%的改善。结果证明，SSML方法在BCI应用中的很有效。
在自然对话中解释机器学习模型——通过建立一个对话式的XAI代理；保护峰值：关于尖峰神经网络对对抗性示例的可转移性和安全性；SUNet：用于全景分段的具有规模意识的统一网络；一种新型的可用于主体转移脑机相关推荐
- python 博弈论 库_6个Python库解释机器学习模型并建立信任
在机器学习模型中建立信任的案例 全球道路上大约有12亿辆汽车.这是一个令人毛骨悚然的问题-您认为实际上有多少驾驶员了解车辆的内部运行情况? 正如您可能已经猜到的,答案只有少数几个人.我们不需要了解驾驶 ...
- 独家 | 在R中使用LIME解释机器学习模型
作者:PURVAHUILGOL 翻译:陈丹 校对:欧阳锦 本文约3200字,建议阅读15分钟 本文为大家介绍如何在R中使用LIME来解释机器学习模型,并提供了相关代码. 关键词:机器学习模型解释.R语 ...
- 翻译：监控生产中的机器学习模型
介绍 一旦您将机器学习模型部署到生产环境中,很快就会发现工作还没有结束. 在许多方面,旅程才刚刚开始.您如何知道您的模型是否按照您的预期运行?当客户(或欺诈者)行为发生变化并且您的训练数据陈旧时,下周 ...
- 【赠书】金融领域可解释机器学习模型与实践
今天要给大家介绍的书是<可解释机器学习:模型.方法与实践>,涵盖了可解释机器学习前沿的研究成果及行业成功应用经验. 本书内容 本书分为三部分: 第一部分为背景,阐述黑盒模型存在的问题 ...
- LIME：一种解释机器学习模型的方法
在本文中,我们将介绍一种方法,用来解释这篇论文中的任何一种分类器的预测结果,并且用开源包来实现. 动机:我们为什么要理解预测结果? 机器学习如今是非常火的一个话题.随着计算机在围棋等游戏中击败人类专家 ...
- Python 中解释 XGBoost 模型的学习曲线
XGBoost是梯度提升集成算法的强大而有效的实现.配置XGBoost模型的超参数可能具有挑战性,这通常会导致使用既费时又计算量大的大型网格搜索实验.配置XGBoost模型的另一种方法是在训练过程中算 ...
- 独家 | 手把手教你在试验中修正机器学习模型（附学习资源）
作者:Seth DeLand 翻译:王威力 校对:万文菁 本文约1800字,建议阅读8分钟. 本文是一个循序渐进的指南,包括如何预处理数据和从中生成特征.并且还包含其他示例资源的链接,以帮助您探索有关 ...
- 沙普利值（Shapley value）是怎么解释机器学习模型的？
Shapley value 我们先介绍一下沙普利值.沙普利值来源于合作博弈,cooperative game (coalitional game).区别于传统博弈认为个体之间是相互独立的并分析其纳什均 ...
- lime 深度学习_用LIME解释机器学习预测并建立信任
lime 深度学习 It's needless to say: machine learning is powerful. 不用说:机器学习功能强大. At the most basic level, ...
最新文章
- php sqlite3菜鸟,SQLite Update 语句
- bootstrap学习（四）输入框、导航
- 极速理解设计模式系列：22.状态模式(State Pattern)
- uva 10692——Huge Mods
- 数据的属性及“数据的特征”
- 【安全牛学习笔记】Kali Linux***测试介绍
- Android Okhttp 配置HTTPS
- Mac下安装激活matlab2017b教程方法
- KDJ指标公式的应用要则是什么KDJ指标公式的使用技巧是什么
- 利用uniapp实现手机摇一摇H5项目
- 宁静以致远——浅析《临江仙．滚滚长江东逝水》
- web项目连接阿里云云数据库RDS-MySQL8.0
- 使用 Amazon Personalize 快速搭建推荐服务
- 运行maven生成的jar包显示class “XXX“ not found
- 在2020年开发像TikTok这样的移动应用需要花多少钱？
- 分享蔡澜老师的自问自答
- 《用递归法解决问题》教学设计
- Windows安全防范手册
- 项目组如何保持人员稳定性
- 江小白新十年之战，迎来“国家队”入局助阵