基于EEG的脑机接口中的安全性问题

本分享为脑机学习者Rose整理发表于公众号：脑机接口社区 .QQ交流群：941473018

电子设备被攻击会带来非常严重的安全问题，尤其是医疗领域。当前的很多BCI设备应用于医疗领域。所以基于EEG的脑机接口、脑机交互等的安全性问题在未来会得到越来越多的关注。

今天介绍的这篇文章是华中科技大学，伍教授研究团队的一项研究。在这项研究中，研究人员研究了基于脑电图的BCI拼写的安全性问题。并希望在未来，基于脑机的安全性问题得到更多的关注。

脑-机接口(BCI)将人脑与电子设备连接起来的工具，通常使用脑电图(EEG)。近年来，机器学习(ML)的发展使得更先进的BCI拼写器的发展成为可能，这些设备允许人们可以使用自己思想与计算机进行通信交流。

到目前为止，该领域的大多数研究都集中于开发更快、更可靠的BCI分类器，而不是研究它们可能的安全漏洞。然而，最近的研究表明，无论是在计算机视觉、语音识别还是其他领域，机器学习算法有时会被攻击者欺骗，存在安全隐患。这通常是用对抗示例来完成的，而这些例子是人类无法区分的数据中的微小扰动。

华中科技大学的研究人员最近进行了一项研究，研究了基于脑电图的BCI拼写的安全性问题。具体来讲，研究了它们如何受到对抗性干扰的影响。论文已在arXiv上预先发表，论文表明，BCI的拼写者被这些干扰所欺骗，因此很容易受到对抗性攻击。

研究人员表示，“这篇文章的目的是揭示基于EEG的BCI拼写器以及更广泛的基于EEG的BCI所面临的安全性问题，这在以前很少受到关注，”。“这表明，人们可以为P300和稳态视觉诱发电位(SSVEP) spellers生成微小的对抗性脑电图微扰模板，用于目标攻击。即，将分类误导为攻击者想要的任何字符，无论户想要的字符是什么。”

P300 BCI拼写器已经在包括诊所在内的多个环境中用于评估或检测意识障碍。因此，对BCI拼写器的攻击可能会产生许多后果，从简单的可用性问题到严重的病人误诊。

研究人员表示：“我们相信，对抗性EEG干扰如何影响BCI分类的更详细的理解可以指导BCI的设计，用于防御此类攻击”。

研究人员发现，要对BCI拼写器进行成功的对抗性攻击，攻击者只需要访问一些用于训练设备的数据。他/她可以使用这些数据来训练扰动模板，然后将该模板添加到良性脑电图试验中来执行攻击。

目前进行对抗性攻击的方法有两个主要限制。首先，他们需要一些特定受试者的脑电图样本来创建对抗扰动模板。第二，为了更有效地实施攻击，攻击者需要知道脑电图刺激的准确时间。如果攻击者成功地克服了这些限制，他/她的攻击的影响可能会大得多。

研究人员表示:“在计算机视觉、语音识别和BCIs等许多机器学习应用中，防御对抗性攻击是一个常见的研究问题。”“如果我们知道攻击者采取的方法，那么我们就可以制定防御策略，就像我们防御电脑病毒一样: 病毒首先爆发，然后我们找到杀死它的方法。”

攻击者总是试图找到新的方法来绕过安全措施，所以研究人员继续研究系统漏洞并提出新的安全措施是很重要的。虽然在确定了特定的漏洞之后开发有针对性的安全解决方案是不可避免的，但是发现系统的一般问题并采取预防措施可能非常有用。

华中科技大学的研究团队进行的这项研究有助于揭示与基于EEG的BCI相关的一般安全风险。他们的发现可能有助于找出可能减少对抗性攻击对这些装置的影响的初步解决方案。

该研究团队希望他们的研究能鼓励其他人去研究基于脑电图的拼写器或其他BCI设备的局限性和弱点。他们的发现最终可以为加强BCI的安全性，防止误诊和对抗性攻击的其他不良影响铺平道路。

伍教授表示:“我们想强调的是，这项研究的目的不是要破坏基于脑电图的BCI，而是要证明对基于脑电图的BCI进行严重的对抗攻击是可能的，从而暴露出一个此前很少受到关注的关键安全问题。”“在未来的研究中，我们计划制定防御此类攻击的策略。同时，我们希望我们的研究能够引起更多研究者对基于脑电图的BCI安全性的关注。”

论文：
https://arxiv.org/abs/2001.11569

参考
华中科技大学研究团队揭示了基于EEG的脑机接口中的安全性问题
https://techxplore.com/news/2020-02-unveils-vulnerabilities-eeg-based-brain-computer-interfaces.html

本文章由脑机学习者Rose笔记分享,QQ交流群：941473018
更多分享，请关注公众号

基于EEG的脑机接口中的安全性问题相关推荐

用发型、妆容和面部形态解释人脸识别准确性的性别差异；在CARLA实施的基于交叉口情况覆盖的自动驾驶车辆验证和确认框架；迈向医学同行影响的Shapley价值图框架；确定运动想象脑机接口中各种用户状态和特
中文标题:用发型.妆容和面部形态解释人脸识别准确性的性别差异英文标题:Gendered Differences in Face Recognition Accuracy Explained by H ...
脑机接口中的后门攻击
本文来自伍冬睿科学网博客链接地址:http://wap.sciencenet.cn/blog-3418535-1256333.html?mobile=1 机器学习在脑机接口中的成功应用,使脑机接口得 ...
运动想象脑机接口中迁移学习的完整流程
点击上面"脑机接口社区"关注我们更多技术干货第一时间送达脑机接口(Brain-Computer Interface, BCI)可以让用户使用脑电信号直接与计算机或其他外部设备进 ...
深度学习技术在脑机接口中的应用
大家好! Rose给大家分享一下深度学习技术在脑机接口中的应用. 什么是脑机接口? 脑机接口(BCI)是一种系统,可将受试者(人类或动物)的大脑活动模式提取并转换为用于交互式应用程序的消息或命令.脑活 ...
伍冬睿教授：脑机接口中迁移学习的完整流程
大家好,今天Rose分享一篇关于脑机接口中的迁移学习的完整流程.本文由华中科技大学伍冬睿教授授权分享. 关于脑机接口中迁移学习方面的研究,伍教授团队做过大量的工作.之前社区分享过<脑机接口中的流 ...
脑机接口中的流形嵌入知识迁移学习
目录导读本分享为脑机学习者Rose整理发表于公众号:脑机接口社区 .QQ交流群:941473018 关于迁移学习应用在脑机接口领域,前面我们分享过伍冬睿教授团队的<华中科技大学伍冬睿教授:非 ...
基于音乐的脑机接口——采访Stefan Ehrlich 和 Kat Agres(上)
音乐可以唤起强烈的情绪并影响人类的行为.我们通过一系列复杂的认知操作来处理音乐.因此,它可以成为了解高级大脑功能的窗口,也可以用作诊断和治疗工具.那么我们如何才能理解音乐唤起情感的方式并将其有效地用于 ...
基于无线EEG的脑机接口和新型干式传感器进行游戏控制
脑机接口(BCI)是一种通信系统,通过将大脑信号转换成机器指令,帮助用户与外部环境进行交互.脑电信号的可用性和可靠性使其成为脑机接口最常用的方法.许多基于脑电图的脑机接口设备都是利用传统的湿式或微机电 ...
工程技术TOP期刊《Engineering》观点评述：基于脑电图的脑-机接口系统在实用化进程中面临的挑战...
许敏鹏[a,b], 何峰[a,b,*], 钟子平 [a,b,c], 顾晓松[b,d], 明东[a,b,*] [a] Departmentof Biomedical Engineering, Colle ...

基于EEG的脑机接口中的安全性问题

目录

基于EEG的脑机接口中的安全性问题相关推荐

最新文章

热门文章