如何用一束激光欺骗神经网络

2024-05-12 02:37:33

来自于CVPR2021的一篇文章"Adversarial Laser Beam: Effective Physical-World Attack to DNNs in a Blink"

这一个在物理世界的对抗样本攻击，以图像分类任务为例，对抗样本就是在正常的图像上添加一些人为的噪声，使得分类器出错，同时人眼无法分辨出这些噪声（肉眼还是能够正常分类的）。

有关于对抗样本攻击，可以参考我的这篇文章

如上图所示，在添加激光之后，相机所拍摄到的图片出现了变化，进而影响了分类器的结果。
大巴在红色激光的作用下被分类成两栖动物，路牌则被分类成洗手液自动发放器。

物理世界的对抗样本，顾名思义就是对真实的物理世界进行干扰，生成对抗样本。和传统的对抗样本不同的是，传统对抗样本，特别是白盒攻击，会利用模型生成一系列噪声。而物理世界的对抗样本通常很难构造出这样的噪声，受限于拍照的角度，环境的亮度等条件。

以往的工作通常都是打印出来一系列图片，而这个工作，降低了对抗样本的构造成本，只需要一个激光笔。

攻击步骤

文章所给出的激光攻击步骤十分简单，如下图所示：

激光由几个参数所决定：截距bbb，射入角度rrr, 波长λ\lambdaλ以及激光宽度www

文章的攻击是这么做的，随机的挑选参数中的一个，然后生成对抗样本，如果分类置信度降低，则保留当前参数设置，整体上类似贪心的策略。

实验结果观察

可以看到并不是随着波长增加，攻击生成率增加，而是当波长到达580nm的时候到达一个峰值。

波长580nm表现为黄色

成功最高的两个配置为上图中右侧的两种情况，看上去似乎是激光覆盖面积越大攻击成功率越高。

能不能防住呢？

由于这种攻击不像传统的对抗样本可以简单生成，所以文章随机添加了一些样本进行训练，结果如下图所示：

可以看到一定程度上降低了成功率，攻击所需的次数也增大了。但是这种物理世界的对抗样本的威胁还是存在的，我们目前的模型仍然可能被其他手段欺骗，鲁棒性AI的目标仍然是一个开放的亟待解决的问题。

如何用一束激光欺骗神经网络相关推荐

一束激光冒充人声：110米外黑掉智能音箱，手机电脑平板也中招
郭一璞光栗子发自凹非寺量子位报道 | 公众号 QbitAI 周末的下午,你正在家里打游戏,不曾注意到身旁的智能音箱上,多出了一个小绿点. 那是一束激光,来自窗外马路对面的另一栋建筑. 突然, ...
知物由学 | 未来安全隐患：AI的软肋——故意欺骗神经网络
本文由网易云发布. "知物由学"是网易云易盾打造的一个品牌栏目,词语出自汉·王充<论衡·实知>.人,能力有高下之分,学习才知道事物的道理,而后才有智慧,不去求问 ...
如何欺骗神经网络，让它把熊猫识别为秃鹫
摘要:本文作者基于论文阅读及实测,以尝试欺骗神经网络的方式,从工具安装到模型训练,逐步解析神经网络及其背后的数学原理.文章还提供了演示代码下载. 神奇的神经网络当我打开Google Photos并从 ...
python3 神经网络_如何在Python 3中欺骗神经网络
python3 神经网络 The author selected Dev Color to receive a donation as part of the Write for DOnations ...
神经网络算法是黑盒_在黑盒内窥视如何欺骗神经网络
神经网络算法是黑盒 Neural networks get a bad reputation for being black boxes. And while it certainly takes c ...
如何用Python和循环神经网络预测严重交通拥堵？
作者 | 王树义来源 | 玉树芝兰(nkwangshuyi) 本文为你介绍,如何从 Waze 交通事件开放数据中,利用序列模型找到规律,进行分类预测.以便相关部门可以未雨绸缪,提前有效干预可能发生的 ...
如何用计算机模拟光的传播,一种模拟激光辐射颗粒的数值建模方法与流程
本发明涉及计算机模拟仿真领域,具体涉及一种激光辐射颗粒的热辐射模拟仿真领域. 背景技术: 在激光烧结技术中,激光的参数与作用方式会直接影响到烧结件的质量.考虑到激光光斑及粉末粒径的尺寸太小且激光扫描的 ...
如何用 Python 和循环神经网络预测严重交通拥堵？
本文为你介绍,如何从 Waze 交通事件开放数据中,利用序列模型找到规律,进行分类预测.以便相关部门可以未雨绸缪,提前有效干预可能发生的严重拥堵. 寻找之前在<文科生如何理解循环神经网络(RN ...
激光SLAM学习--多种类激光雷达介绍（单线、多线）
参考:https://zhuanlan.zhihu.com/p/33792450 前言上一次的分享里,我介绍了一个重要的感知传感器--摄像机.摄像机作为视觉传感器,能为无人车提供丰富的感知信息.但是 ...
图片识别 python 神经网络,人工神经网络图像识别
人们识别图像是靠形状,那AI是怎么识别图像的? 德国研究团队给出一个原因,这个原因出乎意料:人类会关注图中对象的形状,深度学习计算机系统所用的算法不一样,它会研究对象的纹理.首先人类向算法展示大量图片 ...

最新文章

热门文章