在AI眼前“隐身”，用特制贴欺骗AI计算机视觉
文章来源：ATYUN AI平台
虽然机器学习系统的能力很强，但他们并不聪明，因为他们缺乏常识。研究人员利用这一点对图像识别系统进行了一次精彩的攻击。他们对系统使用特殊印制的贴纸，这个贴纸会吸引AI的注意力，以至于让AI完全无法看到其他任何东西。（为什么我会觉得这个贴纸可能很快会成为流行配饰）
计算机视觉是一个非常复杂的问题，只有通过认知捷径的方式，人类才能正确地识别看到的东西，所以计算机要做同样的事情。
这些AI系统所采用的捷径之一就是不会为每个像素指定相同的重要性。假设有一张房子的照片，房子背后有天空，前面有一小块草地。一些基本的规则使计算机明白，尽管天空和草地都存在，但这不是“天空”或“草地”的图像。这样它考虑了这些背景，然后花费更多的时间来分析中间的形状。
谷歌的研究人员想知道：如果你破坏这个捷径，让计算机忽视这个房子，把注意力集中在他们选择的东西上会怎样？
他们通过训练一个对抗系统来创建一个分散目标系统注意力的小圆圈，在圈内尝试许多颜色、形状和大小的配置，并观察哪些特征会引起图像识别器的注意。AI已经学会观察的特定曲线，指出除背景以外的其他颜色的组合等等。
最终出现的效果如下：
把它放在系统已知的另一个物体旁边，例如香蕉，它会马上忘记香蕉，并认为这张图片是漩涡。图像中的名称表示创建贴纸并将其与现有图像合并的不同方法。
这个贴纸是基于特定系统而不是基于特定图像做出的，也就是说，无论图像识别系统在看什么，这个贴纸都会干扰它。
我们可以利用它做些什么？如果在你的衣服或包上粘上几个，也许机场或警察机构的图像分类器会分心，以至于不会记录你的存在。不过，如果你想实现这一点，你必须知道它上面运行着什么系统，然后测试几千种不同的贴纸图案才行。所以在这里我们只是提出了一种可能性。
以往欺骗计算机视觉系统的尝试通常依赖于反复对图像进行小的改动，以确定是否能在一些战略性的位置上改变少量像素来达成目的（例如将乌龟错认成枪支的研究）。但是这些研究人员称之为强的、高度区域化的“扰动”构成了另一个非常有趣的威胁。
我们的攻击会在现实世界中起作用，它可以伪装成无害的贴纸。这些结果表明可以离线创建的攻击，然后广泛共享…
即使人类能够注意到这些贴纸，他们也很难知道这个贴纸的作用，而是将其视为一种艺术形式。所以，这项工作表明，只注重防范小扰动是不够的，因为大的局部扰动也可能破坏分类器。
论文地址：https://arxiv.org/pdf/1712.09665.pdf
本文转自ATYUN人工智能媒体平台，原文链接：在AI眼前“隐身”，用特制贴欺骗AI计算机视觉
更多推荐
AI根据人们走路的姿态和方式判定情绪
继旧金山之后，萨默维尔成为美国第二个禁止面部识别技术的城市
Cruise正在测试其自动驾驶汽车对紧急车辆的响应能力
机器学习技术如何应用于股票价格预测？（上）
在AI眼前“隐身”，用特制贴欺骗AI计算机视觉相关推荐
- 一张贴纸欺骗AI，对抗性补丁让人类隐身
一张贴纸欺骗AI,对抗性补丁让人类隐身 Fooling automated surveillance cameras: adversarial patches to attack person det ...
- 谷歌参展攻略！AI皮影戏、3D作画、与AI共舞...嗨翻魔都（附视频）
来源:大数据文摘 作者:睡不着的Iris.魏子敏 本文约3200字,建议阅读8分钟. 本文介绍了谷歌在上海举办艺术展,带领大家看看如何将人工智能和绘画.音乐和皮影戏全面结合起来. 谷歌来上海啦! 虽然 ...
- 当 AI 掌握「读心术」：DeepMind AI 已经学会相互理解
有时候,我们会觉得 Siri 或 Alexa 等数字助理非常令人失望,因为它们根本不懂我们人类.它们需要懂点被心理学家称为「心智理论」(theory of mind)的东西,搞清楚别人的信念和意图.最 ...
- 重磅！CSDN 发布「AI开源贡献奖Top5」「AI新锐公司奖Top10」「AI优秀案例奖Top30」三大榜单...
2020 年无疑是特殊的一年,AI 在开年的这场"战疫"中表现出惊人的力量.站在"新十年"的起点上,CSDN发起[百万人学AI]评选活动.我们继续聚焦AI的技术 ...
- 腾讯AI种番茄双丰收：参赛AI全胜专家，辽宁试点净利增千元
6月9日,腾讯宣布了两项AI+农业领域进展.在研究侧,腾讯 AI Lab 与荷兰瓦赫宁根大学(下称WUR)联办的"第二届国际智慧温室种植挑战赛"(下称比赛)落幕.在全球疫情肆虐之时 ...
- 154 万 AI 开发者用数据告诉你，中国 AI 如何才能弯道超车？| 中国 AI 应用开发者报告...
曾经,软件吞噬世界. 现在,AI 吞噬软件. 作者 | 屠敏 数据 | 杨阳.刘学涛 可视化&策划 | 唐小引 出品 | CSDN(ID:CSDNnews) 从三年前年薪 25 万只是白菜价, ...
- 7年增长16倍，清华AI+ML课程学生数暴增 | AI Index 2018
整理 | 非主流 出品 | AI科技大本营 用数据解读 AI. 昨日,来自斯坦福大学.MIT.哈佛.OpenAI 等高校与企业的多位专家正式发布了 2018 年度 AI Index 报告,用一系列数据 ...
- MIT将AI引入中学课堂，除了设计AI系统，还要学生思考背后的伦理
大数据文摘出品 来源:MIT 编译:曹培信 近日,姚期智领衔主编.清华姚班师资做编委的高中AI教材在清华举行了签约仪式,AI走进高中课堂又迈出了坚实的一步.近期,MIT的研究人员也开发了一个AI课程, ...
- 2019全球AI文创大赛正式启动，AI科技赋能新文创
6月25日下午,2019全球AI文创大赛(GAAC)在清华大学召开启动仪式新闻发布会. 2019全球AI文创大赛由清华大学文化创意发展研究院.清华大学人工智能研究院.清华大学艺术与科技创新基地.艺评网 ...
最新文章
- MPB：中科院城环所杨军组-水体浮游植物采集与鉴定
- 【AI实战】快速掌握TensorFlow（二）：计算图、会话
- vins中imu融合_基于非线性优化算法—当视觉SLAM遇到VINS会碰撞出怎样的火花？
- C#三层架构第四课之DAL层
- wince投屏苹果手机_怎么把手机上的导航映射到中控屏
- 山东大学 2020级数据库系统 实验五
- 如何使用async / await和Firebase数据库编写漂亮的Node.js API
- 2017 开源软件排行_2017年面向设计师和艺术家的顶级开源解决方案
- HowToDoInJava Java 教程·翻译完成
- UICollectionViews有了简单的重排功能
- c语言求素数_C语言 | 求100~200的素数
- PHP函数库03：PHP生成曲线图函数
- 有感于中国的系统分析员考试
- BigDecimal 基本使用 比较大小和加减乘除
- Gin Web框架简单介绍
- 计算机excel表格教程高级筛选6,Excel高级筛选
- 北海焊接机器人_北海中型机械手臂生产,机械手
- FPS游戏：实现GDI方框透视
- 程序员26条做网站的定律原理和效应
- 如何体面的解决浏览器首页被hao123绑架