一张贴纸骗过AI识别？对抗性机器学习是什么东西？
https://www.toutiao.com/a6686999598004699655/
一张贴纸骗过AI识别？对抗性机器学习是什么东西？
来自比利时鲁汶大学 (KU Leuven) 几位研究人员最近的研究发现，借助一张简单打印出来的图案，就可以完美避开 AI 视频监控系统。也就是说在具备AI物体识别的监控系统中，只需要一张简单的打印图案，即可让人工智能忽略掉这个正在移动的物体，包括人体在内。像电影《十二猴子》中那样通过固定视频场景来欺骗视频监控，有了更好更简单的办法。
这种针对欺骗AI的方式利用了一种称为对抗性机器学习的方法。大多数计算机视觉系统依赖训练 (卷积) 神经网络来识别不同的东西，方法是给它提供大量样本，调整它的参数，直到它能正确地分类对象。通过将样本输入一个训练好的深度神经网络并监控输出，可以推断出哪些类型的图像让系统感到困惑。
这种方法也可以用来隐藏某些对象。例如，如果监视系统被设计为检测物体而不是人，那么 “补丁” 也可以将汽车之类的物体隐藏起来。可以想象，这种伎俩可以让骗子躲避安全摄像头。“我们的工作证明，使用对抗性补丁绕过摄像机监控系统是可能的，” 作者之一 Wiebe Van Ranst。
Van Ranst 说，将这种方法应用于现成的视频监控系统应该不会太难。“目前我们还需要知道使用的是哪种检测器。我们未来想做的是生成一个补丁，可以同时在多个检测器上工作，” 他说。“如果这种方法有效，那么这个补丁也很有可能对监控系统中使用的检测器有效。”当然，这个 “补丁” 目前并非万无一失，如果它在画面中不是清晰可见的，或者角度发生了变化，AI 系统都能迅速 “发现” 画面中的人类。
不过，这项研究是学术界首次尝试使用 2D 打印技术将人类从检测系统中隐藏起来。之前的工作主要是使用带有特殊框架的眼镜来欺骗人脸识别软件，或使用对抗样本欺骗图像分类系统，例如用一张贴纸就能令 AI 将香蕉误认为是烤面包机，用几张贴纸就能将自动驾驶系统 “骗” 进反车道。
在人工智能被广泛应用于安保监控、自动驾驶、图片识别等一系列广泛领域的今天，这种对抗性机器学习技术的出现无异于是一种反潮流的存在。不过正因为人工智能技术的广泛应用，这种对它弱点的研究正好也促进了技术进一步发展，通过不断修正方向、弥补缺点，人工智能技术才能往更智能更全面更优秀的方向发展。
一张贴纸骗过AI识别？对抗性机器学习是什么东西？相关推荐
- AI识别彻底懵逼，这到底是“牛”还是“鲨”？
来源:AI科技评论 作者:耳洞打三金 本文约6200字,建议阅读15分钟 是牛or鲨鱼? 看到封面和标题,PA的一下我就点进来了,很快啊...... 大家好我是三金,求大家快来帮帮我! 我和编辑部的同 ...
- 一张贴纸欺骗AI，对抗性补丁让人类隐身
一张贴纸欺骗AI,对抗性补丁让人类隐身 Fooling automated surveillance cameras: adversarial patches to attack person det ...
- 打开正经图片，你可能会看到一张黄图，这种造假方法能同时骗过AI和人眼
晓查 发自 凹非寺 量子位 报道 | 公众号 QbitAI 你能看出下面两张图有什么区别吗? △ 点击查看大图 它们看起来一样,都是广场风景照.只是右边的仔细一看,会发现有些"奇怪的点阵& ...
- 达摩院 AI 进入中国科技馆，首张 AI 识别新冠 CT 成科技抗疫历史见证
简介: 5 月 29 日消息,全国科技工作者日来临之际,一个特别的藏品入选中国科技馆"2020 数字馆藏"--阿里巴巴达摩院 AI 识别标注的第一张新冠肺炎 CT 影像.达摩院AI ...
- opencv双线程图片处理_打开正经图片，你可能会看到一张黄图，这种造假方法能同时骗过 AI 和人眼...
程序员爱码士点击右侧关注,探讨技术话题! 晓查 发自 凹非寺 量子位 报道 | 公众号 QbitAI 你能看出下面两张图有什么区别吗? △ 点击查看大图 它们看起来一样,都是广场风景照.只是右边的仔 ...
- Adobe 使用 AI 识别 PS “照骗”；Java 要被 kotlin 打败了？
(点击上方蓝字,快速关注我们) 转自:开源中国.solidot.cnBeta.腾讯科技等 0.Adobe 使用 AI 识别 PS 过的照片 作为"亚洲四大邪术"之一,如今的PS技术 ...
- 1秒识别200个假大牌 成本降50% 清华阿里邀全国人才用20张图锻造“打假AI”
近日,阿里安全.清华大学联合发起一项通过极少的训练样本锻造"打假AI"的挑战--"ICME-2022 安全AI挑战者计划第九期:小样本商标检测挑战赛",并在赛题 ...
- 带口罩也能解锁iPhone！中国网友用一张白纸骗过Face ID，外国网友把脸印在口罩上
受新冠疫情影响,出门要带口罩.在办公场所也要带口罩,随之而来的一个问题是:我的iPhone不认识我了,面部识别解锁手机挂了,天天输入密码解锁真的很麻烦-- 然而就在这几天,陆续看到很多朋友表示自己的i ...
- 通过学习生物范式，寻找解决AI识别噪音的新方法
来源:ScienceAI 编辑:萝卜皮 人工智能可以看到我们看不到的东西--通常是有害的.虽然机器在识别图像方面已经非常擅长,但仍然很容易愚弄它们.只需在输入图像中添加少量人眼无法察觉的噪声,AI 就 ...
最新文章
- 进入编译器后，一个函数经历了什么？
- Elasticsearch 教程--入门
- Python爬虫之Scrapy框架使用selenium
- mysql 分区表详解
- K-Means算法Demo
- 强大的Canvas开源库Fabric.js简介与开发指南
- Ubuntu上安装Robomongo及添加到启动器
- c语言输入一串字符辨别奇偶,c语言设计输入一个正整数判断其中各个数字是否奇数偶数交替出现是输出yes不是输出no...
- 嵌入式工作笔记0007---对讲机嵌入式开发记录---认识对讲机的功能--随时更新
- es查询大文本效率_【搜索引擎】 4-ES在大数据量下提高查询效率方案
- 北京科技大学计算机控制大作业,北京科技大学计算机控制系统实验报告
- CCF201412-5 货物调度【费用流】（100分解题链接）
- 阿姆达尔定律（Amdahl's law）
- IS-IS详解（二）——IS-IS邻居建立
- QT修改应用程序图标
- 电脑蓝屏后的文件数据怎么恢复？电脑蓝屏的原因有哪些
- 陈经纶2021年高考成绩查询时间,北京30余所高中2017年高考成绩汇总
- 一、为何我决定写Spring Cloud专栏
- 黑鲨怎么修改服务器,黑鲨自定义安装系统教程图解
- php-ews发送邮件,PHP-EWS将电子邮件移动到文件夹