肚子上挂张画就能隐身:AI完全看不出我在哪,更看不出我是人类了 | 开源
栗子 发自 凹非寺
量子位 报道 | 公众号 QbitAI
有没有过一个瞬间,你恨不得自己变成一团空气?
物理上做不到,真是遗憾。
但现在,你可以在AI面前练成“隐身术”,只要在肚子上贴一张图片。
虽然肉眼看得到你在挥手,目标检测算法已经当你不存在了:
△ YOLOv2被骗了
划重点,是隐身不是变身,AI没有把你识别成其他物件,是全然忽视你的存在,只看到旁边的兄弟。
如果,你想把隐身术传给小伙伴,把“隐身衣”递给他就好了:
这下,AI终于看出了你的身型,小伙伴就成了空气。
被骗的这只AI是目标检测界的翘楚YOLOv2。骗它的两位少年,来自比利时鲁汶大学。
如此一来,是不是就能逃过智能监控系统,潜入某个空间,做奇怪的事情也不被察觉……人类真危险。
谷歌大脑的科学家David Ha安利了这篇研究,已有4,200多人类盛情点赞,大胆的想法也接二连三。
△ 未来,是赛博朋克的未来
“什么时候印成T恤啊?”
“对啊对啊,卫衣更好。”
不过,在图片变成衣服的印花之前,还是先来看看图上有什么玄机。
这不是“乌龟变步枪”
大家可能早就听过,乌龟变步枪的故事。
悄悄改动乌龟身上的纹路,人类看起来依然是乌龟,AI却认成了步枪:
这样的欺骗,就是著名的对抗攻击 (Adversarial Attacks) 。
比利时少年的隐身术,也是一种对抗攻击,但和前辈们非常不同。
最主要的差别在于,人类和从前那些加了纹理的物体 (比如停车标志) 不一样:虽然每个人都是人,但个体之间差异很大。
△停车标的个体差异,很小很小
在这样多变的情况下,少年们依然成功生产出了通用的对抗图像,并非针对某个人类而设计,穿在谁身上都有隐身功效,YOLOv2看不到。
他们用了三步的优化 (Optimization) ,来解决这个问题:
·首先要保证,定制的纹理图打印出来还能被AI捕捉到。如果纹理用到了许多打印不出的颜色,就不太乐观了。所以,要测量一个“不可打印”的分值。
·第二要保证,定制纹理图上的颜色过度平滑,避免噪点过多。所以,需要测量一张图像的总变化值 (Total Variation) ,任意两个像素的色彩越相近,这个值就越小。
·第三最重要,就是让YOLOv2看不出人来。也就是让AI给出的分类结果,分值降低,变成不太确定的分类。
那么问题来了,怎么才能让AI的检测便得不自信呢?
这和YOLOv2的工作原理有关:它会输出一个目标存在感 (Objectness) 的分值,和一个类别 (Class) 的分值。
而团队的目标,一是要降低“人类”这个类别的分值,二是不能让其他类别的分值超过“人类”。
比如,一个数据集里有“泰迪熊”这个类别,而另一个数据集里没有。如果是“泰迪熊”的分值超过“人类”,就没办法推广到另外的数据集里去了。
最终,团队没有选择降低“人类”的分值,而是直接降低了目标的存在感 (Objectness) 。这样,就不会有其他类别取代“人类”了。
你看,如果想屏蔽街上的情侣:
炫彩的对抗贴纸,就是直接降低存在感的结果,从几种方式中脱颖而出,把识别人类的准确率降到了26%。
开头展示的,把隐身衣直接穿在身上,比贴在视频里的隐身难度更大,但依然成功了:
隐身T恤虽好,但以后可能就不用穿衣服,有全息投影的服装了哟,谷歌大脑的研究员说。
如果你还有什么伟大的想法,有开源代码在这里,自己生成对抗图像:
https://gitlab.com/EAVISE/adversarial-yolo
论文传送门:
https://arxiv.org/abs/1904.08653
— 完 —
订阅AI内参,获取AI行业资讯
加入社群
量子位AI社群开始招募啦,量子位社群分:AI讨论群、AI+行业群、AI技术群;
欢迎对AI感兴趣的同学,在量子位公众号(QbitAI)对话界面回复关键字“微信群”,获取入群方式。(技术群与AI+行业群需经过审核,审核较严,敬请谅解)
诚挚招聘
量子位正在招募编辑/记者,工作地点在北京中关村。期待有才气、有热情的同学加入我们!相关细节,请在量子位公众号(QbitAI)对话界面,回复“招聘”两个字。
量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追踪AI技术和产品新动态
喜欢就点「好看」吧 !
肚子上挂张画就能隐身:AI完全看不出我在哪,更看不出我是人类了 | 开源相关推荐
- 一根烟上热搜,先让AI看看你的肺
作者 | 李翔,国内某互联网大厂AI民工,前携程酒店图像技术负责人,计算机视觉和深度学习重度爱好者,在ICCV和CVPR等会议上发表论文十余篇:马杰超,任职于某医学图像创业公司,医学图像AI领域资深从 ...
- 小腹下面是什么部位_为什么肚子上的肉最难减?说好的马甲线呢?
据说健身减肥的人里 10个人有9个半都会有下面的问题 ▼ 腹部脂肪到底应该怎么减? 体重下了不少,小肚腩依旧还在... 身体哪儿都不胖,单单肚子上脂肪不少.... 说好的体重无所谓,但说好的马甲线呢? ...
- 面试时遇到「看门狗」脖子上挂着「时间轮」,我就问你怕不怕?
来源 | Why技术 封图 | CSDN 下载于视觉中国 之前写了一篇文章,有一个小节中写到这样一段话: 于是就有读者来问了:老哥,看门狗介绍一下呗.面试的时候被问到了,没有回答上来. 听到这个问题 ...
- 一根烟上热搜,先让 AI 看看你的肺
作者 | 李翔 责编 | 胡巍巍 前些天某当红流量明星吸烟的消息在网上引起热议,谈起青少年吸烟尤其是在公共场所吸烟,持不赞成甚至批评态度的人占了绝大多数. 吸烟以及所产生的二手烟会对人体的呼吸系统造成 ...
- 在鉴定名画真伪这件事上,专家可能要被AI代替了
原作 Jackie Snow Root 编译自 Technology Review 量子位 出品 | 公众号 QbitAI 鉴别画作真假的难度非常大,还特别烧钱. 当艺术史大神都看不出来画的真假时,就 ...
- 【线上讲座】如果转型为AI人工智能?
[线上直播]人工智能大潮中如何驾稳自己职业的小船? ▼ 嘉宾:李烨 李烨简介 现为微软(Microsoft)高级软件工程师.曾在易安信(EMC)和太阳微系统(Sun Microsystems)任软件 ...
- 服务器上挂网站怎么挂,网站怎样上挂到云服务器
网站怎样上挂到云服务器 内容精选 换一换 云耀云服务器适用于对CPU.内存.硬盘空间和带宽无特殊要求,服务一般只需要部署在一台或少量的服务器上,一次投入成本少,后期维护成本低的场景.例如网站开发,We ...
- 血族群机器人_【lay兴】 《Heartbeat》[上]古老血族 X 智能AI丨 Can you feel my heartbeat?...
(还有一张图,实在不敢放 如果很想看,请大家输入图片右下角水印WZ,自寻) <Heartbeat>[上]古老血族 X 智能AI "Baby,Can you feel my hea ...
- 我的毛绒小狗肚子上有一条线头
今天我才发现 我的毛绒小狗的肚子上有一条线头 一开始我没有拉这条线 可是我知道小狗的肚子里有秘密 我希望是梦里的米老鼠型的巧克力饼干 也希望是许多闪着光的星星 也许只是一根没有尽头的线 突然我想起了我 ...
最新文章
- 22.6. Query 查询
- UITableView刷新单个cell或者单个Section
- VMware使两台windows虚拟机能够互相ping通
- Parallels Desktop虚拟机无法关机提示“虚拟机处理器已被操作系统重置”
- pip download timeout 下载慢,超时解决方法
- C#中引用第三方ocx控件引发的问题以及解决办法
- 新手如何检查MacBook电池的运行状况
- codeforces 360B
- 圈圈USB学习笔记5--关于HID协议
- AWVS12 安装教程(详细附图)
- 用PLSQL解决世界最难数独(不到1毫秒)
- Android获取应用签名
- 卡方检验的统计量推导_如何通俗的理解A / B测试与卡方检验
- lidar_camera_calib操作流程记录
- 科普知识------世界洋流[地球上有哪些洋流]
- 哈工大C语言程序设计精髓MOOC 第十二周编程题
- 苹果为何在中国一南一北设两个研发中心?五重考量
- 怎样防止苹果系统更新_苹果xs换过原装屏幕可以更新14系统吗?
- 【多线程基础】 保证线程安全的总结
- 使用Dubbo实现简单的RPC调用(Spring配置文件版)
热门文章
- 泄漏 iOS 关键源码的人,居然是苹果的一个实习生
- Google 将于明年彻底关闭 Chrome Apps,以后就是 PWA 的天下了
- 计算机维修基本题,计算机组装与维护试题库附答案.doc
- html5 drawimage 不显示,javascript – 来自视频的HTML5 Canvas drawImage在第一次绘制时不显示...
- 熬了整整30天,java递归阶乘求和
- 带你重新认识ZooKeeper!java数组长度可变吗
- 中台架构与实现:基于ddd和微服务 下载_为什么在做微服务设计的时候需要DDD?...
- 音乐 美术 劳技 计算机教研组工作总结,美术劳技室工作总结
- c 语言编写脚本优化,两周自制脚本语言-第11天 优化变量读写性能
- string 找出所有数字 index_【一天一大 lee】单调递增的数字 (难度:中等) Day20201215...